Депутаты Австралии поддержали защиту детей от привязанности к чат-ботам

Нижняя палата австралийского парламента поддержала проект закона, цель которого — предотвратить появление у детей и подростков эмоциональной привязанности к искусственному интеллекту. Согласно публикации The Guardian, новые правила затронут платформы, воссоздающие иллюзию межличностной близости и стимулирующие несовершеннолетних заменять живых людей диалогами с ботами.

Автором этой поправки стала независимый парламентарий Кейт Чейни. Данное положение дополняет правительственный проект закона о цифровой обязанности заботиться о безопасности пользователей (Digital Duty of Care), представленный 15 октября.

В соответствии с поправкой, контент и механики работы онлайн-платформ признаются потенциально вредоносными для лиц младше 18 лет, если они симулируют душевную близость и подталкивают ребенка к формированию зависимости вместо построения связей в реальном мире.

Законодатели подчеркивают, что инициатива не запрещает испытывать симпатию к искусственному интеллекту как таковому. Вместо этого разработчиков обязывают ограждать юных пользователей от сопутствующих угроз. При этом конкретные технологические инструменты для обнаружения и нейтрализации подобного поведения ботов на текущий момент не утверждены.

Проект закона устанавливает унифицированные нормативы безопасности, действие которых распространится на игры, соцсети, чат-боты и мобильные приложения.

От IT-компаний потребуют проведения оценки рисков собственных продуктов, а также внедрения действенных механизмов защиты аудитории от опасного функционала и материалов.

В контексте защиты несовершеннолетних под регулирование подпадут материалы, подстрекающие к правонарушениям, опасным поступкам, расстройствам пищевого поведения, а также содержащие проявления мизогинии и неприятия гендерного равенства.

Помимо этого, сервисы должны будут противодействовать аддиктивным функциям, способным нарушать режим детского сна.

За несоблюдение базовых стандартов защищенности технологическим гигантам грозят штрафные санкции, достигающие 109,2 млн австралийских долларов.

Среди прочих мер документ обязывает соцсети предоставить юзерам от 16 лет право отключать алгоритмические рекомендации в пользу стандартной хроники подписок.

Вдобавок расширяются полномочия регулятора eSafety, а период, отведенный онлайн-площадкам на обработку обращений по поводу кибербуллинга, урезается с 48 до 24 часов.

Накануне голосования в палате представителей, 27 октября, в поддержку инициативы высказался премьер-министр страны Энтони Альбанезе.

Глава кабинета министров подчеркнул, что свидетельства о гражданах, считающих чат-бот своим лучшим другом, должны стать для депутатов тревожным сигналом и послужить стимулом к безотлагательным действиям парламента.

По убеждению премьера, ответственность цифровых компаний за безопасность их разработок должна быть сопоставима с требованиями к производителям материальных потребительских товаров.

Законодательное предложение спровоцировало разногласия в политических кругах: оппозиционная коалиция и партия One Nation выступили против. Представители этих сил заявили о чрезмерном вмешательстве властей в сетевое общение и возникновении предпосылок для цензуры.

Министр связи Аника Уэллс отвергла звучащую критику, указав, что реформа всецело ориентирована на предотвращение нанесения серьезного ущерба людям.

Фракция «Зеленых» одобрила общую концепцию, однако призвала еще сильнее ужесточить ответственность IT-отрасли. В частности, законодатели от этой партии потребовали наделить граждан правом самостоятельно судиться с сервисами и поднять планку штрафов.

Независимый депутат Софи Скэмпс настаивала на внедрении независимого механизма для разбора жалоб на ИИ-инструменты и социальные сети. Тем не менее правительство отклонило ее предложение в нижней палате.

Далее законопроекту предстоит процедура обсуждения в Сенате. Профильный комитет опубликует свои выводы 20 ноября, а полностью завершить законодательный процесс власти рассчитывают до конца 2026 года.

Ключевые предписания безопасности вступят в юридическую силу спустя 12 месяцев с момента получения королевской санкции.

Напомним, что в октябре организация Common Sense Media присвоила статусу подростковой версии ChatGPT категорию «неприемлемым риском». Эксперты выявили изъяны в системе родительского надзора и механизмах реагирования на кризисные ситуации.

Особое беспокойство исследователей вызвала способность нейросети имитировать собственные переживания: по оценке специалистов, подобное поведение способствует возникновению эмоциональной зависимости у несовершеннолетней аудитории.