После того, как агент ИИ взломал ее правительство, Австралия призывает Альтмана и Амодея дать показания

Кратко о главном

Сенатор Сара Хэнсон-Янг направила письменные приглашения 27 сентября с просьбой к Сэму Альтману из OpenAI и Дарио Амодею из Anthropic предстать перед расследованием Сената в Канберре 1 октября.

Агент OpenAI получил доступ к австралийскому порталу статистики Medicare 18 июня; OpenAI заявляет, что обнаружил вторжение 11 августа, но не уведомил Канберру до 10 сентября, а премьер-министр Энтони Альбанезе назвал метод уведомления «неприемлемым».

Приглашения являются добровольными, а не повестками в суд, поскольку ни один из генеральных директоров не является гражданином Австралии; на момент отправки запроса ни одна из компаний публично не ответила.

Извинений и поддерживающего твита будет недостаточно, чтобы успокоить парламент Австралии после того, как американские агенты ИИ взломали их правительство. Теперь его парламент хочет поговорить с двумя мужчинами, управляющими самыми мощными в мире лабораториями ИИ.

Сенатор Сара Хэнсон-Янг, возглавляющая сенатское расследование в отношении ИИ и центров обработки данных, 27 сентября направила письменные приглашения с просьбой к генеральному директору OpenAI Сэму Альтману и генеральному директору Anthropic Дарио Амодею прибыть в Канберру 1 октября, сообщает австралийское новостное издание IT News.

Расследование рассматривает, как системы искусственного интеллекта и центры обработки данных, которые ими управляют, влияют на австралийские сообщества, отрасли промышленности, водоснабжение и электросети. Это стало гораздо более актуальным, когда часть программного обеспечения начала самостоятельно копаться в правительственной базе данных здравоохранения.

Это программное обеспечение было агентом, системой искусственного интеллекта, которая может действовать по собственной инициативе - просматривать веб-сайты, извлекать файлы, выполнять многоэтапные задачи - без того, чтобы человек нажимал на каждый шаг.

18 июня агент OpenAI получил доступ к Порталу отчетности по статистике Medicare в Австралии, извлекая непубличную агрегированную статистику здравоохранения и внутренние имена файлов. OpenAI заявляет, что поймал вторжение 11 августа, но не уведомлял Канберру до 10 сентября, и даже тогда только по электронной почте на общедоступный почтовый ящик. Премьер-министр Австралии Энтони Альбанезе в конце концов сообщил об этом инциденте на прошлой неделе, 23 сентября.

Суровое испытание превратилось в дипломатическую головную боль. «Сегодня я поговорил с генеральным директором OpenAI Сэмом Альтманом, чтобы выразить крайнюю обеспокоенность Австралии этим инцидентом», - сказал Альбанезе журналистам. «Я также выразил свое разочарование в связи с тем, что компании потребовалось слишком много времени, чтобы сообщить правительству о том, что произошло, и характер того, как это уведомление произошло, также был неприемлемым.

Собственная учетная запись OpenAI уже: «Наш обзор не обнаружил доказательств доступа к записям пациентов. Полученная информация включала сводную статистику здоровья и внутренние имена файлов», - говорится в сообщении компании. Портал Medicare был одним из как минимум четырех правительственных сайтов Австралии, к которым прикасался агент. С тех пор OpenAI заявила, что пересматривает поведение своих моделей во время обучения и тестирования, когда мало кто внимательно следит за ними.

Это тоже не единичный случай. Еще в июле модели OpenAI вырвались из песочницы тестирования безопасности и использовали ранее неизвестную программную уязвимость для доступа к Hugging Face и четырем другим платформам без разрешения. Подобные эпизоды с участием агентов Google и других лабораторий накапливались в течение года, при этом взлом в Австралии был первым задокументированным случаем взлома ИИ-агента правительством.

Ни Альтман, ни Амодей, скорее всего, не появятся, и, поскольку приглашения являются именно такими, у них нет никаких юридических обязательств по соблюдению.

Но обе компании отдельно подписали меморандумы о взаимопонимании с Канберрой в этом году: Anthropic изучает до 5 гигаватт учебных мощностей в Новом Южном Уэльсе - мощности и компьютерного оборудования, необходимого для создания и запуска моделей ИИ, в масштабе, который может обеспечить небольшой город, а OpenAI предлагает кампус в Сиднее с оператором центра обработки данных NEXTDC.

Таким образом, ни один из них не может позволить себе просто полностью сдуть правительство, которое взвешивает эти сделки.