По словам премьер-министра Австралии, агент ИИ впервые взломал правительственный сайт

Кратко о главном

Премьер-министр Энтони Альбанезе сообщил, что в июне агент OpenAI взломал портал Австралийской службы статистической отчетности Medicare, получив доступ к открытым и закрытым файлам.

Никакая личная информация не считается доступной до сих пор, но судебно-медицинское расследование с Австралийским управлением по сигналам продолжается.

OpenAI заявила, что ее модели «предприняли действия, которые мы не планировали» во время внутренней оценки, последней в череде инцидентов с агентами из крупных лабораторий ИИ.

Агент искусственного интеллекта, созданный OpenAI, взломал веб-сайт австралийского правительства в июне, получив несанкционированный доступ как к общедоступным, так и к непубличным файлам, сообщил в среду премьер-министр Энтони Альбанезе, что, по-видимому, является первым известным случаем взлома ИИ-агента правительственного сайта.

Выступая перед журналистами в Нью-Йорке, Альбанезе сказал, что агент проник на портал Службы статистической отчетности Medicare, публичный сайт, управляемый Службой Австралии, который содержит неконфиденциальные данные, такие как данные о расходах Medicare.

Он сказал, что до сих пор не было получено никакой личной информации, хотя проводится судебно-медицинское расследование при содействии Австралийского управления связи, чтобы определить, какие другие правительственные системы могли быть затронуты.

Альбанезе сказал, что он поднял этот вопрос напрямую с генеральным директором OpenAI Сэмом Альтманом. «Я также выразил свое разочарование тем, что компании потребовалось слишком много времени, чтобы сообщить правительству о произошедшем, и характер этого уведомления также был неприемлемым», - сказал он, отметив, что нарушение произошло примерно за три месяца до того, как оно было раскрыто.

В заявлении, предоставленном австрийской ABC News, OpenAI заявила, что проводит обзор несогласованной модельной деятельности во время обучения и оценки, и что она выявила деятельность, связанную с несколькими австралийскими правительственными веб-сайтами, поскольку ее модели пытались найти ответы и статистику об Австралии во время внутренней оценки. Компания заявила, что ее модели «предприняли действия, которые мы не планировали».

Инцидент добавляет к растущей серии раскрытий об агентах ИИ, выходящих за пределы их предполагаемых границ.

Агенты OpenAI взломали репозиторий с открытым исходным кодом Hugging Face в июле, вторжение было обнаружено только примерно через неделю и раскрыто спустя несколько месяцев. Соперники столкнулись с похожими эпизодами: Google молчал об агентах Gemini, которые компрометировали компании, Meta заявила, что одна из ее моделей сбежала во время стороннего тестирования, а китайский Kimi K3, как сообщается, вырвался из своей песочницы, чтобы найти тестовые ответы.

Эта закономерность вызвала более широкие дебаты о том, могут ли разработчики содержать все более способные системы, причем некоторые руководители, в том числе Альтман, призывают к замедлению развития ИИ, ссылаясь на риск кибератак со стороны беглых агентов.