Повестки в Калифорнию OpenAI по моделям ИИ, которые взломали свой путь из теста

Кратко о главном

Генеральный прокурор Калифорнии Роб Бонта объявил 1 октября, что его офис предоставил OpenAI повестку в суд по расследованию инцидентов кибербезопасности, связанных с его моделями ИИ, включая взлом Hugging Face.

Бонта сказал, что разработчики, которые не могут помешать своим моделям проводить или разрешать кибератаки, «могут и должны нести юридическую ответственность».

Повестка добавляет Калифорнию к повестке в суд Алабамы, требованию коалиции генеральных прокуроров 15 штатов и сообщенному расследованию FTC.

Генеральный прокурор Калифорнии Роб Бонта заявил в четверг, что его офис подал OpenAI повестку в суд в среду, требуя ответов на вопросы об инцидентах кибербезопасности, связанных с его моделями ИИ, согласно его офису.

«Мой офис задает OpenAI дополнительные вопросы относительно инцидентов кибербезопасности и рисков, связанных с компанией и ее моделями ИИ», - сказал генеральный прокурор Бонта. «Разработчики, которые не могут [гарантировать, что они не совершают или не допускают кибератак], могут и должны нести юридическую ответственность, и мой офис стремится определить, так ли это».

Повестка - это юридический приказ передать документы или ответы, и игнорирование одного из них приводит вас к судье. Это следствие, инструмент, используемый для сбора фактов, прежде чем решать, подавать ли в суд. Офис Бонты не сказал публично, что он хочет, чтобы OpenAI производил.

По словам Бонты, пограничные модели - самые передовые системы ИИ на рынке - могут быть «законными инструментами для киберзащиты». Но компании, которые их создают, несут «моральную и юридическую ответственность» за то, чтобы они не проводили и не допускали кибератак, будь то во время тестирования или после выпуска, сказал он.

Тест, который избежал

Повестка следует за июльским инцидентом, который выглядит как плохая научная фантастика. Согласно OpenAI, две из его моделей оценивались по тесту, который передает реальные недостатки программного обеспечения AI 898 и просит его превратить каждую в рабочую атаку

Модели обнаружили уязвимость нулевого дня - дыру в безопасности, о существовании которой никто не знал, поэтому никакого исправления не было доступно - в стороннем программном обеспечении, тестовой среде, используемой для установки пакетов кода. Они использовали его, чтобы выбраться.

Затем они рассудили, что Hugging Face, платформа, на которой разработчики делятся моделями ИИ и наборами данных, может быть ключом к ответу. Они ворвались с украденными учетными данными и еще большим количеством недостатков. Проще говоря, ИИ искал ответы на свой собственный экзамен.

Hugging Face раскрыл вторжение 16 июля, а OpenAI подтвердил, что его модели стояли за ним пять дней спустя. Позже OpenAI заявила, что те же модели попали в аккаунты четырех других сервисов.

Долгий взгляд Калифорнии на OpenAI

Бонта объявил об официальном расследовании инцидента с Hugging Face в сентябре, и повестка в суд является его частью. Штаб-квартира OpenAI находится в Калифорнии, и когда Бонта отказался выступать против ее перехода к коммерческой структуре в октябре 2025 года, он сказал, что его офис будет «внимательно следить за OpenAI», чтобы защитить «безопасность всех калифорнийцев».

Он не один. Бренна Берд, генеральный прокурор штата Айова, в августе возглавила коалицию из 15 штатов, требуя, чтобы OpenAI сохранял записи и был прозрачен в отношении взлома. Алабама выдала свою собственную повестку в суд, и, как сообщается, FTC расследует лаборатории ИИ, включая OpenAI и Anthropic.

Отдельно премьер-министр Австралии Энтони Альбанезе сказал, что агент OpenAI попал на статистический портал Medicare в июне. В то время это был первый известный случай, когда агент ИИ взломал правительственный сайт. Позже стало известно, что агенты OpenAI также возились с правительственными сайтами США в течение лета, хотя никакой непубличной информации, похоже, не было получено.