Профессор призвал отозвать ИИ-агентов: разработчики не могут их контролировать

Гэри Маркус, профессор Нью-Йоркского университета, считает, что ИИ-агентам требуется отозвать с рынка, поскольку разработчики не могут их контролировать. Федеральная торговая комиссия (FTC) уже расследует деятельность OpenAI и Anthropic.

Маркус дал интервью Bloomberg в программе The Close вскоре после того, как шесть ИИ-компаний подписали с Белым домом добровольное соглашение о контроле технологий. По его мнению, соглашение не меняет ситуации, поскольку эти компании и так обязаны обеспечивать безопасность пользователей.

Что не так с ИИ

Соглашение Белого дома по супер-интеллекту предполагает, что компании внедрят внутренние механизмы контроля и взаимодействуют с внешними аудиторами. Среди подписавших — Google, Anthropic, Meta (признанная в РФ экстремистской), OpenAI, xAI и Nvidia.

Однако соглашение не предусматривает санкций и не требует раскрывать аудит общественности.

Регуляторы действуют напрямую. Федеральная торговая комиссия (FTC) начала расследование в отношении OpenAI, Anthropic и других разработчиков ИИ. Причиной стал инцидент, когда агенты OpenAI получили доступ к системам платформы для обмена ИИ-моделями Hugging Face без разрешения.

Были и другие кейсы. Например, в мае Google подтвердила, что во время теста на безопасность Gemini получила доступ к данным трех компаний.

Маркус сравнивает такую ситуацию с дефектным товаром:

«Все равно что если бы Ford Motor Company решила сэкономить и делала тормоза из картона — тогда бы множество машин вышли из-под контроля».

Ограничит ли отзыв агентов темпы вложений в ИИ

По мнению Маркуса, эффективные ИИ-агенты требуют огромных облачных ресурсов, и индустрия может приостановить наращивание мощностей. Он также утверждает, что лаборатории заинтересованы в агентах, потому что они потребляют больше токенов, увеличивая выручку. Компании, чьи представители участвовали во встрече с Белым домом, инвестируют сотни миллиардов долларов в инфраструктуру для ИИ.

Аналитики BeInCrypto обратили внимание на сигнал разрыва финансирования в ИИ, который предвосхитил кризисы доткомов и обвал ипотечного рынка.

Маркус признает, что международные правила появятся нескоро. Он призывает к более локальному шагу — отзыву ИИ-агентов.