Американский ИИ облил Трампа водой. Сеть спорит, кто отвечает за дипфейки

Белый дом доверил ИИ-компаниям самим следить за безопасностью своих технологий, а пользователи тем временем испытывают эти технологии на самом президенте. В X разошелся ролик, в котором Ким Чен Ын выливает воду на Дональда Трампа, а рядом невозмутимо сидит Владимир Путин.

Автор видео, пользователь под ником Hawkeye1812Z, снабдил его подписью «Это сгенерировал американский ИИ».

Что подписал Трамп и при чем тут ролик

За неделю до появления видео, 29 сентября, Трамп подписал с главами Nvidia, Google, Anthropic, Meta (признана в РФ экстремистской и запрещена), OpenAI и xAI соглашение Joint Commitment On Frontier Responsibilities. Документ касается самых мощных ИИ-моделей и рисков, которые они несут. Компании пообещали вести внутренний мониторинг, привлекать внешних аудиторов и создать наблюдательные советы. Трамп назвал соглашение «морально обязывающим» и сравнил с конституцией.

Обязательств по закону документ не создает. Регуляторы в проверках не участвуют, а отчеты компании публиковать не обязаны. Трамп последовательно выступает против жесткого регулирования отрасли, ссылаясь на гонку с Китаем, а тревогу американцев по поводу ИИ называет надуманной. Заодно президент распорядился переименовать искусственный интеллект в госдокументах в «суперинтеллект» (SI).

Дипфейков с политиками соглашение не касается вовсе. Между тем инструменты подписантов производят их исправно. Автор ролика не уточнил, в каком сервисе его сделал. Зато комментарии под видео заполнились другими сгенерированными клипами с теми же героями, и как минимум один из них помечен как созданный в Grok Imagine. Это продукт xAI Илона Маска — одного из тех, кто поставил подпись под документом в Белом доме.

Смешно, но кому за это отвечать

Главный спор в ветке развернулся вокруг границы между мемом и манипуляцией. Часть пользователей уверена, что подобный контент безобиден ровно до тех пор, пока не наступят выборы или геополитический кризис. Один из них написал, что дипломатия вошла в эпоху ИИ-симуляции, а интернет вот-вот окончательно сорвется с катушек. Другой заметил, что политические дипфейки становятся неприятно убедительными и принцип «увидел — поверил» в сети больше не работает. Контекст и проверка теперь важнее самой картинки. Проблема в том, что проверять никто не спешит.

Вторая дилемма касается самих героев ролика. Это реальные люди, которые согласия на участие в видео не давали. Один пользователь задумался, видят ли политики, какие нейросетевые версии их гуляют по сети. Автор одного комментария написал, что сгенерированная картинка дает миру ясное представление об американском президенте.

Третий спорный момент — ответственность. Один комментатор, пусть и в шутку, потребовал контакты ФБР и предложил взять автора ролика под стражу. Другой предположил, что после такого Трамп запретит ИИ навсегда. При этом сам инструмент, в котором сделан хотя бы один из клипов в ветке, принадлежит компании-подписанту соглашения с Белым домом. Отвечать за мем может автор, платформа или разработчик модели.

Любопытно, что часть аудитории проблемы не увидела вовсе. Пользователи из Японии и Китая писали, что благодаря ИИ можно вот так беззлобно подурачиться, и что хотели бы мира, который не нуждается в границах.