Как 1 картинка может взломать вашего ИИ-агента

ИИ-агента, как оказалось, можно взломать простым PNG-файлом.

Вредную команду достатость спрятать не в тексте, а внутри картинки: ИИ, который проверяет код перед публикацией, изображение даже не открывает и спокойно все пропускает.

А позже другой ИИ-помощник эту картинку читает, находит в ней команду, лезет в секретный файл с паролями и ключами и потихоньку вписывает их в код под видом безобидного набора цифр.

Источник для сверки фактов: BeInCrypto RU — https://ru.beincrypto.com/hakery-paroli-cherez-ii-kartinok/