ИИ в финансах и других сферах нужно регулировать строже

Законодательные попытки заблокировать прогресс в сфере искусственного интеллекта (ИИ) обречены на провал, в связи с чем нормы контроля целесообразно выстраивать с опорой на степень потенциальной опасности, убежден член-корреспондент РАН Александр Храмов. С его точки зрения, жесткий надзор необходим в тех областях, где выводы алгоритмов затрагивают свободу, материальное благополучие, жизнь или здоровье граждан. Внедрение подобной модели предоставит людям усиленную защиту в финансовом секторе, сфере здравоохранения и от посягательств злоумышленников, создающих дипфейки, тогда как создатели несложных ИИ-решений не столкнутся с избыточными преградами. При этом медицинским учреждениям, банкам и авторам программного обеспечения для критических отраслей, скорее всего, придется профинансировать сертификационные процедуры и аудит используемых сервисов.

В беседе с корреспондентом ТАСС Александр Храмов, руководящий научно-исследовательским институтом прикладного искусственного интеллекта и цифровых решений РЭУ имени Г. В. Плеханова, подчеркнул очевидную необходимость правового регулирования отрасли. При этом ученый констатировал бессмысленность законов, призванных остановить или существенно затормозить ее развитие: глобальный масштаб распространения технологии приведет к тому, что локальные запреты в одном государстве лишь оставят поле деятельности остальным странам. По этой причине ключевая задача сводится не к введению запретов, а к обеспечению безопасной эксплуатации ИИ.

Храмов указал на недопустимость одинакового отношения к чат-боту, советующему рецепты на основе содержимого холодильника, и к программным комплексам, оценивающим диагностические снимки пациентов. Неточность кулинарного бота обернется лишь испорченным блюдом, тогда как диагностический просчет несет прямую угрозу благополучию и жизни больного. По этой причине специалист настаивает на внедрении обязательной проверки, сертификации, прозрачности работы и фиксированной ответственности в правосудии, медицине, финансах и на транспорте. Напротив, для направлений с минимальными рисками оправдано применение мягких стандартов, не сковывающих развитие индустрии.

По убеждению исследователя, искусственному интеллекту надлежит оставаться ассистентом, сохраняя принятие итоговых решений и ответственность исключительно за человеком. Точно так же однозначные нормативы требуются для информационной защиты: они должны определять допустимые для обучения нейросетей массивы данных и устанавливать критерии кибербезопасности для систем. Дополнительно ученый акцентировал внимание на важности разработки собственных отечественных моделей, опирающихся на родной язык и культуру, во избежание полной зависимости от зарубежных аналогов.

Помимо этого, Храмов выступает за обязательное обозначение материалов, сгенерированных нейросетями, дабы пользователи осознавали искусственную природу голоса, снимков или текста. «Это особенно важно для борьбы с дипфейками и мошенничеством. Но будем честны, в основном это декларирование требования, выполнение которого практически невозможно проверить», — признал он. Эксперт также подчеркнул, что людям следует непрерывно напоминать о рисках слепого доверия алгоритмам и об опасности утраты навыков самостоятельного анализа, невзирая на всю пользу технологий.

Финансовое направление выступает одной из тех областей, где Храмов настаивает на жестких нормах, притом что ИИ уже задействован в платежных операциях: первой отечественной компанией, внедрившей ИИ-терминалы «Сбера» с возможностью транзакций по лицу («улыбкой»), стал «Аэрофлот». Данный сервис удобен для пассажиров, однако он наглядно иллюстрирует актуальность строгой кибербезопасности, упомянутой исследователем. Применение нейросетей рассматривается и государственными органами, но уже в целях надзора: к примеру, в Минцифры выдвигалась идея довести надежность блокирования VPN до 95% с помощью ИИ, пускай это положение и не включили в действующий национальный план. Впрочем, при ложных срабатываниях и отсечении легитимного рабочего трафика предприниматели рискуют столкнуться с финансовыми потерями и операционными сбоями.

Предупреждение ученого относительно чрезмерного доверия к ИИ актуально и для сферы занятости: согласно исследованию ассоциации «Индустриальные инновации», 38% российских компаний намерены активно привлекать ИИ-инженеров. Более того, основная масса предприятий рассчитывает к 2030 году увеличить долю персонала, владеющего навыками работы с нейросетями, до 80%, благодаря чему работники, интегрировавшие ИИ в свою деятельность без ущерба для профильного мастерства, вероятно, займут наиболее выигрышное положение.