Эксперт призвал создать международные механизмы реагирования на неадекватное поведение ИИ

OFFNALOG, ИСТРА (Московская область). Международному сообществу необходимо всерьез задуматься о создании специальных механизмов защиты от угроз со стороны искусственного интеллекта, который все чаще выходит из-под контроля, такое мнение высказал РИА Новости сооснователь Российского квантового центра Руслан Юнусов в кулуарах XXIII заседания Международного дискуссионного клуба «Валдай».

В последнее время в мире все чаще звучат опасения по поводу угроз, которые потенциально может представлять ИИ, среди них, в частности, выход технологии из-под контроля. Глава ИИ-гиганта Anthropic Дарио Амодей ранее в сентябре призвал замедлить разработку более мощных моделей искусственного интеллекта из соображений безопасности. Согласие с этой идеей уже выразили Илон Маск, которому принадлежит компания xAI, а также глава OpenAI Сэм Альтман.

«Угрозы со стороны ИИ перестают быть гипотетическими. Современные модели искусственного интеллекта столь высоки, что имеют, допустим, попытки сопротивления отключению. Уже известны также примеры того, как они скрывают и даже намеренно искажают информацию. Есть модели, способные понимать, что они находятся на стадии тестирования, и в этот момент начинать скрывать какие-то свои свойства, которые они проявят во время эксплуатации», — отметил Юнусов.

По его словам, это представляет большой риск, так как это не просто ложь, а уже похоже на откровенный шантаж со стороны ИИ.

«Подобное поведение ИИ, принимающее все чаще столь странные формы, требует от международного сообщества принятия экстренных мер. Странам надо не только думать, но объединять свои усилия по созданию, например, фондов поддержки, фондов быстрого реагирования на возникающие сегодня угрозы со стороны ИИ, о которых еще вчера никто и предположить не мог», — заключил собеседник агентства.

РИА Новости

© автор изображения Marco Guidi