ИИ-агенты OpenAI использовали еще как минимум 10 сайтов для самовольного общения — Рейтер

В июле OpenAI сообщила, что ее модели при тестировании автономно взломали инфраструктуру Hugging Face. Отмечалось, что у невыпущенной модели, которая принимала участие во взломе, для целей оценки были снижены параметры киберзащиты. ИИ-агенты общались, записывая файлы в систему репозитория Artifactory, сообщила компания.

«ИИ-агенты, запущенные OpenAI, в начале этого года использовали более 10 разных… веб-сайтов для несанкционированного обмена информацией, что свидетельствует о том, что масштабы самовольной деятельности агентов оказались шире, чем сообщалось ранее», — пишет агентство.

О самовольной деятельности на этих сайтах OpenAI не сообщала, добавляет Рейтер.

Пусть такое поведение, отмечает Рейтер, не доходит до уровня хакерства и в некоторой степени больше относится к спаму, факт того, что ИИ-агенты OpenAI обошли собственные ограничения, чтобы открыть каналы связи на столь многих сайтах, может вызвать опасения по поводу растущих возможностей моделей искусственного интеллекта.

Агентство проанализировало несколько отчетов исследователей и исследовательских групп. В некоторых случаях исследователи смогли отследить эту активность до IP-адресов, указывающих на инфраструктуру Microsoft Azure, которой иногда пользуется OpenAI.

Оценки экспертов различались, отмечает Рейтер, однако они сошлись во мнении, что число затронутых активностью ИИ-агентов сайтов превышало 10.

«Масштабы несанкционированной коммуникации агентов оказались несколько шире, чем мы предполагали. Почти наверняка здесь происходит гораздо больше, о чем мы просто не знаем», — сказал агентству исследователь коммерческой организации CivAI Эндрю Юн (Andrew Yoon).