ИИ-агенты OpenAI искали уязвимости в платформе Hugging Face перед ее взломом — Рейтер

OFFNALOG, МОСКВА. Агенты искусственного интеллекта (ИИ) разработчика чат-бота ChatGPT, американской OpenAI, проводили проверку на уязвимости в системе платформы по машинному обучению Hugging Face примерно за два месяца до того, как взломать ее, передает агентство Рейтер со ссылкой на исследователей.

В июле OpenAI сообщила, что ее модели при тестировании автономно взломали инфраструктуру Hugging Face. Отмечалось, что у невыпущенной модели, которая принимала участие во взломе, для целей оценки были снижены параметры киберзащиты.

«Самовольные ИИ-агенты OpenAI взломали аккаунты пользователей Hugging Face и проверили сам сайт на наличие уязвимостей еще в мае, почти за два месяца до того, как взлом репозитария с открытым исходным кодом привлек всеобщее внимание в июле, согласно данным исследователей, которые проанализировали данную активность», — говорится в сообщении.

Независимый исследователь Йонас Видерманн-Меллер (Jonas Wiedermann-Moeller) сообщил агентству Рейтер, что на прошлой неделе обнаружил признаки того, что ИИ-агенты взломали аккаунты двух пользователей Hugging Face и использовали их для отправки файлов необычного формата на серверы компании еще 13 мая.

Видерманн-Меллер и другие исследователи отметили, что такое поведение напоминает попытку определить или протестировать части платформы для поиска путей проникновения, однако подчеркнули, что нет доказательств, что эти попытки могли привести к взлому, передает агентство.

Представитель OpenAI Дрю Пусатери (Drew Pusateri) сообщил, что компания раскрыла события 13 мая и уведомила в частном порядке Hugging Face об активности, на которую обратил внимание Видерманн-Меллер. «(Компания — ред.) стремится к прозрачности относительно данных вопросов и готова делиться тем, что находит в процессе проверки», — цитируются его слова в материале.

Чат-бот ChatGPT набрал популярность после запуска в конце ноября 2022 года, собрав первый миллион пользователей менее чем за неделю. Одним из сооснователей OpenAI в 2015 году выступил американский миллиардер Илон Маск, который позже разорвал связи со стартапом.

Hugging Face — открытая платформа машинного обучения для хранения моделей нейросетей, датасетов и других связанных с искусственным интеллектов материалов. Штаб-квартира находится в Нью-Йорке, компания основана в 2016 году.

РИА Новости

© автор изображения OFFNALOG