Эксперт предупредил о рисках для пользователей в РФ от сотрудничества OpenAI и Пентагона

OFFNALOG, МОСКВА. Сотрудничество американской OpenAI с Пентагоном может нести значительные риски для ряда компаний и граждан, которые США сочтут недружественными, из-за размытого пользовательского соглашения компании, особенно в области передачи данных из ChatGPT, рассказал РИА Новости руководитель отдела информационной безопасности MWS AI (входит в МТС Web Services) Андрей Коршунов.

Ранее, в конце февраля, глава OpenAI Сэм Альтман сообщил, что компания договорилась с Пентагоном об использовании ее ИИ-моделей в «секретной сети» ведомства.

«Соглашение OpenAI, которая разрабатывает ChatGPT, с Пентагоном может в будущем нести значительные риски для граждан и компаний из стран, которые США по какой-то причине сочтут недружественными. Из-за достаточно размытого пользовательского соглашения OpenAI мы и так не до конца понимаем, что происходит с нашими данными, когда они попадают в нейросеть, где они хранятся и как их использует компания», — отметил Коршунов.

Он объяснил, что в пользовательском соглашении указано, что сотрудники OpenAI могут просматривать диалоги для улучшения моделей, расследования возможных нарушений правил использования и тестирования качества системы. Обычно такие данные анонимны, однако полной конфиденциальности это не гарантирует.

По словам эксперта, когда человек пользуется ChatGPT, сервис может собирать данные, такие как текст, сообщения, файлы, изображения и голос, которые сохраняются как история диалогов. Помимо этого, автоматически собираются IP-адрес, тип устройства, браузер и примерное местоположение.

«Пользовательские диалоги могут использоваться для обучения будущих моделей, проверки качества работы системы и анализа ошибок. Кроме того, данные могут передаваться подрядчикам и облачным сервисам, которые обеспечивают инфраструктуру и техническую поддержку, а также партнерам компании. В отдельных случаях информация может быть предоставлена государственным органам при наличии законного запроса», — добавил он.

OpenAI — разработчик чат-бота ChatGPT, который набрал популярность после запуска в конце ноября 2022 года, собрав первый миллион пользователей менее чем за неделю. Одним из сооснователей OpenAI в 2015 году выступил американский миллиардер Илон Маск, который позже разорвал связи со стартапом.

РИА Новости
© автор фото Focal Foto, Creative Commons Attribution-Share Alike 4.0, OpenAI OpenAI on a phone, 7 июня 2023 г.