Глава РАН рассказал, как удержать под контролем искусственный интеллект
OFFNALOG, МОСКВА. Технологии искусственного интеллекта продолжат развиваться, и человеку будет сложнее его контролировать — этот процесс нужно доверить другой модели ИИ, заявил РИА Новости глава Российской академии наук, ученый в области микро- и наноэлектроники Геннадий Красников.
«Остановить развитие искусственного интеллекта невозможно, и на определенном этапе человеку будет сложнее контролировать это развитие. Но это должен делать другой искусственный интеллект», — сказал академик.
«Мы должны создавать такие модели, когда один ИИ контролирует другой ИИ, может быть, еще третий для того, чтобы обеспечить большую безопасность для себя в этом вопросе», — добавил Красников.
Нужно очень внимательно анализировать уязвимости фреймворков, из которых складываются определенные языковые модели, указал глава РАН. Поэтому необходимы правила, регламентирующие создание различных методов машинного обучения и прикладных моделей для искусственного интеллекта.
Основой искусственного интеллекта являются языковые модели, они нужны для создания суверенного ИИ, и в этом направлении предпочтительны решения отечественных компаний, пояснил Красников.
«А когда речь идет о прикладных аспектах — например, о создании лекарств от многих тяжелых болезней, то там уже должны быть более точные модели, обученные на больших базах данных. Они должны быть на порядок точнее, чем языковые модели для этих задач», — сказал академик. И здесь нужно иметь лучшие модели — либо создавать собственные, либо брать за рубежом. Единственное требование — они все должны быть доверенными, то есть и защищенными, и дающими правильные результаты, заключил глава РАН.
Ранее в публичном пространстве развернулась дискуссия о связанных с ИИ рисках. Пара сотрудников компании Anthropic, занимающейся разработками в сфере искусственного интеллекта, поделились мнением, что через 10 лет ИИ с вероятностью 10% может уничтожить человечество.
Глава Anthropic Дарио Амодей в сентябре призвал замедлить разработку более мощных моделей искусственного интеллекта из соображений безопасности. Американский миллиардер Илон Маск, которому принадлежит компания xAI, а также глава OpenAI Сэм Альтман уже согласились с этой идеей.
© автор изображения Yevhen Smyk
Вопросы и ответы
Краткие ответы сформированы по содержанию этой статьи.
Что важно знать о материале «Глава РАН рассказал, как удержать под контролем искусственный интеллект»?
Технологии искусственного интеллекта продолжат развиваться, и человеку будет сложнее его контролировать - этот процесс нужно доверить другой модели ИИ, заявил РИА Новости глава Российской академии наук, ученый в области микро- и наноэлектроники Геннадий Красников.
Как разобраться в теме «Глава РАН рассказал, как удержать под контролем искусственный интеллект»?
"Остановить развитие искусственного интеллекта невозможно, и на определенном этапе человеку будет сложнее контролировать это развитие.
Почему стоит обратить внимание на «Глава РАН рассказал, как удержать под контролем искусственный интеллект»?
Но это должен делать другой искусственный интеллект", - сказал академик.
Какие выводы можно сделать из материала «Глава РАН рассказал, как удержать под контролем искусственный интеллект»?
"Мы должны создавать такие модели, когда один ИИ контролирует другой ИИ, может быть, еще третий для того, чтобы обеспечить большую безопасность для себя в этом вопросе", - добавил Красников.
Чем полезна статья «Глава РАН рассказал, как удержать под контролем искусственный интеллект»?
Нужно очень внимательно анализировать уязвимости фреймворков, из которых складываются определенные языковые модели, указал глава РАН.
Когда пригодится информация про «Глава РАН рассказал, как удержать под контролем искусственный интеллект»?
Поэтому необходимы правила, регламентирующие создание различных методов машинного обучения и прикладных моделей для искусственного интеллекта.
На что обратить внимание в публикации «Глава РАН рассказал, как удержать под контролем искусственный интеллект»?
Основой искусственного интеллекта являются языковые модели, они нужны для создания суверенного ИИ, и в этом направлении предпочтительны решения отечественных компаний, пояснил Красников.
Какие нюансы раскрывает тема «Глава РАН рассказал, как удержать под контролем искусственный интеллект»?
"А когда речь идет о прикладных аспектах - например, о создании лекарств от многих тяжелых болезней, то там уже должны быть более точные модели, обученные на больших базах данных.
