В Совбезе ООН разработчики ИИ призвали не отставать с мерами безопасности

Руководители компаний, разрабатывающих передовые системы искусственного интеллекта, 23 сентября выступили в Совете Безопасности ООН. Глава Anthropic Дарио Амодеи призвал согласовывать темпы разработки с возможностями проверки безопасности. Глава OpenAI Сэм Альтман предупредил, что самые мощные модели не должны давать одной компании или стране возможность навязывать остальным свои взгляды. Обсуждению этих выступлений посвящён опубликованный 25 сентября видеоматериал Al Jazeera.


Учёный Йошуа Бенджио, сопредседатель независимой международной группы ООН по искусственному интеллекту, назвал три угрозы, связанные с развитием передовых моделей: их использование во вред, сосредоточение власти и потерю контроля над ИИ. Он предложил, чтобы разработчики доказывали независимым специалистам безопасность системы как до её обучения, так и перед внедрением. Эти риски Бенджио охарактеризовал как серьёзные, признав при этом, что будущее технологии остаётся предметом споров.

Амодеи заявил, что справиться с угрозами силами одной компании невозможно, и призвал к совместным действиям всей отрасли. Но выступления на заседании не означали согласия о том, кто должен устанавливать правила. Представитель администрации США Майкл Крациос сказал, что быстрое развитие ИИ не является основанием ни для приостановки работ, ни для создания новых глобальных структур управления.