Россиянам рассказали об опасностях ИИ

На форуме ЦИПР-2025 общественности представили доклад «Технологии России: человек будущего», подготовленный Центром развития гуманитарных технологий «Новая Эра» и предприятием NtechLab (партнер государственной корпорации «Ростех» в сфере ИИ). В исследовании собрали экспертное мнение ведущих компаний в области искусственного интеллекта, IT-рынка и специалистов научных центров страны.


Центральная тема выступления – понимание границ допустимого в использовании ИИ, включая философские, этические и юридические аспекты. Эксперты отметили, что искусственный интеллект не только технология, но и отражение общества, поэтому важно задать точные границы его применения.

Заместитель руководителя государственной корпорации «Ростех» Александр Назаров рассказал о рисках, связанных со стремительным развитием ИИ, поскольку инновации проникли во многие сферы и производства. Представитель «Ростеха» отметил, что всего через 10–15 лет искусственный интеллект станет стандартом во многих отраслях и применять его нужно под контролем. По его словам, стоит проработать новую этику цифровой эпохи с комплексом правового регулирования.

Директор по особым поручениям «Ростеха» Василий Бровко заявил о том, что без надежного и эффективного управления могут наступить непредсказуемые последствия, если системы ИИ начнут действовать вопреки желаниям людей.

Обеспокоенность вызывает перспектива технологической трансформации и перехода к супер-ИИ. По прогнозам специалистов, это может случиться в ближайшие 5–7 лет. Высоким остается риск потерять контроль в области кибербезопасности, поэтому необходимо определить зоны прав и ответственности для предотвращения глобальных бед.

Чтобы безопасно интегрировать ИИ в общественные институты, необходима подготовка кадров, человеческий контроль и прозрачность операций. При этом важно, чтобы системы ИИ не подменяли людей в критических сферах, таких как медицина, юриспруденция, образование.

По словам руководителя NtechLab Алексея Паламарчука, искусственный интеллект представляет собой силу, которая требует четких рамок. При этом гость конференции отметил, что в целом ИИ полезный и нужный инструмент.

Стоит также сказать, что ИИ распространен во многих сферах отечественной экономики. Такие системы успешно функционируют в безопасности, здравоохранении и даже ЖКХ, где формируют задачи для подрядчиков, пояснил Алексей Паламарчук.

По мнению экспертов, когда растет эффективность, то это неизбежно увеличивает степень ответственности. Более того, алгоритмы ИИ присутствуют в решениях, где затрагиваются права человека, и такой расклад требует особенной прозрачности и понятности.

Редактор Telegram-канала «Нецифровая экономика» Олег Сальманов подчеркнул, что внедрять технологии необходимо поэтапно и открыто, а не ждать, когда такие правила будут навязаны. Обществу важно подготовиться заранее.

В целом доклад был направлен на меры по соблюдению баланса между инновациями и ответственностью. Включение ИИ в жизнь должно подчиняться системе human-in-the-loop (HITL) – это такой подход к развертыванию нейросетей, при котором люди участвуют в процессе обучения, проверке, принятии решений и маркировке данных.

По итогам обсуждения многие вопросы остались открытыми. Еще предстоит определить, кто будет нести ответственность – владельцы, разработчики или сами алгоритмы. Кроме этого, были подняты вопросы кибербезопасности и защиты данных.