Психолог рассказал, как сделать ИИ безопаснее
- 16.11.2026, 17:13
Разработчиков предложили проверять на психическую устойчивость.
Разработчиков искусственного интеллекта следует проверять на психическую устойчивость, чтобы снизить риск намеренного создания опасных технологий. С такой инициативой выступил немецкий психолог, профессор Гамбургской медицинской школы Себастьян Окленбург в статье для Psychology Today (перевод — сайт Charter97.org).
Дискуссии об угрозе выхода ИИ из-под контроля затмевают другую опасность. Человек, участвующий в разработке технологии, может сознательно создать систему, предназначенную для причинения вреда.
Например, такая модель могла бы использоваться для хакерских атак на критическую инфраструктуру. В этом случае искусственному интеллекту не потребуется самостоятельно восставать против людей — достаточно злого умысла одного разработчика.
Окленбург предлагает рассмотреть обязательные психическое обследования для специалистов, работающих над наиболее мощными моделями ИИ. Подобная практика уже существует в ряде профессий, связанных с повышенной ответственностью и безопасностью: пилотов, полицейских, пожарных, авиадиспетчеров и сотрудников атомных электростанций.
Психолог напоминает о катастрофе 2015 года, когда второй пилот Germanwings намеренно направил пассажирский самолет во французские Альпы. Погибли все 150 человек на борту. Этот случай показал, насколько опасными могут быть последствия, если человек с серьезными психическими расстройствами получает доступ к критически важной работе.
«ИИ не обязательно должен выйти из-под контроля сам, чтобы причинить вред людям», — пишет Окленбург.
Он предлагает профессиональным психологическим организациям, технологическим компаниям и государственным регуляторам изучить возможность введения таких проверок.