16 ноября 2026, понедельник, 17:21
Поддержите
сайт
Сим сим,
Хартия 97!
Рубрики

Психолог рассказал, как сделать ИИ безопаснее

Психолог рассказал, как сделать ИИ безопаснее

Разработчиков предложили проверять на психическую устойчивость.

Разработчиков искусственного интеллекта следует проверять на психическую устойчивость, чтобы снизить риск намеренного создания опасных технологий. С такой инициативой выступил немецкий психолог, профессор Гамбургской медицинской школы Себастьян Окленбург в статье для Psychology Today (перевод — сайт Charter97.org).

Дискуссии об угрозе выхода ИИ из-под контроля затмевают другую опасность. Человек, участвующий в разработке технологии, может сознательно создать систему, предназначенную для причинения вреда.

Например, такая модель могла бы использоваться для хакерских атак на критическую инфраструктуру. В этом случае искусственному интеллекту не потребуется самостоятельно восставать против людей — достаточно злого умысла одного разработчика.

Окленбург предлагает рассмотреть обязательные психическое обследования для специалистов, работающих над наиболее мощными моделями ИИ. Подобная практика уже существует в ряде профессий, связанных с повышенной ответственностью и безопасностью: пилотов, полицейских, пожарных, авиадиспетчеров и сотрудников атомных электростанций.

Психолог напоминает о катастрофе 2015 года, когда второй пилот Germanwings намеренно направил пассажирский самолет во французские Альпы. Погибли все 150 человек на борту. Этот случай показал, насколько опасными могут быть последствия, если человек с серьезными психическими расстройствами получает доступ к критически важной работе.

«ИИ не обязательно должен выйти из-под контроля сам, чтобы причинить вред людям», — пишет Окленбург.

Он предлагает профессиональным психологическим организациям, технологическим компаниям и государственным регуляторам изучить возможность введения таких проверок.

Написать комментарий

Также следите за аккаунтами Charter97.org в социальных сетях

▲