16 лiстапада 2026, панядзелак, 17:27
Падтрымайце
сайт
Сім сім,
Хартыя 97!
Рубрыкі

Псіхолаг распавёў, як зрабіць штучны інтэлект больш бяспечным

Псіхолаг распавёў, як зрабіць штучны інтэлект больш бяспечным

Распрацоўнікаў прапанавалі правяраць на псіхічную ўстойлівасць.

Распрацоўнікаў штучнага інтэлекту варта правяраць на псіхічную ўстойлівасць, каб знізіць рызыку наўмыснага стварэння небяспечных тэхналогій. З такой ініцыятывай выступіў нямецкі псіхолаг, прафесар Гамбургскай медыцынскай школы Себасцьян Окленбург у артыкуле для Psychology Today (пераклад — сайт Charter97.org).

Дыскусіі пра пагрозу выхаду штучнага інтэлекту з-пад кантролю зацяняюць іншую небяспеку. Чалавек, які ўдзельнічае ў распрацоўцы тэхналогіі, можа свядома стварыць сістэму, прызначаную для нанясення шкоды.

Напрыклад, такая мадэль магла б выкарыстоўвацца для хакерскіх атак на крытычную інфраструктуру. У гэтым выпадку штучнаму інтэлекту не спатрэбіцца самастойна паўставаць супраць людзей — досыць злага ўмысла аднаго распрацоўніка.

Окленбург прапануе разгледзець абавязковыя псіхалагічныя абследаванні для спецыялістаў, якія працуюць над найбольш магутнымі мадэлямі штучнага інтэлекту. Падобная практыка ўжо існуе ў шэрагу прафесій, звязаных з падвышанай адказнасцю і бяспекай: пілотаў, паліцэйскіх, пажарных, авіядыспетчараў і супрацоўнікаў атамных электрастанцый.

Псіхолаг нагадвае пра катастрофу 2015 года, калі другі пілот Germanwings наўмысна скіраваў пасажырскі самалёт у Французскія Альпы. Загінулі ўсе 150 чалавек на борце. Гэты выпадак паказаў, наколькі небяспечнымі могуць быць наступствы, калі чалавек з сур'ёзнымі псіхічнымі засмучэннямі атрымлівае доступ да крытычна важнай працы.

«Штучнаму інтэлекту зусім не абавязкова выходзіць з-пад кантролю самастойна, каб прычыніць шкоду людзям», — піша Окленбург.

Ён прапануе прафесійным псіхалагічным арганізацыям, тэхналагічным кампаніям і дзяржаўным рэгулятарам вывучыць магчымасць увядзення такіх праверак.

Напісаць каментар

Таксама сачыце за акаўнтамі Charter97.org у сацыяльных сетках

▲