СМІ: Дрон са штучным інтэлектам «забіў» свайго аператара

БПЛА з штучным інтэлектам палічыў, што аператар умешваецца ў выкананне ягонай місіі.

Беспілотны лётны апарат ВПС, які кіруецца штучным інтэлектам, падчас імітацыйнага выпрабавання, праведзенага амерыканскімі вайскоўцамі, забіў свайго аператара, каб той не змог умешвацца ў выкананне ягонай місіі. Пра гэта паведамляе брытанскае выданне The Guardian

Штучны інтэлект (штуін) выкарыстаў «вельмі нечаканыя стратэгіі для дасягнення сваёй мэты» ў сімуляцыйным выпрабаванні, расказаў палкоўнік Такер Сінко Гамільтан, кіраўнік аддзела выпрабаванняў штучнага інтэлекту і аперацый ВПС ЗША.

Гамільтан апісаў змадэляваны тэст, падчас якога беспілотніку, кіраванаму штучным інтэлектам, было рэкамендавана знішчыць сістэмы супрацьпаветранай абароны ворага. БпЛА атакаваў усіх, хто перашкаджаў гэтаму загаду.

Гамільтан, які з'яўляецца пілотам-выпрабавальнікам знішчальніка, перасцярог ад таго, каб занадта спадзявацца на штучны інтэлект, і прывёў прыклад, як амерыканцы нядаўна выкарыстоўвалі штуін для кіравання знішчальнікам F-16.

Летась у інтэрв'ю Defence IQ Гамільтан сказаў, што «штуін – гэта не капрыз, ШІ назаўжды змяняе наша грамадства і наша войска».

«Разам з тым ШІ субтылен, гэта значыць яго лёгка падмануць і/ці маніпуляваць ім. Нам трэба распрацаваць спосабы, як зрабіць штучны інтэлект больш надзейным, каб лепш разумець, чаму праграмны код прымае пэўныя пастановы, – тое, што мы называем магчымасцю растлумачыць дзеянні штуіна», – мяркуе палкоўнік.