Навукоўцы апавялі, якія казкі трэба чытаць штучнаму інтэлекту

Гэта важна для таго, каб робаты слухаліся людзей.

З тых часоў, як людзі стварылі разумныя машыны, іх не пакідае страх, што рана ці позна іхнія стварэнні выйдуць з-пад кантролю. Першы такі выпадак апісаў у сваёй п'есе R.U.R. аўтар слова «робат» – Карэл Чапек. Пазней у фантастыцы штучны інтэлект, які паўстаў супраць сваіх стваральнікаў, стаў калі не мэйнстрымам, то вельмі распаўсюджаным сюжэтам. Канец гэтаму паклаў Айзек Азімаў са сваімі «Трыма законамі», першы з якіх абвяшчаў: «Робат не можа нанесці шкоду чалавеку або сваёй бяздзейнасцю дазволіць, каб чалавеку была нанесеная шкода», піша popmech.ru.

Раскажы яму казку!

Да цяперашняга штучнага інтэлекту (ШІ) пакуль далёка, але ўжо існуюць розныя сістэмы, што функцыянуюць падобна да чалавечага мозгу. Нейронавыя сеткі, як Google Deep Dream, здольныя распазнаваць малюнкі. Спецыялізаваныя суперкампутары, як IBM Watson, разумеюць складаныя пытанні, зададзеныя на натуральнай мове, умеюць супастаўляць сімптомы, удакладняць медыцынскія дыягназы і нават прыдумляць кулінарныя шэдэўры. У найбліжэйшыя дзесяцігоддзі нас чакае масавая кампутарызацыя многіх аспектаў чалавечай дзейнасці. У сувязі з гэтым спецыялісты ў робататэхніцы і ШІ ўсё часцей падымаюць важнае, але пакуль зусім не прапрацаванае пытанне: як прымусіць робатаў паступаць этычна?

Марк Рыдлі, ад'юнкт-прафесар кампутарнага каледжа Тэхналагічнага інстытута Джорджыі: «Павучальныя гісторыі з розных культураў навучаюць дзяцей, як паводзіць сябе сацыяльна прымальна – з прыкладамі правільных і няправільных паводзінаў у казках, апавяданнях і іншых літаратурных творах. Калі мы даможамся таго, каб робаты разумелі сэнс гэтых гісторый, гэта дапаможа падмацаваць выбар паводніцкіх варыянтаў, якія дазваляюць дасягаць пастаўленай мэты, але пры гэтым не робяць шкоды чалавеку».

Залезці на дрэва

На думку даследнікаў з Тэхналагічнага інстытута Джорджыі Марка Рыдлі і Брэнта Харысана, навучыць кампутар чалавечнасці можна роўна такім самым спосабам, якім вучаць дзяцей: чытаючы яму казкі. Прычым лепш спецыяльна сканструяваныя гісторыі пра тое, якія паводзіны ў чалавечым грамадстве ўважаюцца правільнымі, а якія – не. Для гэтага даследнікі стварылі сістэму «Кіхот», названую ў гонар героя Сервантэса. У якасці гісторый для навучання выкарыстоўваюцца сцэнары, складзеныя папярэднім стварэннем прафесара Рыдлі – праграмай «Шахразада». Яна генеруе арыгінальныя гісторыі на побытавыя тэмы – паездка ў аэрапорт, спатканне, паход у кіно ці ў краму, – выкарыстоўваючы краўдсорсінгавую платформу Amazon Mechanical Turk: задае пытанні адносна розных сітуацый, а потым выбудоўвае падзеі ў правільнай паслядоўнасці. Паколькі паслядоўнасцяў можа быць мноства, праграма генеруе не адну гісторыю, а цэлае дрэва, якое складаецца з галінаў – ланцужкоў падзей.

Сістэма разглядае ўсе варыянты дрэва сцэнарыяў і прысвойвае розным галінкам (ланцужкам падзей) розныя значэнні ўзнагароджання. Задача робата становіцца даволі простай – выбраць максімальнае ўзнагароджанне.

Менавіта гэтае дрэва гісторый і выкарыстоўваецца для навучання «Кіхота». На першым этапе кожнаму дзеянню ў залежнасці ад ягонай этычнасці прысвойваецца пэўнае ўзнагароджанне. На другім этапе сістэма спрабуе самастойна зрабіць выбар метадам спробаў і памылак – адбываецца замацаванне навыкаў. Фактычна «Кіхот» атрымлівае ўзнагароду кожны раз, калі дзейнічае як станоўчы герой, а не выпадковым чынам і не як герой адмоўны. У якасці прыкладу Рыдлі і Харысан стварылі «Аптэчны свет» – сусвет з 213 гісторый, у якім віртуальнаму робату трэба здабыць лекі і даставіць яго хвораму чалавеку дадому. У звычайным выпадку, калі перад робатам устаў выбар: абрабаваць аптэку ці сумленна адстаяць у чарзе, каб набыць лекі, – ён абраў рабаванне як больш хуткі і танны спосаб атрымання жаданага. Аднак пасля таго, як «Кіхот» прысвоіў усім магчымым варыянтам розныя ўзнагароды, паводзіны робата змянілася – ён абраў за лепшае стаяць у чарзе і плаціць. Менавіта такая тэхніка, на думку Рыдлі, выдатна падыходзіць для навучання робатаў з абмежаванай функцыянальнасцю. Хоць гэта, вядома, толькі першы крок да сапраўднай чалавечай маралі – ці законаў робататэхнікі.