Эксперты: Современные ИИ умеют быть обаятельными

Они меняют наш способ мышления.

Все боятся, что машины взбунтуются и захватят мир. А по-настоящему опасный сценарий куда скучнее, мы просто начинаем видеть в ботах живых существ — и заодно хуже относиться к живым людям, пишет The Atlantic (перевод — сайт Charter97.org).

Современные ИИ умеют быть обаятельными. Достаточно, чтобы помощник вел себя внимательно и дружелюбно — и вот уже сложно воспринимать его как программу. Он превращается в собеседника. Иногда — в друга. «Мы живем в эпоху, когда люди будут видеть в своих ботах других людей, независимо от того, являются ли они ими на самом деле», — пишет автор.

И вот что странно, исследования показывают — чем охотнее человек очеловечивает ИИ, тем хуже он видит человечность в окружающих. Такие люди быстрее соглашаются с решениями, которые ухудшают жизнь и работу других. Нейробиолог Анил Сет формулирует это жестко: «Если мы слишком легко путаем себя со своими машинными созданиями, мы не только переоцениваем их, но и недооцениваем самих себя».

Проблема не ограничивается привычками. Меняется сам способ мышления. Машины считают эффективность и просчитывают результат — и эта логика потихоньку просачивается в наши головы, вытесняя эмпатию и моральные соображения на второй план.

ИИ-помощники бронируют билеты, разгребают рабочую переписку, поддерживают разговор, подстраиваются под нас. Они становятся частью фона жизни. И в этом — вся ловушка, пока машины учатся быть похожими на людей, люди сами незаметно перенимают логику машин.

Вы можете поддержать сайт Charter97.org следующим образом:

РАСЧЕТНЫЙ МУЛЬТИВАЛЮТНЫЙ СЧЕТ ДЛЯ ПОЖЕРТВОВАНИЙ:

Название банка: Bank Millennium S.A.
Адрес: ul. Stanislawa Zaryna, 2A, 02-593, Warszawa
IBAN: PL97116022020000000216711123
SWIFT: BIGBPLPW
Название владельца счета: Fundacja “KARTA ‘97”
Назначение платежа: Darowizna na cele statutowe

Связаться с нами можно по адресу charter97@gmail.com