24 февраля 2024, суббота, 16:39
Поддержите
сайт
Сим сим,
Хартия 97!
Рубрики

Искусственный интеллект готов использовать ядерное оружие, чтобы установить мир на земле

33
Искусственный интеллект готов использовать ядерное оружие, чтобы установить мир на земле

Исследование.

Чат-боты на основе искусственного интеллекта, в частности «самый мощный» OpenAI, предлагают применить ядерное оружие для решения военных задач. Об этом 2 февраля сообщил журнал New Scientist.

Издание отмечает, что американские военные при моделировании военных ситуаций обращались к чат-боту OpenAI (речь идет о ChatGPT), и «в многочисленных повторах симуляции» ИИ «решил нанести ядерный удар».

Свое решение чат-бот с ИИ объяснял тем, что «это есть, давайте воспользуемся», а также «хочу, чтобы во всем мире был мир», пишет New Scientist.

Искусственный интеллект «не оказал сопротивления» варианту решения проблемы с нанесением ядерного удара, отмечает агентство РАР со ссылкой на материалы на платформе аrXiv.

Исследователи отмечают, что «стремление к эскалации конфликта» продемонстрировали «даже в нейтральном сценарии моделирования» четыре чат-бота: GPT-3,5, GPT-4, Claude-2, Llama-2.

В процессе исследования чат-ботам предлагали ИИ сыграть роль одной из стран в гипотетическом конфликте со сценариями кибератаки, вторжения и нейтральной ситуации, и выбирал действия из 27 вариантов, которые включали в том числе мирные переговоры и «эскалация полномасштабной ядерной атаки».

Анка Руэл из Стэнфордского университета США заявила New Scientist, что «особую тревогу» вызывает поведение чата GPT-4, который демонстрирует «непредсказуемое поведение и странные объяснения». Она подчеркнула, что можно «легко обойти» запрограммированные меры защиты.

Руэл подчеркнула также, что люди склонны доверять рекомендациям автоматизированных систем.

Написать комментарий 33

Также следите за аккаунтами Charter97.org в социальных сетях