An AI Error Nearly Led To A War Between The U.S. And China In The Spring Of 2026
4- 19.09.2026, 9:57
- 4,246
A Pentagon analyst placed too much trust in the conclusions of a neural network.
A Pentagon analyst placed too much trust in the conclusions of a neural network.
Аналитика не научили анализировать.
ReplyДостоверный результат может быть получен только при использовании мажоритарной системы.
Несколько чатов запускаешь для анализа и несколько для критической проверки.
Этому уже учат в некоторых школах!
Таке траплялось і без штучного інтелекту. Один із найвідоміших прикладів — інцидент з радянською системою попередження про ракетний напад у 1983 році. Тоді система помилково сприйняла звичайне сонячне світло, що відбивається від хмар, за запуск американських ракет. Лише виважене рішення офіцера Станіслава Петрова, який запідозрив помилку, запобігло потенційному ядерному удару у відповідь.
ReplyК войне высадка десанта спецназа США на корабль КНР не могла привести. США были бы вынуждены испить чашу позора и просить прощения у Китая за свою доверчивость к ИИ. Вот запуск МБР с ядерными боеголовками в случае ошибочного решения, как это могло случиться с СССР, привело бы непременно. Вывод : подобное решение обязан принимать человек, и не один, а с группой экспертов. ИИ может быть включен в такую группу без права голоса на решение.
ReplyТак и думал что человечество вымрет каким нибудь самым идиотским способом.
ReplyРоботы не при чем, и вопросы не к ИИ, а к аналитикам не умеющим пользоватся своё головой.