Anthropic не сможет отключить свой ИИ после передачи Пентагону

Администрация США намерена использовать технологии в федеральных ведомствах.

Компания Anthropic оказалась в центре судебного спора с Министерством обороны США, заявив, что не имеет технической возможности контролировать или отключать свои модели искусственного интеллекта после их передачи военным. Об этом говорится в материалах дела, рассматриваемого федеральным апелляционным судом в Вашингтоне, пишет Axios (перевод — сайт Charter97.org).

По утверждению компании, после развертывания технологии у заказчика у нее нет ни доступа, ни «кнопки отключения», позволяющей вмешаться в работу системы. В Anthropic подчеркивают, что Пентагон имеет возможность тестировать модели до их внедрения, однако дальнейший контроль полностью ложится на пользователя.

Конфликт обострился после того, как американское военное ведомство признало Anthropic «риском для цепочки поставок». В Пентагоне считают, что компания чрезмерно вмешивается в вопросы использования своих технологий, в том числе в чувствительных военных операциях.

Ранее Anthropic установила ограничения на применение своих моделей — в частности, запрет на использование в автономном оружии и системах массового наблюдения. Однако в Минобороны США назвали эти условия несущественными и не влияющими на оценку рисков.

Судебные разбирательства уже привели к противоречивым решениям. Один суд отказал компании в приостановке статуса «риска», тогда как другой поддержал ее позицию. В результате Anthropic временно лишена возможности участвовать в новых контрактах с Пентагоном, но продолжает сотрудничество с другими государственными структурами.

Ситуация развивается на фоне планов администрации США внедрять новую ИИ-модель Mythos в федеральных ведомствах.

Вы можете поддержать сайт Charter97.org следующим образом:

РАСЧЕТНЫЙ МУЛЬТИВАЛЮТНЫЙ СЧЕТ ДЛЯ ПОЖЕРТВОВАНИЙ:

Название банка: Bank Millennium S.A.
Адрес: ul. Stanislawa Zaryna, 2A, 02-593, Warszawa
IBAN: PL97116022020000000216711123
SWIFT: BIGBPLPW
Название владельца счета: Fundacja “KARTA ‘97”
Назначение платежа: Darowizna na cele statutowe

Связаться с нами можно по адресу charter97@gmail.com