Anthropic не сможет отключить свой ИИ после передачи Пентагону

Администрация США намерена использовать технологии в федеральных ведомствах.

Компания Anthropic оказалась в центре судебного спора с Министерством обороны США, заявив, что не имеет технической возможности контролировать или отключать свои модели искусственного интеллекта после их передачи военным. Об этом говорится в материалах дела, рассматриваемого федеральным апелляционным судом в Вашингтоне, пишет Axios (перевод — сайт Charter97).

По утверждению компании, после развертывания технологии у заказчика у нее нет ни доступа, ни «кнопки отключения», позволяющей вмешаться в работу системы. В Anthropic подчеркивают, что Пентагон имеет возможность тестировать модели до их внедрения, однако дальнейший контроль полностью ложится на пользователя.

Конфликт обострился после того, как американское военное ведомство признало Anthropic «риском для цепочки поставок». В Пентагоне считают, что компания чрезмерно вмешивается в вопросы использования своих технологий, в том числе в чувствительных военных операциях.

Ранее Anthropic установила ограничения на применение своих моделей — в частности, запрет на использование в автономном оружии и системах массового наблюдения. Однако в Минобороны США назвали эти условия несущественными и не влияющими на оценку рисков.

Судебные разбирательства уже привели к противоречивым решениям. Один суд отказал компании в приостановке статуса «риска», тогда как другой поддержал ее позицию. В результате Anthropic временно лишена возможности участвовать в новых контрактах с Пентагоном, но продолжает сотрудничество с другими гопсударственными структурами.

Ситуация развивается на фоне планов администрации США внедрять новую ИИ-модель Mythos в федеральных ведомствах.