Высокопоставленный чиновник Министерства обороны США заявил, что частная технологическая компания Anthropic лжет о том, как вооруженные силы США используют ее систему искусственного интеллекта «Claude».
Как сообщает Redaksiya, Пентагон требует от Anthropic снять некоторые ограничения на использование «Claude» в военных целях и заявил, что если требования не будут выполнены к установленному в пятницу сроку, компания будет исключена из систем, а сама компания будет определена как «риск в цепочке поставок».
Соучредитель и генеральный директор Anthropic Дарио Амодеи заявил, что не позволит использовать «Claude» для «массового внутреннего наблюдения» или «полностью автономного оружия» военными. Он отметил, что Anthropic выступает против требования Министерства обороны «устранить меры безопасности» в этих двух случаях использования.
В ответ на заявление Амодеи секретарь по военным вопросам Эмиль Майкл заявил: «Anthropic лжет», добавив, что вооруженные силы «больше не проводят массовое наблюдение, поскольку это незаконно». Майкл заявил, что речь идет о «предоставлении нашим бойцам возможности использовать искусственный интеллект для уничтожения роев вражеских дронов, которые могут убивать американцев, без разрешения Дарио Амодеи...»
В отдельном посте Майкл обвинил Амодеи в «комплексе бога», заявив, что он «пытается лично управлять вооруженными силами США и готов поставить под угрозу безопасность нашей нации». Амодеи, защищая роль Anthropic, заявил, что они «проактивно работают над размещением наших моделей в Министерстве обороны и разведывательном сообществе». Администрация Трампа переименовала Министерство обороны в Министерство войны, но официальное изменение названия требует решения Конгресса.
Амодеи добавил: «Я глубоко верю в экзистенциальную важность использования искусственного интеллекта для защиты США и других демократий и победы над нашими авторитарными противниками. Anthropic понимает, что военные решения принимает Министерство обороны, а не частные компании. Мы никогда не возражали против конкретных военных операций и не пытались ограничить использование наших технологий в конкретных целях. Однако мы считаем, что в ограниченном числе случаев искусственный интеллект может нанести ущерб демократическим ценностям вместо того, чтобы их защищать. Некоторые виды использования просто выходят за рамки того, что технология может безопасно и надежно делать сегодня».