Savunma Bakanlığı'nın üst düzey bir yetkilisi, özel teknoloji şirketi Anthropic'in ABD ordusunun şirketin "Claude" yapay zeka sisteminden nasıl yararlandığı konusunda "yalan söylediğini" iddia etti.
Redaksiya, Pentagon'un Anthropic'ten "Claude"un askeri amaçlarla kullanımına yönelik bazı kısıtlamaları kaldırmasını istediğini ve Cuma günü sona eren son tarihe kadar taleplere uyulmaması halinde, onları sistemlerinden çıkaracağını ve şirketi "tedarik zincirinde risk" olarak tanımlayacağını bildiriyor.
Anthropic'in kurucu ortağı ve CEO'su Dario Amodei, "Claude"un askeri kuvvetler tarafından "kitlesel iç gözetim" veya "tamamen otonom silahlar" için kullanılmasına izin vermeyeceğini belirtti. Amodei, Anthropic'in Savunma Bakanlığı'nın bu iki kullanım durumunda "güvenlik önlemlerini kaldırma" talebine karşı çıktığını kaydetti.
Savaş Bakanı Emil Michael, Amodei'nin açıklamasına yanıt olarak "Anthropic yalan söylüyor" dedi ve ordunun "zaten yasa dışı olduğu için kitlesel gözetim yapmadığını" ekledi. Michael, konunun "savaşçılarımızın Dario Amodei'den izin almadan... Amerikalıları öldürebilecek düşman drone sürülerini vurmak için yapay zekayı kullanmasına izin vermekle ilgili" olduğunu belirtti.
Ayrı bir paylaşımda Michael, Amodei'yi "tanrı kompleksi" ile suçlayarak, "ABD Ordusu'nu şahsen yönetmeye çalıştığını ve ulusumuzun güvenliğini riske atmaya istekli olduğunu" belirtti. Amodei, Anthropic'in rolünü savunarak, "modellerimizi Savaş Bakanlığı'na ve istihbarat topluluğuna yerleştirmek için proaktif olarak çalıştıklarını" belirtti. Trump yönetimi Savunma Bakanlığı'nın adını Savaş Bakanlığı olarak değiştirdi, ancak adın resmi olarak değiştirilmesi Kongre'nin kararını gerektiriyor.
Amodei şunları ekledi: "ABD'yi ve diğer demokrasileri savunmak ve otoriter düşmanlarımızı yenmek için yapay zekanın kullanımının varoluşsal önemine derinden inanıyorum. Anthropic, askeri kararların özel şirketler tarafından değil, Savaş Bakanlığı tarafından verildiğini anlıyor. Özel askeri operasyonlara hiçbir zaman itiraz etmedik veya teknolojimizin özel kullanımını kısıtlamaya çalışmadık. Ancak, sınırlı sayıda durumda, yapay zekanın demokratik değerleri savunmak yerine onlara zarar verebileceğine inanıyoruz. Bazı kullanımlar, mevcut teknolojinin güvenli ve güvenilir bir şekilde yapabileceği çerçevenin dışındadır."