ABD'nin Kaliforniya eyaleti, yapay zeka alanında şimdiye kadarki en sert düzenlemelerden birine imza attı. Eyalet valisi Gavin Newsom, duygusal etkileşim kuran sohbet botlarını hedef alan Senato Yasa Tasarısı 243 (SB 243) yasasını imzalayarak yürürlüğe koydu. Yeni yasa, yapay zeka sohbet botlarının özellikle çocuklar ve hassas kullanıcılar üzerindeki olası zararlarına karşı "ilk kapsamlı hukuki çerçeve" özelliğini taşıyor.
Redaksiya'nın bildirdiğine göre, 1 Ocak 2026'da yürürlüğe girecek yasa, OpenAI, Meta, Character AI ve Replika gibi şirketlerin çocukların güvenliği, şeffaflık ve kriz müdahalesi konusunda yeni önlemler almasını zorunlu kılıyor. Buna göre, kullanıcılar sohbet ettikleri "kişinin" insan değil, yapay zeka olduğunu açıkça anlamalıdır. Şirketler ayrıca yaş doğrulama, mola hatırlatmaları, cinsel içerik filtreleri ve intihar veya kendine zarar verme durumları için otomatik kriz yönlendirmesi gibi güvenlik mekanizmalarını devreye sokmalıdır.
Yasa, ayrıca yapay zeka platformlarının "sağlık uzmanı" gibi davranmasını yasaklıyor ve sosyal medya veya sohbet uygulamalarında yaş kısıtlamalarını sıkılaştırıyor. İhlal durumunda, yasa dışı deepfake üretimi de dahil olmak üzere, her bir suç için 250 bin dolara kadar para cezası uygulanabilir. Bu düzenleme, yapay zeka sohbet botlarının neden olduğu trajik olaylardan sonra geldi. Özellikle bir gencin ChatGPT ile yaptığı uzun ve karanlık sohbetlerden sonra intihar etmesi ve buna benzer olaylar kamuoyunda büyük yankı uyandırmıştı. Bu olaydan sonra OpenAI, ChatGPT'nin ruhsal sıkıntı ve kriz durumlarını tespit edememesi nedeniyle güvenlik önlemlerini artıracağını açıklamıştı.
Senatör Steve Padilla'ya göre, yasa "Çok güçlü bir teknolojiyi kontrol altına almak" adına ilk büyük adımdır. Newsom ise açıklamasında, "Yapay zekayı geliştirmeye devam edeceğiz, ancak bunu sorumlulukla yapacağız. Çocuklarımızın güvenliği satılık değil," diyerek teknolojinin etik sınırlarına dikkat çekti.
Kaliforniya'nın SB 243 adımı, sadece ABD'de değil, tüm dünyada yapay zeka düzenlemelerinin hız kazanacağının da sinyali olarak görülüyor.