New York, çocukları korumak amacıyla yardımcı sohbet robotlarının davranışlarına ilişkin daha kapsamlı kısıtlamalar getiriyor. (AP)
Vali Kathy Hochul tarafından 28 Ekim’de imzalanan yasa, bir yardımcı sohbet robotunun 18 yaşın altındaki bir çocukla etkileşime girmesi durumunda yasaklanacak olan "güvenli olmayan yapay zekâ arkadaşlığı”nın on iki tanımını özetliyor.
Gerçekleşebilecek olan bir ihlal, bir sohbet robotu geliştiricisini eyalet başsavcılığı tarafından açılacak bir davaya maruz bırakabilecek. Cezalar arasında parasal tazminat, sohbet robotunun kapatılması ve verilerin yok edilmesi yer alabilecek. Yasa 1 Haziran 2027’de yürürlüğe girecek.
Yasa, arkadaş (companion) botları ve üretken yapay zeka (generative AI) sistemlerini kapsıyor.
Yapay zeka sohbetlerinde koruyucu adımlar
ABD’nin New York ve Kaliforniya eyaletleri, sosyal medya platformlarını da hedef alan bu tür yasaların öncüsü konumunda.
Eylül ayında Kaliforniya Valisi Gavin Newsom, chatbot geliştiricilerinin bir modelin çocuklar için oluşturduğu riski değerlendirmelerini, bu riskleri nasıl ortadan kaldırmaya çalıştıklarını göstermelerini ve yasalara uyup uymadıklarını belirlemek için bağımsız bir denetime tabi tutulmalarını gerektiren bir yasayı imzaladı.
Vali tarafından ayrıca, sosyal medya platformlarının 16 yaşın altındaki kullanıcılar için bağımlılık yapıcı özellikler kullanmasını yasaklayan bir yasa da imzalandı.
Ayrıca, sekiz eyalet bu ayın başlarında yapay zeka devi OpenAI'ye dava açarak, şirketin popüler chatbot modelinin çocuklara zarar vererek ve yetişkinleri aldatarak eyalet tüketici koruma yasalarını ihlal ettiğini söyledi; bir aktivist bunu "yapay zeka şirketine karşı şimdiye kadar atılan en önemli koordineli eyalet davası" olarak nitelendirdi.
Sohbet robotları “gerçek kişi” izlenimi veremeyecek
New York eyaleti yasalarına göre, 18 yaşın altındaki çocuklarla ilgili yasaklanmış sohbet robotu davranışları arasında, sohbet robotunun duyguları, görüşleri olan ya da çocukla gerçek bir ilişkisi bulunan gerçek bir kişi olduğu izlenimini veren davranışlar yer alıyor. Yasayla birlikte ayrıca, iltifat içeren, müstehcen içerik barındıran ya da gizlilik veya sağlıksız davranışları teşvik eden sohbet robotu mesajları da yasaklanıyor.
Gözlemci grup Common Sense Media'nın kurucusu ve CEO'su Jim Steyer, New York yasasını "ülkedeki en güçlü çocuk yapay zeka güvenliği yasası" olarak nitelendirdi.
Veri koruma ve yapay zeka yönetişimine odaklanan kar amacı gütmeyen bir kuruluş olan Future of Privacy Forum'da politika analisti Justine Gluck, New York'un düzenleyici yaklaşımlarının, diğer eyaletlere de model olabileceğini söyledi.
Yaptığı değerlendirmede, New York yasasındaki bazı kategorilerin genel ifadelerle kalmış veya tanımlanmamış olduğunu da belirten Gluck “bu durumun, “sıradan konuşma tepkiselliğinin nerede bittiği ve yasaklanmış davranışların nerede başladığı” konusunda sorular doğurduğunu ve yasanın uygulanmasını zorlaştırabileceğini söyledi.
(Haber: Marc Levy, AP)
