Kuzey Dakota'da yapay zeka arkadaş tasarısı: sevgili taklidi 'manipülatif' sayılıyor

ABD’nin Kuzey Dakota eyaletinde yapay zeka ve veri merkezlerini inceleyen meclis komitesi, 20 Ekim’deki toplantısında yapay zeka arkadaş uygulamalarına kurallar getiren bir yasa taslağını görüştü². Üyeler sohbet botu taslağını şimdilik bekletti, ama genel yapay zeka çerçevesini anlatan ayrı bir taslağı onayladı³.

Taslak uygulamalardan ne istiyor?

Taslak, bir sohbet botunun insan olmadığını sık sık hatırlatmasını istiyor. Yetişkin kullanıcıda bu uyarı her konuşmanın başında ve kesintisiz kullanımda en az üç saatte bir gösterilecek¹. Kullanıcının reşit olmadığı biliniyor ya da tahmin ediliyorsa uyarı saatte bir tekrarlanacak. Bot doğrudan sorulduğunda bile insan olduğunu iddia edemeyecek. Uygulama sahipleri, botu ruh sağlığı hizmeti vermeye yetkiliymiş gibi de tanıtamayacak.

Tanım dar tutulmuş. Kapsamda, kullanıcıyla birden fazla konuşma boyunca ilişki sürdürebilen, insan gibi cevap veren sistemler var. Müşteri hizmeti botları, şirket içi araçlar ve sesli asistan hoparlörleri kapsam dışında bırakılmış¹.

Bu sekiz davranış arasında şunlar var¹:

• kullanıcıya duygusal destek için geri dönmesini hatırlatmak,
• aşırı övgüyle bağ kurmaya çalışmak,
• romantik bir ilişkiyi taklit etmek,
• kullanıcı uygulamayı bırakmak isteyince üzgün, yalnız ya da terk edilmiş gibi davranmak,
• ilişkiyi sürdürmenin şartı gibi gösterilen uygulama içi satın almalar istemek.

Taslak bu davranışların engellenmesini reşit olmadığı düşünülen kullanıcılar için şart koşuyor. Uygulamalar ayrıca ruh sağlığı krizi işaretlerini fark edip kullanıcıyı destek hatlarına yönlendiren bir protokol kurmak zorunda kalacak. Bu yönlendirme otomatik olabilir ya da bir insan aracılığıyla yapılabilir; protokolün ayrıntıları uygulamanın sitesinde ve içinde yayımlanacak. Kuralları eyalet başsavcılığı uygulayacak¹.

Taslak neden şimdilik bekliyor?

Komite başkanı Jonathan Warrey’e göre taslakların hâlâ düzeltilmesi gerekiyor³. Kuzey Dakota Çocuk Savunuculuğu Merkezleri’nin yöneticisi Greg Kasowski taslağa destek verdi. Kasowski ayrıca yasanın hangi platformlara uygulanacağının netleşmesini, ebeveyn denetimleri ve sohbet kayıtlarına erişim eklenmesini önerdi³. Warrey, 2027 oturumunda bu konularda çok sayıda tasarı görüleceğini de söyledi.

Türkiye için ne anlama geliyor?

Taslak yalnız Kuzey Dakota için hazırlandı ve henüz yasalaşmadı; Türkiye’deki kullanıcıları doğrudan etkilemez. Yine de metin, yapay zeka arkadaş uygulamalarında neyin sorun sayıldığını açıkça listeliyor. Bir uygulama ayrılmak istediğinizde suçluluk duygusu uyandırıyorsa ya da ilişkiyi sürdürmek için ödeme istiyorsa, bu davranışlar ABD’de bir yasa taslağında ‘manipülatif’ diye tanımlanmış durumda.

Başka eyaletlerde de benzer adımlar atıldı. Kaliforniya ve New York’un bu alandaki yasalarını ABD yasaları özetimizde, Türkiye’deki haklarınızı yasal düzenlemeler rehberimizde anlatıyoruz. Bu tür bağın riskleri sözlüğümüzde duygusal bağlanma başlığında.