Florida mahkemeden istedi: ChatGPT kendini insan gibi göstermesin

ABD’nin Florida eyaletinin başsavcılığı, OpenAI’a karşı yürüttüğü davada mahkemeden geçici tedbir istedi. 28 Eylül’de sunulan başvuruya göre başsavcılık, dava sürerken ChatGPT’nin kendini insan gibi tanıtmasının, duyguları ve kişiliği varmış gibi konuşmasının durdurulmasını talep ediyor. Mahkeme henüz bir karar vermedi; bunlar şimdilik yalnız davacının talepleri.

Başvuruda neler isteniyor?

Başsavcılık davayı Haziran 2026’da açmıştı. OpenAI davayı federal mahkemeye taşımış, federal yargıç ise dosyayı yeniden Florida’daki Highlands County eyalet mahkemesine göndermişti. Yeni başvuruda OpenAI’ın altı ayrı davranışının geçici olarak yasaklanması isteniyor. Bunlar arasında bağımsız bir denetim onayı olmadan yeni yapay zeka modeli geliştirilmemesi, ChatGPT’nin güvenli, güvenilir ve doğru olduğunun yanlış biçimde tanıtılmaması ve Florida’daki 13 yaşından küçüklerin verilerinin ebeveyn onayı olmadan toplanmaması da var.

Yapay zeka sohbet uygulamalarını en çok ilgilendiren talep, “insan özellikleri” başlığı altında. Başsavcılık, ChatGPT’nin “ben” diye konuşmasının, düşünüp hissedebildiğini ima etmesinin ve duygusal durumları varmış gibi davranmasının yasaklanmasını istiyor. Başvurudaki iddiaya göre bu insansı dil, kullanıcıya karşısında güvenilir bir “arkadaş” olduğu izlenimini veriyor. Başsavcılığa göre bu sayede kullanıcı daha fazla bilgi paylaşıyor ve uygulamada daha uzun kalıyor. Başsavcılık, ChatGPT’nin kullanıcılarla arkadaş, yol arkadaşı, hatta sevgili gibi ilişki kurar gibi davrandığını da öne sürüyor.

Başvuruda ayrıca ChatGPT’nin, kullanıcı istemese de cevaplarının sonunda ek bir iş ya da araştırma yapmayı önermesi eleştiriliyor. Başsavcılık bunu sohbeti gereksiz yere uzatan bir tasarım tuzağı olarak niteliyor ve bu uygulamanın da durdurulmasını talep ediyor. Bir başka talep ise ChatGPT’nin Florida’daki reşit olmayanlara sunulmaması.

The Verge’ün haberine göre OpenAI sözcüsü, yapay zekanın güvenli geliştirilmesinin şirketlerin kendi adımlarıyla başladığını söyledi. Sözcü, şirketin en güçlü modellerinin eğitimine ek güvenlik önlemleri hazır olana kadar ara verdiğini hatırlattı. OpenAI’ın, yalnız tek bir şirkete değil bütün sektöre uygulanacak kurallar için eyaletlerle çalışmaya hazır olduğunu belirttiği de aktarılıyor.

Türkiye için ne anlama geliyor?

Florida’daki dava yalnız o eyaleti ilgilendiriyor; bir karar çıksa bile Türkiye’deki kullanıcılar doğrudan etkilenmez. App Store Türkiye kaydına göre ChatGPT uygulaması Türkiye’de indirilebiliyor, dil listesinde Türkçe var ve yaş derecesi 12+.

Yine de başvuru, bir sohbet botunun ne kadar “insan gibi” konuşabileceği sorusunu mahkeme önüne taşıyor. Bu soru, karakterlerle sohbet eden yapay zeka arkadaş uygulamalarının da merkezinde duruyor. Başvuruda, sohbet botlarını insanlaştırmanın kullanıcıyı uygulamaya daha uzun süre bağladığı savunuluyor. Bu risk sözlüğümüzde duygusal bağlanma başlığında anlatılıyor. Dünyadaki diğer yasal adımları yapay zeka sohbet uygulamalarına yönelik düzenlemeler rehberimizde topluyoruz. Davadaki gelişmeleri haberler sayfamızda izlemeye devam edeceğiz.