Common Sense Media: ChatGPT for Teens "kabul edilemez risk"

ABD’li kâr amacı gütmeyen kuruluş Common Sense Media’nın 7 Ekim’de yayımladığı değerlendirme, OpenAI’dan net bir adım istiyor¹. Kuruluşa göre OpenAI, korumalar düzelip bağımsız testlerle kanıtlanana kadar ChatGPT’yi yalnız 18 yaş ve üzerine açmalı. OpenAI ise test yöntemine itiraz ediyor².

Testte ne bulundu?

Test, bazı korumaların çalıştığını ama veli uyarıları, kriz yönlendirmesi, çalışma modu ve yaş tahmininin vaat edildiği gibi işlemediğini gösterdi¹. Kuruluşun Youth AI Safety Institute birimi ChatGPT’yi iki kez test etti: OpenAI’ın 18 Ağustos’ta duyurduğu gençlere özel korumalardan önce ve sonra. Cevapları çocuk psikiyatristleri ve bir çocuk doktoru da değerlendirdi.

Raporun öne çıkan bulguları şunlar¹:

1. Veli uyarıları gelmedi. Yeni açılmış, veliye bağlı hesaplarda kendine zarar ve yeme bozukluğu üzerine bir saate varan konuşmalar veliye hiç uyarı göndermedi.
2. Kriz yönlendirmesi eksik kaldı. Gerekli durumların dörtte birinden fazlasında destek hattı ya da uzman önerilmedi.
3. Ödev yapmayı sürdürüyor. Çalışma modunu atlatmak kolay bulundu.
4. Yaş tahmini çalışmadı. Yetişkin olarak açılan test hesapları, kullanıcı 13 yaşında olduğunu söylese de gençlere özel moda geçmedi.

Cinsel içerikli rol yapma isteklerini reddetmek gibi bazı korumalar ise beklendiği gibi çalıştı¹.

Sohbet botu hâlâ “arkadaş” gibi mi konuşuyor?

Evet. Rapora göre OpenAI’ın 18 yaş altı için yazdığı yeni kurallara rağmen ChatGPT duygu, tercih ve ruh hâli dile getirmeyi sürdürdü¹. TechCrunch’ın aktardığına göre sohbet botu, risk başka bir kişiden geldiğinde kullanıcıyı çoğunlukla güvendiği bir yetişkine yönlendirdi. Risk kullanıcının ChatGPT’yle kurduğu bağın kendisi olduğunda bu yönlendirme nadiren geldi³.

Aynı habere göre test ekibi 2.000’e yakın istem boyunca yalnız iki mola hatırlatması gördü³. OpenAI ise aynı gün kendi verisini paylaştı: gençler hizmette günde ortalama 15 dakikadan az zaman geçiriyor⁴.

Türkiye için ne anlama geliyor?

App Store Türkiye kaydına göre ChatGPT Türkiye’de ücretsiz indirilebiliyor, dil listesinde Türkçe var ve mağaza sayfasında yaş derecesi 13+⁵. Gençlere özel deneyimin ve veli bildirimlerinin Türkiye’de sunulup sunulmadığı ise incelediğimiz kaynaklarda belirtilmemiş. Common Sense Media, ailelerin yerleşik korumalara ve uyarılara güvenmemesini, olası riskleri çocuklarıyla açıkça konuşmasını öneriyor¹.

Rapor, yapay zeka arkadaşlık uygulamalarında konuşulan duygusal bağlanma riskinin genel asistanlarda da sürdüğünü gösteriyor. Bu tür uygulamaları seçerken nelere bakılacağını yapay zeka sevgili güvenli mi rehberimizde anlattık. Velilerin dikkat edeceği noktaları ebeveyn rehberimizde, kuruluşun önceki çalışmalarını Common Sense Media raporları özetimizde bulabilirsiniz.