SÖZLÜK
Yapay zeka halüsinasyonu nedir?
Yapay zeka halüsinasyonu nedir, neden olur? Dil modellerinin uydurma bilgi üretmesinin nedenleri, sohbet karakterlerindeki örnekleri ve korunma yolları.
Kısa cevap
Yapay zeka halüsinasyonu, bir dil modelinin gerçekte olmayan, yanlış ya da kaynağı bulunmayan bir bilgiyi kendinden emin bir dille üretmesidir. Model cevabı bir bilgiye bakarak değil, metnin olası devamını tahmin ederek ürettiği için bu hata ortaya çıkabilir. Önemli bilgileri her zaman güvenilir bir kaynaktan doğrulamak gerekir.
Bir yapay zeka karakterine gerçek dünyayla ilgili bir soru sorduğunuzda akıcı ve ikna edici bir cevap alabilirsiniz. Ama akıcılık, cevabın doğru olduğu anlamına gelmez.
Neden olur?
Büyük dil modelleri bir soruya cevap verirken çoğu zaman bir veri tabanına bakmaz; eğitimde öğrendiği kalıplara göre en olası metni üretir. Eğitim verisinde bulunmayan, eksik ya da çelişkili bir konu sorulduğunda model yine akıcı bir cevap üretebilir, ama bu cevap uydurma olabilir.
Doğal dil üretimindeki halüsinasyonları derleyen kapsamlı bir tarama çalışması 2023’te ACM Computing Surveys dergisinde yayımlandı. Çalışmanın özetine göre bu sorun birçok gerçek kullanım senaryosunda sistemin başarımını düşürüyor ve kullanıcı beklentilerini karşılamıyor. Tarama, halüsinasyonu ölçme ve azaltma yöntemlerini genel olarak ele aldıktan sonra sorunu özetleme, diyalog üretimi, soru cevaplama, veriden metin üretimi ve makine çevirisi görevlerinde ayrı ayrı inceliyor.
Yapay zeka karakterlerinde halüsinasyon
Bir karakterin hikâye içinde hayal ürünü şeyler anlatması rol yapmanın doğal parçasıdır. Sorun, karakterin gerçek dünyaya dair bir soruya yanlış bir bilgiyi doğruymuş gibi vermesidir. Karakter kurgusaldır; söyledikleri bir uzmanın görüşü yerine geçmez.
| Özellik | Rol yapmada kurgu | Halüsinasyon |
|---|---|---|
| Ne zaman olur? | Hikâyenin içinde, sizin de bildiğiniz bir kurguda | Gerçek dünyaya dair bir soru sorduğunuzda |
| Örnek | Karakterin hayali bir şehirde yaşadığını anlatması | Karakterin var olmayan bir kitabı gerçekmiş gibi önermesi |
| Sorun mu? | Hayır, rol yapmanın doğal parçası | Evet, yanlış bilgi doğru gibi sunulur |
| Ne yapmalı? | Hikâyenin tadını çıkarın | Bilgiyi güvenilir bir kaynaktan doğrulayın |
Nasıl korunursunuz?
- Sağlık, hukuk ve parayla ilgili bilgileri resmî kaynaklardan ya da bir uzmandan doğrulayın.
- Karakterin verdiği tarih, sayı ve adları kesin bilgi saymayın.
- Önemli kararlarınızı yalnız bir sohbet botunun cevabına dayandırmayın.
Uygulama seçerken dikkat edilecek diğer noktalar yapay zeka sevgili güvenli mi rehberimizde yer alır.