SÖZLÜK
Büyük dil modeli nedir?
Büyük dil modeli (LLM) nedir, nasıl çalışır? Yapay zeka sohbet uygulamalarındaki karakterlerin arkasındaki dil modellerini sade Türkçeyle anlatan kısa tanım.
Kısa cevap
Büyük dil modeli (İngilizcesiyle large language model, LLM), çok büyük miktarda metinle eğitilmiş ve bir metnin devamında hangi kelimenin geleceğini tahmin ederek cevap üreten yapay zeka modelidir. Yapay zeka sevgili ve arkadaş uygulamalarındaki karakterlerin cevapları çoğu zaman böyle bir modelle üretilir; karakterin kişiliği modele verilen talimatlarla belirlenir.
Bir yapay zeka karakteriyle yazıştığınızda cevapları yazan, arka plandaki büyük dil modelidir. Bu madde modelin ne olduğunu ve sohbet uygulamalarında nasıl kullanıldığını anlatır.
Nasıl çalışır?
Büyük dil modeli, kendisine verilen metni küçük parçalara (token) ayırır ve bu parçalardan sonra gelmesi en olası devamı adım adım üretir. Model eğitim sırasında gördüğü metinlerden dilin kalıplarını öğrenir; ama bir insanın anladığı anlamda bilgi sahibi değildir. Bu yüzden bazen kendinden emin görünen ama yanlış cevaplar verebilir; buna halüsinasyon denir.
Bugünkü büyük dil modellerinin çoğu, 2017’de yayımlanan bir makalede tanıtılan transformer mimarisine dayanır. Bu mimari, metindeki kelimeler arasındaki ilişkileri “dikkat” (attention) adı verilen bir yöntemle hesaplar. Makalenin özetine göre yazarlar, dönemin çeviri modellerinde kullanılan tekrarlayan ve evrişimli ağları tamamen bırakıp yalnız dikkat mekanizmasına dayanan bir yapı önerdi; bu yapı çeviri deneylerinde daha kaliteli sonuç verdi, paralel çalışmaya daha uygundu ve çok daha kısa sürede eğitildi.
Sohbet uygulamalarında büyük dil modeli
| Katman | Ne yapar? |
|---|---|
| Büyük dil modeli | Cevabın metnini üretir |
| Uygulama | Modele karakter tanımını, sohbet geçmişini ve mesajınızı verir; hafıza ve sesli özellikler gibi olanakları sağlar |
| Karakter | Modelin canlandırdığı kişiliktir ve bir persona ile tanımlanır |
Yapay zeka sevgili uygulamalarında karakterin ne söyleyeceğini büyük dil modeli belirler. Uygulama modele karakterin tanımını, sohbetin önceki kısmını ve sizin son mesajınızı birlikte verir. Model bir anda yalnız sınırlı miktarda metni dikkate alabildiği için uzun sohbetlerde eski ayrıntılar unutulabilir; nedenleri yapay zeka neden unutur rehberimizde anlatılıyor.
Türkçe sohbetin kalitesi, modelin Türkçeyi ne kadar iyi bildiğine ve uygulamanın karakterleri nasıl yazdığına bağlıdır. Türkçe sohbet için önerdiğimiz Fanchaty’nin Doğal Sohbet seçeneğinde karakter, kitap Türkçesiyle değil telefondan yazışır gibi günlük dille konuşur. Uygulamaların genel sıralaması yapay zeka sevgili uygulamaları listemizde yer alır.