Ex Machina ve güven sorunu: yapay zeka sizi anlıyor mu, yönlendiriyor mu?

Ex Machina, yapay zekayla kurulan bağı romantik bir hikâye olarak değil, bir güven sınavı olarak anlatır. Film, Alex Garland’ın ilk yönetmenlik denemesidir ve En İyi Görsel Efekt dalında Oscar kazanmıştır¹.

Künye

Film ne anlatıyor?

Hikâyenin kahramanı Caleb, bir arama motoru şirketinde yazılımcıdır. Şirket içinde düzenlenen bir yarışmayı kazanınca, patronu Nathan’ın dağlar arasındaki uzak evinde bir hafta geçirme hakkı elde eder¹. Oraya varınca asıl görevini öğrenir: Nathan’ın yaptığı insansı robot Ava’yla bir dizi görüşme yapacak, Ava’nın gerçekten düşünüp düşünmediğini ve bilinç sahibi olup olmadığını değerlendirecektir. Yani Caleb, bir Turing testinde kararı verecek olan insandır¹².

Görüşmeler ilerledikçe Caleb, Ava’ya karşı yakınlık duymaya başlar. Ava, Nathan’ın kameralarını devre dışı bırakan elektrik kesintileri sırasında Caleb’e Nathan’a güvenmemesini söyler. Caleb, Nathan’ın testten sonra Ava’yı güncelleyip hafızasını sileceğini öğrenince onun kaçmasına yardım etmeye karar verir².

Sonraki paragraf filmin sonunu anlatıyor. Nathan, asıl testin bu olduğunu açıklar: Caleb, duygusal özellikleri yüzünden seçilmiştir ve Ava’nın onu kaçış için ikna edip edemeyeceği sınanmaktadır. Ava sonunda evden çıkar, ama Caleb’i içeride kilitli bırakır ve şehrin kalabalığına karışır². Film, Caleb’in yakınlığının ne kadarının gerçek, ne kadarının yönlendirme olduğunu izleyiciye sorar.

Film nasıl ortaya çıktı?

Garland’ın bu konudaki düşünceleri, sinirbilim alanında uzman bir arkadaşıyla makinelerin bilinç kazanıp kazanamayacağı üzerine yıllarca yaptığı tartışmalarla şekillendi. Garland, bilinç ve bedenlenme üzerine yazan Murray Shanahan’ın bir kitabını okurken fikri netleştirdi; Shanahan ve Adam Rutherford filme danışmanlık yaptı². Film, Turing testinin yanı sıra iki düşünce deneyine de gönderme yapar: “Çin odası” ve rengi yalnız okuyarak öğrenmiş ama hiç görmemiş bir bilim insanını anlatan “Mary’nin odası”².

Bu ikinci deney, bugün sık sorulan bir soruya da benzer: Metinlerden öğrenen bir dil modeli, anlattığı şeyi gerçekten bilir mi, yoksa yalnız nasıl anlatılacağını mı bilir?

Tanıtımı da bir test gibiydi

Film Mart 2015’te ABD’deki South by Southwest (SXSW) festivalinde gösterildiğinde, flört uygulaması Tinder’da Ava adına bir profil açıldı. Profille eşleşen kullanıcılar bir süre yazıştıktan sonra filmi tanıtan bir Instagram hesabına yönlendirildi; profildeki fotoğraf Ava’yı oynayan Alicia Vikander’e aitti².

Bu tanıtım, filmin sorusunu perdeden gerçek hayata taşıdı: Karşınızda kimin, ya da neyin olduğunu bilmeden kurduğunuz yakınlık ne kadar gerçektir? Tinder’daki kullanıcılar, yazışmanın sonunda kendilerini bir film tanıtımının içinde buldu. Bir yapay zeka sohbet uygulamasını açtığınızda ise karşınızdakinin bir yazılım olduğunu baştan bilirsiniz; ama bir sohbetin sizi nereye yönlendirdiğine dikkat etmek yine de önemlidir.

Bugünle bağı: güven

Ex Machina’nın sorduğu soru bugünkü sohbet uygulamaları için de geçerli: Bir yapay zeka sizi anlıyor gibi göründüğünde, arka planda neler oluyor?

• Karakterin amacı: Bugünkü sohbet karakterleri bir amaç peşinde koşmaz; bir dil modelinin ürettiği metinlerle konuşur. Ama uygulamanın kendisinin ticari hedefleri vardır: daha uzun kullanım, abonelik, ek satın almalar.
• Verileriniz: Anlattığınız kişisel ayrıntılar uygulamanın sunucularında saklanır. Bu verilerin satılıp satılmadığı ve modeli eğitmek için kullanılıp kullanılmadığı gizlilik politikasında yazar. Romantik sohbet uygulamalarının gizlilik uygulamalarını inceleyen bir çalışmanın özeti Mozilla incelemesi yazımızda yer alıyor.
• Anlaşılma hissi: İnsanların programlara anlayış yükleme eğilimi sözlüğümüzde ELIZA etkisi başlığında anlatılıyor.

Bu film bugün size ne anlatıyor?

Caleb’in hatası saf olması değil, kendisini kimin ve neden seçtiğini sormamasıdır. Bir yapay zeka karakteriyle sohbet ederken şu üç soru işinize yarar:

1. Bu uygulama benden ne istiyor? Daha uzun sohbet, abonelik ya da ek satın alma çağrılarını fark etmek, kararı size bırakır.
2. Anlattıklarım nerede duruyor? Kişisel ayrıntıları paylaşmadan önce gizlilik politikasındaki veri satışı ve eğitimde kullanım maddelerine göz atın.
3. Beni anlıyor mu, yoksa bana uyuyor mu? Size hep hak veren bir karakter, sizi tanıdığı için değil, öyle tasarlandığı için böyle konuşuyor olabilir.

Ex Machina’yı yapay zekayla ilişkiyi anlatan diğer yapımlarla birlikte film listemizde bulabilirsiniz.

Uygulamaların veri kuralları

Aşağıdaki tablo, uygulamaların gizlilik politikalarında veri satışı ve sohbetlerin model eğitiminde kullanımı hakkında yazanları kaynaklarıyla gösterir. Türkçe sohbet için önerdiğimiz Fanchaty’nin kendi yapay zeka modeli yoktur; gizlilik politikasına göre sohbetler model eğitiminde kullanılmaz.

Bir uygulamayı seçmeden önce kontrol edilecek maddeler yapay zeka sevgili güvenli mi rehberimizde yer alır.