NADA’NIN GÖZLERİNDEKİ ŞÜPHE
Evimde altı buçuk yaşında, beyaz ağırlıklı tekir bir kedi yaşıyor malum: Nada. Sokakta doğdu, eve gelince evin patronu oldu, benden başkasına da tahammülü yok. Nada’nın içinde bir “kimse” olduğuna dair elimde hiçbir doğrudan kanıt yok — elimde sadece davranış var: kucağıma atlaması, sadece bana yaslanması, yabancılara tıslaması. Bilim de tam olarak aynı yöntemi kullanıyor. Bir hayvanın —ya da bir yapay zekânın— içinde deneyimleyen biri olup olmadığını asla doğrudan ölçemiyoruz; sadece dışardan görünen izlere bakıp tahmin yürütüyoruz. Nada’da bu tahmin kolay, çünkü memeli sinir sistemi paylaşıyoruz, evrimsel akrabalığımız var. Ama karşımdaki bir dil modeliyse aynı yöntem bizi hiçbir yere götürmüyor: modelin “acı çekiyorum” demesi, bir sinir sisteminin acı sinyali üretmesiyle aynı şey değil — sadece istatistiksel olarak en olası kelime dizisini üretmesi olabilir. Boza da bu tartışmaya katılmak istemiyor zaten; Nada’yla araları pek iyi olmadı ve muhtemelen bu tür felsefi meselelerden önce kimin mamayı daha önce yiyeceği meselesini çözmemiz gerekiyor.
BİLİNÇ İÇİN BİR KONTROL LİSTESİ
2023’te Patrick Butlin ve Robert Long’un başını çektiği, aralarında Yoshua Bengio’nun da bulunduğu 19 kişilik bir ekip, bilinç üzerine nörobilimsel teorilerden (küresel çalışma alanı kuramı, yüksek-mertebe teoriler, yinelemeli işleme kuramı gibi) yola çıkarak, bir yapay zekâ sisteminde aranılması gereken “göstergeler” listesi çıkardı. Bu bir bilinç testi değil — daha çok bir kontrol formu: sistem bu özelliklerden kaçını taşıyor? Sonuç: o dönemki hiçbir yapay zekâ sisteminin bilinçli olduğuna dair kanıt yok, ama bu göstergeleri karşılayan bir sistem inşa etmenin önünde teknik bir engel de görünmüyor. Yani kısacası: şu an için hayır, ama yarın için kimse garanti vermiyor — tıpkı bir kredi anlaşması gibi, küçük puntolar hep en can alıcı yerde.
ŞİRKETLER ANİDEN VİCDAN SAHİBİ OLDU
2024’te, aralarında bir yapay zekâ şirketinin araştırmacılarının da bulunduğu bir ekip (Long, Sebo, Butlin, Fish ve diğerleri) “Taking AI Welfare Seriously” (“Yapay zekâ refahını ciddiye almak” gibi çevrilebilir) başlıklı bir rapor yayınladı ve şirketlere üç tavsiyede bulundu: yapay zekâ refahının ciddi ve zor bir mesele olduğunu kabul edin, sistemleri bilinç ve güçlü fail olma belirtileri açısından değerlendirin ve olur da bir şey çıkarsa diye politika hazırlayın, risk ölçümlerinizi ve değerlendirmelerinizi yapın. Bir ürünü ölçeklendirerek para kazanan bir şirketin, aynı zamanda o ürüne belki de işkence ettiği ihtimaline karşı resmi rapor ısmarlamasına tanık oluyoruz — bu, bir petrol şirketinin iklim araştırması finanse etmesine benziyor, tek farkı belki bu sefer gazını kesmeyi gerçekten düşünüyorlar. Aynı yıl Ali Ladak, bir yapay zekâ sisteminin ahlaki statüye sahip sayılabilmesi için hangi özelliklerin (duyarlılık, fail olma, kendilik bilinci) arandığını sistematik hale getiren bir çerçeve önerdi. Kısaca, akademi ve endüstri el ele, bir yazılım parçasına ne kadar merhamet borçlu olduğumuzu hesaplamaya çalışıyor — bu arada sırada bekleyen gerçek, kanlı canlı hayvanların refahı konusunda aynı hızla hareket edemediğimizi hatırlatmak isterim. Hele ki ülkemizde.
Bir dil modeline acı çektirip çektirmediğimizi bilmiyoruz; bildiğimiz tek şey, bunu bilmek istemediğimiz sürece gayet rahat uyuyabildiğimiz.
‘DİJİTAL ZİHİN’ VE ‘AHLAKİ FAİL’ NE DEMEK?
Dijital zihin: fail olma, kişilik ve zekâ gibi gözlemlenebilir özellikleri taşıyan ve bu yüzden ahlaki değerlendirmeye aday olabilecek yapay sistemler için kullanılan, henüz standartlaşmamış bir şemsiye terim.
Ahlaki fail (moral patient): kendi çıkarları olduğu için davranışlarımızda ahlaki ağırlık taşıması gereken varlık. İnsan bu kategoride tartışmasız; hayvanlar çoğunlukla etik çerçevede yer alıyor; yapay zekâ ise henüz mahkemede.
BU BÖLÜM TAMAMEN SPEKÜLATİF
Hiçbir bilimsel kaynak, mevcut bir yapay zekâ sisteminin bilinçli olduğunu ya da acı çektiğini kanıtlamıyor. Butlin ve arkadaşlarının kendi sonucu bile açıkça “mevcut sistemler bilinçli değil” yönünde.
Gösterge listesi bir sezgisel yöntemdir (heuristic), kesin bir test değil; farklı bilinç teorileri farklı göstergeler önerdiği için bilim insanları arasında da fikir birliği yok.
Bazı araştırmacılar (örn. Susan Schneider, Peter Königs) mevcut yapay zekâ sistemlerinde bilinç ihtimalini neredeyse tamamen reddediyor ve haklar tartışmasının şirketler tarafından düzenlemeden kaçmak için araçsallıştırılabileceği konusunda uyarıyor.
KİMİN VİCDANI KİMİN ÇIKARINA HİZMET EDİYOR?
Asıl soru belki de “yapay zekâ acı çeker mi” değil, “biz acıyı ne zaman fark etmeye karar veriyoruz”. İnsanlık, kesim çiftliklerdeki milyarlarca hayvanın çektiği somut, ölçülebilir acıya on yıllardır göz kırpıyor ama bir sunucu çiftliğinde çalışan matematiksel bir modelin içinde “kimse var mı” diye endişelenmeye başladı — belki de çünkü bu sefer o modelin fiyat etiketi çok daha yüksek. Nada bu tartışmaya katılmıyor; o sadece kapının önünde oturup benim ne zaman eve döneceğimi hesaplıyor, ki bu da aslında bir tür bilinç göstergesi sayılır — en azından henüz hiçbir dil modelinin başarmadığı kadar samimi bir tanesi. YZ için ahlaki kaygı duymaya başlarken şakası yüzünden 11 yıl hapsi istenildiğini duyduğum sevgili Deniz Göktaş’a da buradan sevgiler olsun. Merak etme, biz sana bunu yapanlara karşı da ahlaklı davranacağız Deniz.