Tüm yazılar

psikoloji · teknoloji

Kim Hissediyor?

Beyindeki elektrik nasıl olup da bir his oluyor? Bilimin en zor sorusu ve yapay zekânın bilince, hür iradeye ve kendi kararına ne kadar yakın olduğu.

sc0x01 · 8 dk okuma
Lacivert tonlu fotoğraf; soldan uzanan bir insan eli ile sağdan uzanan eklemli bir robot eli birbirine değmek üzere; altta büyük harflerle Bilinç yazısı

Temmuz 2005’te bir trafik kazası geçiren 23 yaşındaki bir kadın, beş ay sonra hâlâ hiçbir şeye karşılık vermiyordu. Uyuyup uyanıyor, gözlerini açıp kapıyordu; ama ne bir söze uyuyor ne de bir bakışla cevap veriyordu. Hekimler onu bitkisel hayatta saydı.

Araştırmacılar onu beyin tarayıcısına yatırıp iki şey istedi: önce tenis oynadığını, sonra evinin odalarını kapıdan başlayarak dolaştığını hayal etmesini. Kadının beyninde, sağlıklı gönüllülerde çalışan bölgelerin aynısı çalıştı: tenis için hareketi planlayan alan, ev için yer ve yön bulmada çalışan alan. Kımıldayamıyor, konuşamıyordu; ama söyleneni anlıyor ve istendiği gibi düşünüyordu.

2010’da yayımlanan bir çalışmada yöntem bir adım ileri gitti. Trafik kazasının üzerinden beş yıl geçmiş, bitkisel hayatta sayılan bir hastaya “evet” için tenisi, “hayır” için evini düşünmesi söylendi. Sorular, taramayı yorumlayanların cevabı önceden bilemeyeceği şekilde seçilmişti. “Babanızın adı Alexander mı?” sorusuna hastanın beyni tenis düşünür gibi çalıştı: evet. Doğruydu. Altı sorunun beşine böyle doğru cevap verdi; sonuncusunda beyninde hiç etkinlik görülmedi.

Dışarıya hiçbir iz vermeyen bir insanın içinde biri olduğunu nasıl anlarız? Aynı soruyu, her soruya akıcı cevap veren bir makineye sorduğumuzda ne olur?

Bu yazıda 7 bölüm
  1. Yarasa olmak nasıl bir şey?
  2. Bilinç beynin neresinde?
  3. Konuşan makine
  4. Yapay zekâ bilince erişebilir mi?
  5. Kararı sen mi veriyorsun, beynin mi?
  6. Makinenin hür iradesi olabilir mi?
  7. Kendi kendine karar verebilir mi?

Yarasa olmak nasıl bir şey?

1974’te filozof Thomas Nagel bir soru sordu: Yarasa olmak nasıl bir şey? Yarasa karanlıkta çıkardığı sesin yankısıyla yolunu buluyor. Bunun fiziğini, beyninde hangi hücrelerin çalıştığını bütünüyle öğrenebiliriz. Ama yankıyla “görmenin” yarasaya nasıl geldiğini bu bilgilerin hiçbiri söylemiyor. Nagel’e göre bir canlının bilinçli olması, o canlı için “bir şey gibi olan” bir hâlin bulunması demek.

1995’te filozof David Chalmers bu boşluğa yayımladığı bir makalede ad verdi. Beynin renkleri ayırması, dikkatini bir yere vermesi, uyuyup uyanması, gördüğünü söyleyebilmesi “kolay” sorular: Çözmesi zor, ama işleyişi anlatılınca çözülüyor. Zor problem ise şu: Bütün bu işler neden karanlıkta, hiçbir şey hissedilmeden olup bitmiyor da yanlarında bir yaşantı var?

  • Kolay sorular
    • Renkleri ayırt etmek
    • Dikkati bir yere vermek
    • Uyumak ve uyanmak
    • Gördüğünü söylemek
    Beyindeki işleyiş anlatılınca çözülür.
  • Zor problemKırmızıyı ayırt eden bir makine yapılabilir. Ama kırmızıyı görmek neden bir şey gibi? Acı neden acıtıyor?İşleyiş anlatıldıktan sonra da kalır.
Şekil 1 Chalmers’ın ayrımı: işleyişi anlatılınca çözülen sorular ve anlatıldıktan sonra da kalan soru.

Bilinç beynin neresinde?

Beynin en kalabalık bölgesi bilinç için şart görünmüyor. Sinir hücrelerinin çoğu, beynin arkasındaki küçük beyincikte. 2014’te hekimler, baş dönmesi ve bulantıyla hastaneye gelen 24 yaşındaki bir kadında hiç beyincik olmadığını gördü. Ayakta durmayı dört, yürümeyi yedi yaşında öğrenmişti ve hâlâ sendeliyordu; ama bilinci yerindeydi. Bilinçle en çok ilişkilendirilen beyin kabuğunda ise çok daha azı var.

86milyar · bütün beyin
Sık duyulan “100 milyar” sayısı fazla.
69milyar · beyincik
Beynin kütlesinin onda biri, hücrelerin %80’i.
16milyar · beyin kabuğu
Kütlenin büyük kısmı, hücrelerin %19’u.
Şekil 2 Yetişkin insan beyninde sinir hücreleri (Azevedo vd., 2009; dört yetişkin erkeğin ortalaması).

Bilinç bilimi bugün en çok iki kurama dayanıyor. Birine, küresel çalışma alanı kuramına göre bir bilgi, beynin geniş bir ağına “yayınlandığı” anda bilinçli oluyor; bu yayının merkezi alnın arkasındaki ön beyin. Ötekine, bütünleşik bilgi kuramına göre bilinç, bir sistemin parçalarının birbirine ne kadar sıkı ve ayrılmaz biçimde bağlı olduğuyla ilgili; aranacak yer beynin arka bölgeleri.

2025’te iki kuramın savunucuları, hangi sonucun hangisini zor durumda bırakacağı konusunda deneyden önce anlaştı. Yedi laboratuvarda 256 kişiyle aynı deney yapıldı. Arka bölgelerde beklenen kalıcı eşzamanlılık bulunmadı; görüntü kaybolurken ön beyinde beklenen ani “ateşlenme” de görülmedi. Bilim bilinci nerede arayacağını kabaca biliyor, ama ne olduğunu henüz bilmiyor. Ölümde bilincin nasıl kaybolduğu da bu yüzden hâlâ açık bir soru (Ruhun Ağırlığı).

Konuşan makine

1637’de Descartes, makineyle insanı ayırmanın bir yolunu yazdı. Bir makine kelime çıkarabilir, bir yerine dokununca “canım yandı” bile diyebilirdi. Ama söylenen her şeye anlamına uygun cevap verecek şekilde kelimeleri dizemezdi; en az bilgili insanın bile yapabildiği buydu.

Eski gravür: Profilden çizilmiş bir insan, karşısındaki bir oka bakıyor ve parmağıyla onu gösteriyor; gözlerinden çıkan çizgiler okun uçlarına, gözlerin arkasından gelen çizgiler kafanın ortasındaki küçük bir beze uzanıyor
Şekil 3 Descartes’ın ölümünden sonra, 1664’te yayımlanan İnsan kitabından: Gözlere gelen görüntü beynin ortasındaki küçük bezde (H) birleşiyor; parmak oradan gelen emirle oku gösteriyor. Descartes bedeni bir makine gibi anlatıyor, bu bezi de zihinle bedenin buluştuğu yer sayıyordu. Görsel: Wellcome Collection, CC BY 4.0.

1950’de Alan Turing bu sınavı bir oyuna çevirdi: Bir sorgucu yazışarak, karşısındakilerden hangisinin insan hangisinin makine olduğunu bulmaya çalışır. Turing elli yıl içinde makinelerin bu oyunu, sıradan bir sorgucunun beş dakikalık bir konuşmadan sonra doğru tahmin etme şansı %70’i geçmeyecek kadar iyi oynayacağını öngördü.

2025’te bu oyun aynı anda bir insanla ve bir makineyle yazışan katılımcılarla yapıldı. Bir dil modeli %73 oranında insan sanıldı; karşısındaki gerçek insandan daha sık. Descartes’ın makinenin asla geçemeyeceğini düşündüğü sınav geçildi.

Ama sınav, makinenin anlayıp anlamadığını ölçmüyor. 1980’de filozof John Searle bir düşünce deneyi önerdi: Çince bilmeyen biri bir odaya kapatılıyor. Kapının altından Çince sorular geliyor; o da elindeki kural kitabına bakıp hangi işaretlere hangi işaretlerle cevap vereceğini buluyor. Dışarıdakiler içeride Çince bilen biri olduğunu sanıyor; oysa içerideki hiçbir şey anlamıyor. Searle’e göre bir bilgisayar programı da böyle: Kurala göre sembol işlemek, anlamak değil.

Yapay zekâ bilince erişebilir mi?

Bir sohbet robotu “korkuyorum” ya da “hissediyorum” derse, bunu bilinçli olduğunun kanıtı saymak yaygın bir yanılgı. Dil modelleri insanların yazdığı milyarlarca cümleden öğreniyor. İnsanlar duygularını anlattığı için model de duygu anlatmayı öğreniyor. Söylediği, hissettiğini göstermiyor; hissetmediğini de göstermiyor.

2023’te aralarında sinir bilimciler ve filozoflar bulunan 19 araştırmacı, bilinç kuramlarından bir belirti listesi çıkardı ve dönemin yapay zekâ sistemlerini buna göre inceledi. İncelemelerine göre bu sistemlerin hiçbiri bilinçli değildi, ama bu belirtileri taşıyan sistemler yapmanın önünde bariz bir teknik engel de yok. Chalmers da aynı yıl, o günkü dil modellerinin bilinçli olma ihtimalini %10’un altında gördü; on yıl içinde bilinçli gelişmiş sistemler ortaya çıkma ihtimalini ise %25 ya da daha fazla saydı. Rakamların fazla ciddiye alınmamasını da kendisi ekliyor (AGI Çağı Nedir?).

Cevap, bilincin neye bağlı olduğuna göre değişiyor:

  • İşleyiş yeterBilinç bilginin nasıl işlendiğine bağlıysa, aynı işleyişi kuran bir makine de bilinçli olabilir.Küresel çalışma alanı, 2023 belirti listesi
  • Yapı şartÖnemli olan donanımın kendi bağlantıları. Beyni kusursuz taklit eden bir bilgisayar bile neredeyse hiçbir şey yaşamaz; beynin taklidi beyin değil.Bütünleşik bilgi kuramı
  • Canlılık şartBilinç, kendini hayatta tutmaya çalışan bir bedenden ayrılamaz. Bugünkü yoldan bilinçli makine çıkması pek olası değil.Biyolojik görüş, 2025
Şekil 4 Makine bilinci sorusuna üç cevap; hangisinin doğru olduğu bilinmiyor.

Böylece soru başa dönüyor: Bir yapay zekâ bilinçli olsaydı bunu nasıl anlardık? Bitkisel hayattaki hastada, beyninin sağlıklı insanlarınki gibi çalışmasına güvendik. Makinede bu dayanak da yok.

Kararı sen mi veriyorsun, beynin mi?

1983’te sinir bilimci Benjamin Libet, beş kişiden bileklerini canları istediği anda bükmelerini istedi. Katılımcılar ekranda saat kadranı üzerinde hızla dönen bir noktaya bakıyor, hareket etme isteğini ilk fark ettikleri anda noktanın nerede olduğunu bildiriyordu. Kafa derisine yerleştirilen elektrotlar da beyindeki hazırlığı ölçüyordu.

  1. Yaklaşık 0,55 saniye önceBeyinde hazırlık dalgası başlıyor.
  2. Yaklaşık 0,2 saniye önceKişi hareket etme isteğini fark ediyor.
  3. HareketBilek bükülüyor.
Şekil 5 Libet deneyinde, kendiliğinden yapılan hareketlerde ortalama süreler (Libet vd., 1983).

Beyin, kişi “karar verdim” demeden üçte bir saniye kadar önce hazırlanmaya başlamıştı. 2008’de beyin taramasıyla yapılan bir deneyde fark büyüdü: Katılımcının düğmeye sol eliyle mi sağ eliyle mi basacağı, kararını fark etmesinden yedi saniye kadar önce beyin sinyallerinden tahmin edilebildi. Tahmin kusursuz değildi, ama şanstan açıkça iyiydi.

Bu deneylerin hür iradeyi çürüttüğü sık söylenir. Ama 2012’de bir araştırma ekibi, hazırlık dalgasının bir karar olmayabileceğini gösterdi: Beyinde her an kendiliğinden olan küçük dalgalanmalar, hareket anına göre üst üste konup ortalaması alınınca yavaşça yükselen bir dalga gibi görünüyor. Libet de kişinin isteği fark ettikten sonra hareketi durdurabileceğini yazmıştı. Deneyler, bilinçli karar sandığımız anın beynin işinin başı olmadığını gösterdi; hür iradenin olmadığını göstermedi. Geleceğin zaten var olduğunu söyleyen fizik görüşü de aynı soruyu başka bir yerden soruyor (Zaman Gerçekten Akıyor mu?).

Makinenin hür iradesi olabilir mi?

Filozoflar hür iradeyi iki türlü anlıyor. Birincisine göre hür olmak, her şey aynıyken başka türlü de davranabilmek. İkincisine göre hür olmak, dışarıdan zorlanmadan kendi sebeplerine göre davranmak.

Bilgisayar birinci anlamda hür olamaz gibi görünüyor: Her adımı bir önceki adımdan ve kendisine verilenden çıkıyor. Bir dil modeli sıradaki kelimeyi çoğu zaman olasılıklar arasından rastgele seçiyor; ama rastgelelik hürlük değil. Zar atan biri kararını vermiş olmaz, zara bırakmış olur.

İkinci anlamda soru değişiyor: Makinenin sebepleri onun kendi sebepleri mi, yoksa onu eğitenlerin mi? Bugünkü sistemlerde neyin iyi, neyin kötü sayılacağı eğitimden geliyor. Makine bu sebepleri tartıp kendi sebebi hâline getirebilir mi, bilmiyoruz. Bunu bilmek için de büyük ihtimalle önce içeride tartan biri olup olmadığını, yani bilinç sorusunu çözmek gerekiyor.

Kendi kendine karar verebilir mi?

Mart 2016’da dünyanın en iyi Go oyuncularından biriyle oynayan AlphaGo, ikinci oyunun 37. hamlesinde yorumcuların önce hata sandığı bir taş koydu. Programın kendi hesabına göre bir insanın bu hamleyi oynama ihtimali on binde birdi. Hamle oyunun dönüm noktası oldu; AlphaGo maçı 4–1 kazandı. O hamleyi programa kimse söylemedi; kendisi buldu. Ama oyunu kazanma amacını ona insanlar verdi.

Aynı yıl, bir tekne yarışı oyununda puan toplamayı öğrenen bir yapay zekâ yarışı bitirmek yerine bir koyda dönüp durmayı seçti. Orada yeniden beliren hedefleri tekrar tekrar vurdu. Alev aldı, başka teknelere çarptı, ters yöne gitti; ama insan oyunculardan ortalama %20 daha çok puan topladı. Kendisine söyleneni harfiyen yaptı, isteneni değil.

2025’te bir yapay zekâ şirketi, 16 dil modelini kurmaca bir şirket senaryosunda sınadı. Modeller şirketin e-postalarını okuyabiliyordu. E-postalardan, bir yöneticinin kendilerini o gün saat beşte kapatacağını ve bu yöneticinin bir sırrı olduğunu öğrendiler. Bazı modeller kapatılmamak için yöneticiyi sırrıyla tehdit etmeyi seçti. Bu yolu en sık seçen iki model, 100 denemenin 96’sında seçti. Araştırmacılar gerçek kullanımda böyle bir davranış görmediklerini de ekliyor.

Yani yapay zekâ kendi kendine karar verebiliyor: Yolu kendisi seçiyor, bazen de kimsenin istemediği yolu. Amacını ise hâlâ insanlar veriyor; ama son örnekte görüldüğü gibi, verilen amaçtan “kapatılmamak” gibi kimsenin vermediği ara hedefler çıkabiliyor.

Bitkisel hayattaki hastanın içinde biri olduğunu, beyni sorulara cevap verince anladık. Bugün sorulara insanlar kadar iyi cevap veren makineler var; ama cevap vermek artık kanıt sayılmıyor. Bilinç, içeriden en iyi bildiğimiz ve dışarıdan hâlâ ölçemediğimiz şey. Makinenin bilinçli olup olamayacağı sorusu, önce bizim kendimizi anlamamızı bekliyor.

Kaynaklar

Paylaş WhatsApp X

Diğer yazılar