İnsanlığın onu evcilleştirme çabalarına rağmen, belirsizlik günlük yaşamın kaçınılmaz bir parçası olmaya devam ediyor. Birçok kişi umutlarını yapay zekaya bağlasa da, iki yeni kitap, teknolojinin kaosa düzen getirmesini beklemek yerine, giderek belirsizleşen bir dünyada yolumuzu bulmaya razı olmamız gerekebileceğini öne sürüyor.
İngiliz şair George Meredith 150 yıldan uzun bir süre önce “Ah,” diye yakınmıştı, “bu hayatımızda kesinlikler için yanıp tutuşan ruh ne kadar tozlu bir cevap alır!” Belirsizliğin arttığı bir çağda yaşamanın varoluşsal zorluğuna dair benzersiz içgörüler sunan iki yeni kitabın temelinde de bu duygu yatıyor.
Her ikisi de Cambridge Üniversitesi'nden olan David Spiegelhalter ve Neil D. Lawrence, giderek belirsizleşen bir dünyada yol almanın karmaşıklıklarıyla boğuşurken, akademi içindeki ve dışındaki kapsamlı profesyonel deneyimlerinden büyük ölçüde yararlanıyor. Emekli bir istatistik profesörü olan Spiegelhalter, Birleşik Krallık Tıbbi Araştırma Konseyi'nin Biyoistatistik Birimi'nde yıllarca çalışmış ve birçok yüksek profilli kamu soruşturmasında önemli roller oynamıştır. Makine öğrenimi profesörü Lawrence ise doktorasını tamamlamadan önce Kuzey Denizi'ndeki bir sondaj platformunda kuyu açma mühendisi olarak çalışmış, Amazon'a makine öğrenimi direktörü olarak katılmış ve nihayetinde akademiye geri dönmüştür.
Yazarların geçmişleri, risk fiziksel olarak tanımlanabildiğinde en etkili olan sıklıkçı yaklaşımlardan öznel risk tahminlerini içeren Bayes analizine kadar insanlığın belirsizliği ölçmeye ve yönetmeye çalıştığı sayısız yolla ilgili analizlerini zenginleştiriyor. Yapı, üslup ve vurgu bakımından farklılık göstermelerine rağmen, kitapları birkaç temel tema üzerinde birleşmektedir.
Ortak bir tema, güven için benzersiz insan kapasitesi ve karşılıklı ilişkilerin çok önemli rolüdür. Örneğin Spiegelhalter, filozof Onora O'Neill'in “akıllı şeffaflık” kavramına dayanarak politika yapıcıların belirsizlik karşısında güveni nasıl teşvik edebileceklerini açıklamaktadır. Benzer şekilde Lawrence da O'Neill'ın 2002 yılında BBC Reith Lectures'da verdiği ve güvenin yasal, siyasi ya da sosyal sistemlere içkin olmadığını, ancak bu sistemler içinde faaliyet gösteren insanlar tarafından kazanılması gerektiğini savunduğu konuşmasına atıfta bulunuyor.
Bir diğer ana tema ise, 2022'nin sonlarında ChatGPT'nin piyasaya sürülmesinden bu yana yoğun ve çoğu zaman abartılı tartışmalara konu olan üretken yapay zekanın, özellikle de büyük dil modellerinin (LLM'ler) yükselişidir. Bu sistemler, metinsel ve görsel yanıtlar üretmek için insan tarafından oluşturulan geniş içerik rezervuarlarını işleyerek, görünüşe göre güven uyandırmak için tasarlanmıştır. Ancak O'Neill'in iddia ettiği gibi, insan gözetiminden uzak süreçler doğası gereği güvenilir değilse, makineler tarafından işletilen algoritmalara nasıl güvenebiliriz? Lawrence'ın kitabının merkezinde yer alan bu soru, Spiegelhalter'ın kitabının son sayfalarında da ortaya çıkıyor.
Son olarak, Spiegelhalter ve Lawrence, dünyamızı tanımlayan öngörülemezliğin bir ayna görüntüsü olarak gördükleri “Laplace'ın şeytanı” olarak bilinen ünlü düşünce deneyine başvuruyor. Filozof Pierre Simon Laplace, 1814 tarihli Olasılıklar Üzerine Felsefi Bir Deneme adlı kitabında şöyle yazmıştır:
“Evrenin şimdiki durumunu, geçmişinin etkisi ve geleceğinin nedeni olarak görebiliriz. Belli bir anda doğayı harekete geçiren tüm güçleri ve doğanın oluştuğu tüm öğelerin tüm konumlarını bilen bir akıl, eğer bu akıl aynı zamanda bu verileri analize tabi tutacak kadar geniş olsaydı, evrenin en büyük cisimlerinin ve en küçük atomunun hareketlerini tek bir formülde kucaklardı; böyle bir akıl için hiçbir şey belirsiz olmazdı ve geçmiş gibi gelecek de gözlerinin önünde hazır olurdu.”
Spiegelhalter ve Lawrence'ın kitapları birçok yönden Laplace'ın öngördüğü determinist evrene bir karşı duruş niteliğindedir. Laplace'ın şeytanı her şeyi bilme ve mükemmel öngörülebilirliği temsil ederken, bizim gerçekliğimiz Lawrence tarafından “Laplace'ın şeytanı” olarak uygun bir şekilde tanımlanan kaçınılmaz belirsizliklerle şekillenmektedir. Kör talihin, şansın ve cehaletin etkilerini azaltacak araçlar geliştirmek için elimizden geleni yapmamıza rağmen, bu güçler günlük yaşamın kaçınılmaz bir parçası olmaya devam etmektedir.
Belirsizliği Ehlileştirmek
Spiegelhalter'in Belirsizlik Sanatı, insanlığın olasılık teorisini tahmine uygulama çabalarının ustaca bir anlatımını sunuyor. Spiegelhalter'e göre olasılıklar keşfedilmeyi bekleyen nesnel, bağımsız varlıklar değildir. Bunun yerine, belirsizlikle olan ilişkimiz son derece kişiseldir; deneyim, kaynaklar ve belirli bir sorunu nasıl algıladığımızı ve ona nasıl yaklaştığımızı etkileyen diğer faktörler tarafından şekillendirilir. Onun ifadesiyle belirsizlik, “cehaletin bilinçli farkındalığıdır.”
Örneğin, basit bir yazı tura atma ve onu elinizle kapatma eylemini düşünün. Spiegelhalter bu senaryonun iki farklı belirsizlik türü içerdiğini açıklıyor: Bir olayın (bu durumda yazı-tura) doğasında var olan rastlantısallığı yansıtan alegorik belirsizlik ve daha önce gerçekleşmiş bir şey hakkında (yazı mı tura mı geldiği) bilgi eksikliğinden kaynaklanan epistemik belirsizlik.
Spiegelhalter, geçmiş deneyimlerin istatistiksel analizinin daha az yapılandırılmış durumlarda olası sonuçların aralığını nasıl daraltabileceğini göstermek için yazı-tura örneğini kullanır. Bu süreç, altı yüzlü bir zarın belirli bir sayıya gelme olasılığını hesaplamak gibi sık kullanılan yöntemler kullanılarak basit olabilirken, sonuçlar fiziksel kısıtlamalarla açıkça tanımlanmadığında çok daha zor hale gelir.
Model belirsizliği kavramını inceleyen Spiegelhalter, haritalar gibi dünya modellerimizin de faydalı soyutlamalar olduğunu ancak hiçbir zaman gerçekliğin tam bir temsili olmadığını belirtiyor. Bazıları diğerlerinden daha doğru olsa da, özellikle insan davranışını açıklamaya çalışan modeller söz konusu olduğunda, hiçbir model metafizik anlamda “doğru” olamaz.
Oyun teorisi, insanların yalnızca birbirlerinin eylemlerine değil, aynı zamanda bu eylemlere ilişkin beklentilerine de yanıt verdiklerini kabul ederek bu analize titizlik katmıştır. Ancak, finansçı George Soros'un teorize ettiği ve gösterdiği gibi, bilinçli olarak refleksif davranış, tahmin kapasitemizin sınırlarını zorlayan özyinelemeli bir döngü yaratır.
Spiegelhalter haklı olarak Bayes Teoremi'nin olasılık teorisinin gelişimindeki önemli rolünü vurgulamaktadır. İngiliz papaz Thomas Bayes tarafından formüle edilen ve 1763 yılında ölümünden sonra yayınlanan teorem, ancak Alan Turing ve ekibinin İkinci Dünya Savaşı sırasında Alman Enigma kodunu kırmak için ona güvenmesinden sonra yaygın olarak tanınmaya başlamıştır.
Bayes Teoremi, sonucu ve kanıtı ayrı ayrı gözlemlemenin bağımsız olasılığına bağlı olarak, önceki olasılığı - Kanıt B verildiğinde Sonuç A'nın olasılığı - sonuç verildiğinde kanıtın gözlemlenme olasılığı (Sonuç A verildiğinde Kanıt B'nin olasılığı) ile ilişkilendirerek belirsizlik analizini resmileştirir. Alıştırmanın çıktısı, analizi özetleyen ve yeni kanıtlar bulundukça güncellenecek olan sonsal olasılıktır.
Spiegelhalter, Bayes Teoremi'ni hayata geçirmek için okuyuculara bir dizi düşündürücü soru sunuyor. Örneğin, neden aşılanmış insanlar aşılanmamış insanlara göre COVID-19'dan daha fazla ölüyor? Ve mükemmel olmayan polis görüntüleme yazılımı tarafından işaretlenen birinin gerçekten bir tehdit olma ihtimali nedir?
Spiegelhalter, Bayes analizinin mekaniği konusunda okuyuculara yol göstererek, sadece analizin gizemini çözmekle kalmıyor, aynı zamanda, özellikle olasılıklar fiziksel özelliklerin (madeni para veya zar gibi) bir fonksiyonu olmadığında, kanıtların değerlendirilmesinde öznel beklentilerin rolünün altını çiziyor.
Nihayetinde, Spiegelhalter'in de kabul ettiği gibi, belirsizliği kontrol altına alma kabiliyetimiz sınırlıdır. Bu anlayış, bir şeyin yanlış ya da doğru olduğu mantıksal olarak gösterilemediği sürece sıfır ya da bir olasılık atamamaya karşı uyaran Cromwell Kuralı'nın da temelini oluşturur. İstatistikçi Dennis Lindley tarafından isimlendirilen bu kural, Oliver Cromwell'in 1650 yılında İskoçya Kilisesi Genel Kurulu'na yaptığı konuşmadan esinlenmiştir: “Size yalvarıyorum, İsa'nın bağırsaklarında, yanılıyor olabileceğinizi düşünün.” Bu kural, biçimsel mantığın “küçük dünyasının” dışında her zaman şüpheye ve yeniden değerlendirmeye yer olduğunu hatırlatmaktadır.
Güvenen Hayvan
Spiegelhalter, insan anlayışının sınırlarını kabul ederken bile Frank Knight ve John Maynard Keynes tarafından ileri sürülen radikal belirsizlik kavramını kesin bir dille reddetmektedir. Keynes'in 1937'de özlü bir şekilde ifade ettiği gibi “bilmiyoruz” fikri, öznel olasılık tahminleri yaygın kabul görmeden önce önem kazanmıştır.
Ancak Knight ve Keynes'i reddeden Spiegelhalter çok az güvence veriyor. Onun “kişisel sonucu” resmi analizin sınırlarının altını çizmektedir:
“Artık daha derin, ontolojik belirsizliği kabul ettiğimizde, hatta neler olabileceğini listelemekten bile emin olmadığımızda, resmi analiz girişimlerinden uzaklaşır ve hem hayal ettiğimiz hem de etmediğimiz durumlarda makul ölçüde iyi performans göstermesi gereken bir stratejiye doğru ilerleriz.”
u tür ontolojik belirsizlikler, içinde yaşadığımız dünyanın ve evrenin temel doğasına ayrılmaz bir şekilde bağlıdır. Termodinamiğin ikinci yasasının da belirttiği gibi, kapalı bir sistemde düzen kaçınılmaz olarak yerini rastlantısallığa bırakır.
En dikkatli şekilde inşa edilmiş sistem ve kurumlarımızın bile öngörülemeyen şoklara karşı savunmasız kaldığının kabulü, Belirsizlik Sanatı'nı Lawrence'ın Atomik İnsan'ına bağlamaktadır. Lawrence'ın gözlemlediği gibi, insanların “doğal zekası, sürekli olarak beklenmedik durumlara karşı test edildiği bir dünyada ortaya çıkmıştır.”
Uyum yeteneğimiz ve karşılıklı güven kapasitemiz, Lawrence'ın “atomik insan” olarak adlandırdığı şeyin ayrılmaz bir parçasıdır. Bu kavram, Lawrence'ın yapay zekanın içgörülü tarihini yönlendiren temel soruya verdiği cevaptır: Makinelerin asla kopyalayamayacağı bir insan özü var mıdır?
Usta bir hikaye anlatıcısı olan Lawrence, Avrupa'daki Müttefik komutanı ve geleceğin ABD başkanı General Dwight Eisenhower'ın D-Day'den önceki gününü örnek veriyor. Eisenhower, elindeki tüm istihbaratı sentezlemek ve ardından Nazi işgali altındaki Avrupa'nın işgaline başlayıp başlamamaya karar vermek için kendi muhakemesine - ya da Spiegelhalter'ın deyimiyle belirsizlikle olan kişisel ilişkisine - güvenmek zorundaydı. Emri verdikten sonra Eisenhower, Overlord Operasyonu'nun başarısız olması halinde tüm sorumluluğu kabul eden bir muhtıra yazdı. Lawrence'ın anlatımına göre bu an, atom insanının öngöremediği bir gelecek üzerine düşünme yeteneğini örneklemektedir.
Eisenhower'ın elindeki kaynaklar arasında Turing ve şifre kırıcı ekibi tarafından kırılan Alman şifrelerinin deşifreleri de vardı. Lawrence, Nazi Almanyası'nın giderek karmaşıklaşan şifreleme makinelerini tersine mühendislikle çözme çabalarını, bilgisayar tarihini ve daha spesifik olarak gerçek zekâya sahip bilgisayarlar geliştirme arayışını keşfetmek için bir başlangıç noktası olarak kullanıyor.
Sibernetik ve “uzman sistemler ”den üretken yapay zeka, sinir ağları ve makine öğrenimine kadar bilişimin evriminin izini süren Lawrence, bilişimsel kavramlardaki ilerlemelerin karşılık gelen teknolojik atılımlara nasıl bağlı olduğunu göstermek için bu gelişmeleri şekillendiren bilimsel çalışmalara odaklanıyor. Özellikle, sayısallaştırılmış bir görüntüyü yorumlayabilen ilk sistem olan 1950'lerin sonlarındaki algılayıcıdan, benzer bir mimari kullanan ancak çok daha güçlü sistemler tarafından mümkün kılınan yeteneklere dayanan günümüzün LLM'lerine geçmek iki nesil yenilik gerektirmiştir.
Büyük Yapay Zeka Yanılgısı
Atomik İnsan'ın en büyük gücü, Lawrence'ın teknoloji tarihi ile insan zekâsının derinlemesine araştırılmasını bir araya getirme becerisinde yatıyor. Lawrence, zekamızın doğal seçilim yoluyla evrimleştiğini ve evrimsel süreçlerle şekillenen organizmaların doğasında var olan kalıcılık ve uyum yeteneğini somutlaştırdığını açıklıyor. Buna karşılık, yapay seçilim - ister ekinlerde, ister hayvanlarda, ister bilgisayar sistemlerinde olsun - beklenmedik koşullarla karşılaştığında başarısızlığa eğilimli olan belirli amaçlara göre uyarlanmış türler üretir.
Lawrence, insanların “muazzam bilişsel gücü” ile bilgiyi iletme hızımızın dikkat çekici derecede yavaş olmasını karşılaştırıyor. Bilişsel yeteneğimiz, “Laplace'ın şeytanı”nın öngörülemeyen dünyasında hayatta kalmamıza yardımcı olmak için evrimleşti ve bildiklerimizi - ya da doğru olduğuna inandıklarımızı - başkaları için anlamlı kılmak için anlatılar paylaşıyoruz. Anlayışımızın kusurlu olabileceğini kabul ederek, kendimizi yeniden değerlendirir ve yavaş iletişimin doğasında var olan sınırlamaları telafi etmek için diğer insanların düşüncelerini modelleyerek “zihin teorileri” geliştiririz.
Ancak günümüzün yapay zeka modelleri insan zekasının bu temel niteliklerinden yoksundur. Eğitim verilerinin dışındaki koşullarla karşılaştıklarında bocalıyorlar. Bununla birlikte, bu modeller Lawrence'ın “büyük YZ yanılgısı” olarak adlandırdığı şeyi sürdürüyor: bizi birbirimizi anladığımız kadar derinlemesine anlayan bir algoritmik zeka biçimi yarattığımız inancı.
Gerçekte, LLM'ler olasılıksal tahmin makineleridir. Nedensellik konusunda önde gelen bir uzman olan bilgisayar bilimcisi Judea Pearl'ün açıkladığı gibi, “Makine öğrenimi modelleri bize sonlu örneklem tahminlerinden olasılık dağılımlarına gitmenin etkili bir yolunu sağlıyor ve hala neden-sonuç ilişkilerine ulaşmamız gerekiyor.”
İnternette bulunan insan üretimi içerik yığınları üzerinde eğitilen LLM'ler, insanların belirsiz bir dünyada yollarını bulma çabalarının ifadelerini işler. Ancak insanların aksine, bu sistemler kendi eksikliklerinin farkında değildir. Sonuç olarak, bir metindeki bir sonraki kelimeyi veya bir görüntüdeki pikseli tahmin etmek için eğitim verilerinden yararlanma konusundaki olağanüstü yetenekleri, tespit edemedikleri veya düzeltemedikleri hatalara maruz kalmaktadır.
Lawrence, bir insan ile üretici yapay zeka arasındaki etkileşimden doğan varsayımsal bir hibrit zeka öngörüyor - “dijital makine için bir kontrol çubuğu” olarak tanımladığı bir “insan-analog makinesi” (HAM). Böyle bir sistemin, insan yeteneklerini LLM'lerin yapamayacağı şekilde artırabileceğini ve genişletebileceğini öne sürüyor. Ancak “büyük yapay zeka yanılgısını” güçlendirme riski her zaman mevcut olmaya devam ediyor:
“Karşı karşıya olduğumuz tehlike, makinenin insanlığımızı aşmamızı sağlayacağına inanmaktır. ... Atomik insan, yeteneklerle değil, zayıflıklarla tanımlanır. Bu zayıflıklar sayesinde, bu sınırlamalara rağmen iletişim kurmamızı ve işbirliği yapmamızı sağlayan kültürler geliştirdik. Tarihimiz boyunca çabalarımızda bize yardımcı olacak yeni araçlar geliştirdik ve bilgisayar bunlardan sadece en sonuncusu. Ancak bilgisayarın olması gereken tek şey de bu - bir araç.”
Veri mi Saçmalık mı?
Lawrence ve Spiegelhalter, insanların bilinçli kararlar almak için verileri işleme kapasitesini kutlarken, aynı zamanda temel bir zorluğun da altını çiziyorlar: veriler tek başına anlam ifade edemez - bağlam çok önemlidir.
Amerika Birleşik Devletleri'nde cezai hükümler önermek ve şartlı tahliye başvurularını değerlendirmek için yapay zekanın giderek daha fazla kullanılması bunun bir örneğidir. Dijital tahmin sistemleri dağınık sosyal ortamlara girdiğinde, kaçınılmaz olarak eğitim verilerinde gömülü olan önyargıları ve önyargıları yansıtırlar.
Daha da derin bir zorluk, Spiegelhalter'in milyonlarca yıldır insan zekasını şekillendiren beklenmedik gelişmelerin itici gücü olarak tanımladığı ontolojik belirsizlikte yatmaktadır. Basitçe ifade etmek gerekirse, gözlemlediğimiz verileri üreten süreçlerin zaman içinde tutarlı kalacağına güvenebilir miyiz? Değilse, onlara hiç güvenebilir miyiz?
Ekonomist Paul Davidson 2015 yılında yayınlanan Post Keynesyen Teori ve Politika adlı kitabında bu konuya dikkat çekerek ana akım ekonomideki kritik bir kusura işaret etmiştir: geçmiş verilerin zaman içinde sabit kalan olasılık dağılımları oluşturmak için kullanılabileceği ve istatistiksel olarak sağlam tahminlere olanak sağlayacağı varsayımı. “Davidson, “Gelecekte meydana gelecek olaylardan bir örneklem çıkarmak imkansız olduğundan, ekonominin ergodik bir stokastik süreç tarafından yönetildiği varsayımı, analistin geçmiş veya mevcut piyasa verilerinden alınan örneklemlerin gelecekteki piyasa verilerinden alınan örneklemlere eşdeğer olduğunu iddia etmesine izin verir” gözleminde bulunmuştur.
Bu varsayımla ilgili sorunu anlamak için, 1913 yılında bir Fransız bankasında çalışan ve Rus tahvil fiyatlarının beş yıllık tahminini yapmakla görevlendirilen genç bir finansal analisti düşünün. Fransa on yıllar boyunca Çarlık Rusya'sının başlıca sermaye kaynağı olmuş ve varsayımsal analistimize Rus tahvil fiyatları hakkında bol miktarda veri sağlamıştır. Ancak bu veriler Rusya'nın Japonya'ya karşı 1905 savaşında aldığı yenilginin, ardından gelen halk ayaklanmasının ve kademeli sanayileşmenin etkisini yakalamış olsa da, herhangi bir tahmin 1918 yılına gelindiğinde tüm Rus tahvillerinin değersiz hale geleceğini öngörebilir miydi?
Benzer şekilde, 2008 küresel mali krizi, belirsizliğin kontrol altında olduğuna dair uzun süredir devam eden inancı yıktı. Bankaların sermaye gereksinimlerinin artırılması gibi cehalete karşı korunma stratejileri hızla en önemli öncelik haline geldi. Bu kurumsal tepkiler geçmiş krizleri ele almak için tasarlanmıştı ve gelecek krizlere hazırlanmak için çok az şey yaptı.
Lawrence bir başka zorluğu daha tanımlıyor: “hayal gücümüz etrafındaki dünya ile birlikte çalışır ve ihtiyaç duyduğu tutarlılığı sağlamak için bu dünyaya güvenirken”, tarih tutarlı değildir. Bunun yerine, kesintiler, rejim değişiklikleri ve devrimlerle işaretlenmiştir.
Ekonomist Richard Zeckhauser bu durumu göz önünde bulundurarak, dünyanın durumu hakkındaki farklı bilgi düzeylerinin farklı yatırım ortamlarına nasıl karşılık geldiğini gösteren faydalı bir model geliştirmiştir. Zeckhauser'in modeli karar verme senaryolarını üç farklı alana ayırmaktadır: risk, belirsizlik ve cehalet.
Bu çerçevede “risk”, yatırım getirilerinin dağılımı ile birlikte hem dünyanın olası durumlarının hem de bunların olasılıklarının bilindiği durumları ifade eder. Buna karşılık, “belirsizlik” dünyanın olası durumlarının bilindiği, ancak olasılıklarının bilinmediği senaryoları tanımlar. Üçüncü alan olan “bilgisizlik”, dünyanın olası durumlarının bile bilinmediği ve “getirilerin dağılımlarının, genellikle başkalarının davranışları hakkındaki çıkarımlardan yola çıkılarak tahmin edildiği” durumlar için geçerlidir.
Zeckhauser'in cehalet kavramı Keynes'in belirsizlik kavramını yansıtmaktadır. Cehaletimizin sıklıkla hüküm sürdüğünü kabul ederek, bilinemeyen sonuçların kitlesel sürüleşmenin yönlendirdiği kendi kendini gerçekleştiren kehanetlere dönüşebileceğini anlıyoruz. Ve böylece, Keynes'in ünlü güzellik yarışması metaforunda olduğu gibi, geride kalmamayı veya ezilmemeyi umarak diğerlerini yakından gözlemleriz.
Spiegelhalter'in kendisi de bu noktayı kabul ediyor: “bazen tüm olasılıkları kavramsallaştıramayız.” Bazen, “bilmediğimizi kabul etmek zorunda kalabiliriz.”
Hiç yorum yok:
Yorum Gönder