Yapay zeka: Geçmişin beş devi risklerle başa çıkma konusunda bize ne öğretebilir?

Ada Lovelace (1815-52), bilgisayarların annesi. HappySloth

Yapay zekanın (YZ) ilerleyişi dur durak bilmiyor. OpenAI'nin son modeli o3'ün kısa süre önce bir kez daha rekor kırması, güvenlik ve insanlığın geleceği hakkında acil soruları gündeme getiriyor.

Yardım için başvurabileceğimiz yerlerden biri de geçmişteki büyük düşünürler. Onlar kendi dünyalarında bariz olanın ötesini keşfettiler ve genellikle geleceğe bakarak makinelerin yapay zeka benzeri yeteneklere sahip olacağı bir zamanı öngördüler.

19. yüzyılda yaşamış İngiliz matematikçi ve yazar Ada Lovelace, polimat Charles Babbage ile birlikte “analitik motor” üzerinde yaptığı çalışmalar nedeniyle bazen ilk bilgisayar programcısı olarak tanınır. Bu, hiçbir zaman tamamlanamayan genel amaçlı mekanik bir bilgisayardı, ancak tasarımı onlarca yıl sonraki bilgisayarları yansıtıyordu.

Charles Babbage tarafından tasarlanan analitik makinesi

1842 yılında Babbage'a yazdığı ve önerdiği cihazın potansiyelini inceleyen notlarında, gelecekte yapay zekaya benzer bir şey olacağını öngörüyordu. “Sayının yanı sıra başka şeyler üzerinde de hareket edebilir” diyen Babbage, böyle bir makinenin bir gün ‘herhangi bir karmaşıklık veya kapsam derecesinde ayrıntılı ve bilimsel müzik parçaları bestelemek’ için perdeli sesler arasındaki ilişkileri ifade edebileceğini öne sürdü.

Bu, çok çeşitli ses ve müzik verileri arasında örüntü tanımayı gerektirir - tam da bugün büyük dil modellerinin metin komutlarından müzik üreterek yaptığı şey.

Yine de Lovelace, makinenin düşünme kabiliyetleri konusunda şüpheciydi ve ortaya çıkarabileceği her şeyi yaratmak için hala insanlara bağımlı olacağını savunuyordu. Gerçekten de, bugün yapay zeka modelleri hala gerçekten düşünmüyor, internetten alınan trilyonlarca insan kelimesi üzerinde eğitilerek matematiksel olasılıklara dayalı cümleler kuruyor.

Lovelace, “analitik motorun güçleri konusunda ortaya çıkabilecek abartılı fikirler olasılığına karşı koruma sağlamak” için bu tür sınırlamalara işaret etti. Bununla birlikte, bu makinenin çıplak çıktısının ötesinde sahip olabileceği “ikincil etkileri” de vurguladı. Verdiği örnek, bilime yeni bir ışık tutabileceği yönündeydi, ancak daha geniş anlamı, bu tür cihazların asla hafife alınmaması gerektiğidir.

Turing testi

Lovelace'ın argümanı aynı zamanda üstü kapalı bir başka soruyu da gündeme getirdi. Bilinç artık bilim kurgu olmaktan çıktığında, makineler yaratıcı olurlarsa ve olduklarında ne olur? Bu, birkaç on yıl sonra bir başka İngiliz matematikçi ve düşünür Alan Turing'e ilham verdi.

Turing'in daha sonra Turing testi olarak bilinen 1949 tarihli “taklit oyunu”, bir bilgisayarın bir insanla karşılaştırılabilir bir şekilde düşünüp düşünemeyeceğini belirlemeye çalıştı. Bu test, 2022 yılında OpenAI'nin ChatGPT'si tarafından aşıldığı kabul edilene kadar yapay zekanın temel testlerinden biri olarak kaldı.

Turing aslında bunun daha erken gerçekleşeceğini düşünmüş ve 1950 tarihli ünlü bir makalesinde şöyle yazmıştı:

İnanıyorum ki, yüzyılın sonunda kelimelerin kullanımı ve genel eğitimli görüş o kadar değişmiş olacak ki, kimse karşı çıkılacağını beklemeden düşünen makinelerden bahsedebilecek.

Bu rubikonu geçmenin ne anlama geleceği konusunda özellikle kötümser değildi, aynı makalede bir yetişkinden ziyade bir çocuğun zihnini simüle eden bir makine yaratmaya çalışmaktan yanaydı. Bunun “kolayca programlanabileceğini” düşünerek, bu tür çabalardan korkmamızı gerektirecek çok az şey olduğunu ima etti.

Aynı şekilde, insanların düşünen makinelere tabi olma potansiyeline karşı da kör değildi. 1951'de halka açık bir konferansta şöyle demişti: “Eğer bir makine düşünebilirse, bizden daha akıllıca düşünebilir ve o zaman biz nerede oluruz?”

Turing'in biyografi yazarı Christof Teuscher onu “bilimin Orwell'i” olarak tanımlamıştır. Turing'in görüşlerini, yapay zeka üzerine hiç kafa yormamasına rağmen The Road to Wigan Pier (1937) kitabında makinelerin tehlikelerinden daha genel olarak bahseden George Orwell ile karşılaştırmak ilginçtir.

“Makineler “e yapılan atıfları ‘yapay zeka’ ile değiştirmeye hazırsanız, Orwell'in günümüzün teknolojik silahlanma yarışından ne anlam çıkarmış olabileceğine dair ilginç olasılıklar sunuyor:

Duyarlı bir kişinin [YZ]'ye karşı düşmanlığı bir anlamda gerçekçi değildir, çünkü [YZ]'nin kalıcı olduğu apaçık bir gerçektir. Ancak bir zihin tutumu olarak bunun için söylenecek çok şey var ...

Şüphesiz, sözlü olarak, [YZ]'nin insan için değil, insanın [YZ] için yaratıldığı konusunda hemfikiriz; pratikte [YZ]'nin gelişimini kontrol etmeye yönelik her türlü girişim bize bilgiye bir saldırı ve dolayısıyla bir tür küfür gibi görünmektedir. Ve tüm insanlık aniden [YZ]'ye karşı ayaklansa ve daha basit bir yaşam biçimine kaçmaya karar verse bile, bu kaçış yine de son derece zor olacaktır ...

Dünyayı makineleştirilebileceği kadar makineleştirin ve ne tarafa dönerseniz dönün, sizi çalışma - yani yaşama - şansından alıkoyan bir [YZ] olacaktır.

Norbert Weiner Etiği

Norbert Wiener (1894-1964)

Bu da bizi Amerikalı bilim adamı ve matematikçi Norbert Wiener'e getiriyor. Bilgisayar etiğinin kurucusu olarak tanınan Wiener'in ufuk açıcı çalışması, makinelerin potansiyelinden yararlanmanın “tehlikelerine karşı uyarıda bulunmayı” amaçlayan The Human Use of Human Beings'dir (1950).

Wiener, makinelerin birbirleriyle konuşacakları ve geçmiş performanslarını takip ederek zaman içinde gelişecekleri bir zaman öngörmüştür.

Bunu, bir şişede cin bulan ve orada kalmasının daha iyi olduğunu bilen bir kişinin eski halk hikayesine benzeterek şöyle yazmıştır:

Cin gibi öğrenebilen ve öğrendiklerine dayanarak karar verebilen bir makine, hiçbir şekilde bizim vermemiz gereken ya da bizim için kabul edilebilir olan kararları vermek zorunda kalmayacaktır.

On yıllar sonra, İngiliz fizikçi Stephen Hawking de benzer endişelere sahipti. 2016'da yapay zekanın şöyle olabileceğini yazdı:

Uygarlığımızın tarihindeki en büyük olay, ama aynı zamanda sonuncusu da olabilir - risklerden nasıl kaçınacağımızı öğrenmediğimiz sürece. YZ, faydalarının yanı sıra güçlü otonom silahlar ya da azınlığın çoğunluğu ezmesi için yeni yollar gibi tehlikeleri de beraberinde getirecektir.

Son aylarında şöyle yazmıştı:

YZ'nin insanların yerini tamamen almasından korkuyorum. Eğer insanlar bilgisayar virüsleri tasarlıyorsa, birileri de kendini geliştiren ve çoğaltan bir YZ tasarlayacaktır. Bu, insanlardan daha iyi performans gösteren yeni bir yaşam biçimi olacaktır.

Geçmişin bu beş devi bizi YZ konusunda çok dikkatli düşünmeye sevk ediyor. Lovelace, insanların yeni bir teknolojinin potansiyelini önce abartma, ancak daha sonra gerçeği küçümseyerek aşırı düzeltme eğiliminden bahsetti. Wiener, test edilmemiş teknolojik potansiyelin “bencilce sömürülmesine” karşı uyarıda bulunmuştur ki bu da bizi yıllar boyunca BT hatalarından kaynaklanan sayısız felaket sonucuna götürmüştür.

Aynı şeyin şimdi çok daha güçlü bir teknolojiyle gerçekleşebileceği açıktır. Muhtemelen bu yazarlar son gelişmelere bakmış ve meleklerin adım atmaya korktuğu yere koşan aptalları görmüşlerdir.

https://tinyurl.com/UskudarCevresi250116