Dünyanın en büyük buluşlarından biri: Yapay zeka, insanlığı dönüştürmeye başladı. Ancak, Geçtiğimiz hafta Nobel ödülü alan bilim insanı Geoffrey Hinton, bunun sadece bir başlangıç olduğunu söylüyor. Hinton’a göre, yapay zekanın geleceği, hepimizin hayal ettiğinden çok daha büyük bir varoluşsal tehdit içeriyor. Bu bir bilim kurgu filmi değil. Geoffrey Hinton, yapay zekanın sadece tahmin edilebilir cevaplar vermediğini, aynı zamanda gerçekten ‘anladığını’ iddia ediyor.

Peki, bu insanlık için ne anlama geliyor? Gelin, dünyanın en parlak zihinlerinden biri olan Hinton’ın öngörülerini keşfedelim.

Geoffrey Hinton, bilgisayar bilimi dünyasında devrim niteliğinde bir isim. 1947’de Londra’da doğan Hinton, yapay sinir ağları üzerine yaptığı çalışmalar nedeniyle ‘Yapay Zeka’nın Vaftiz Babası’ olarak anılıyor. Yapay Sinir ağları, insan beynini taklit ederek, makinelerin öğrenme, anlama ve karar verme yetilerini geliştiren bir teknoloji. Hinton, yapay zekanın düşünme kapasitesinin yalnızca kodlardan ibaret olmadığını, insan zihnine benzer bir yapıya sahip olabileceğini öne süren öncü bilim insanlarından biri. Yani, onun çalışmaları sayesinde, makineler artık sadece bilgi işlemiyor, bir anlamda ‘öğreniyor’ da.

Peki ama bu noktaya nasıl ulaştık?

Hinton, yapay zekanın gelişiminde iki temel paradigma olduğunu ifade ediyor. 1950’lerden beri, zekayı anlamanın iki farklı yolu tartışılıyor. İlk paradigma, zekanın özünün akıl yürütme olduğunu ve bunun sembolik kurallar aracılığıyla yapılabileceğini savunuyor. Yani, önce mantıksal çıkarımlarla sembolleri manipüle etmeyi öğrenmeli, sonra öğrenmeye sıra gelmeli. Bu yaklaşım somut nesnelerin ötesinde, kavramlar ve fikirler üzerinde düşünme yeteneğini vurgular. Ayrıca karşılaşılan sorunlara mantıklı çözümler üretme becerisini ön plana çıkarır.

Ancak, Hinton’ın temsil ettiği ikinci paradigma, biyolojik temelli bir yaklaşıma dayanıyor. Ona göre zekanın özü, bir sinir ağındaki bağlantıların gücünü kavramaktan geçiyor. Buna göre Akıl yürütme yani “mantık” öncelikli değildir. Asıl önemli olan, özgün bir öğrenme süreci geliştirmek ve öğrenmeyi başarmaktır. Tıpkı insan beyninin yaptığı gibi. Yani, beynimizin çalışma şeklini taklit eden bu model, makinelerin nasıl öğrenebileceğini keşfetmemizi de sağlıyor.

Öğrencilik yıllarında sembolik akıl yürütmenin zorluklarını fark eden Hinton, sonraki yıllarda biyolojik temelli yaklaşıma yöneldi. Bu yaklaşım, zekanın öğrenme süreciyle şekillendiğini savunuyordu. Hinton, sinir ağlarının çalışma prensiplerini temel alarak, yapay sinir ağlarının gelişmesine öncülük etti.

Yapay sinir ağları, çok katmanlı bir yapıya sahiptir. Girdi katmanından alınan bilgi, gizli katmanlarda işlenerek çıktı katmanına aktarılır. Bu süreçte her bir ‘nöron’, yani sinir hücresi, kendi belleğine sahiptir ve diğer nöronlarla ağırlık bağlantıları aracılığıyla etkileşimde bulunur. Böylece sinir ağları, karmaşık veriler arasında ilişkiler kurabilir, genelleme yapabilir ve çıkarım yeteneği geliştirebilir. Hinton’ın 2000li yıllarda bu alandaki devrim niteliğindeki çalışmaları, yapay zekanın potansiyelini ciddi ölçüde artıracaktı. Geoffrey Hinton’ın yapay sinir ağları üzerindeki çalışmaları, 2012 yılında büyük bir dönüm noktasına ulaştı. O yıl, öğrencisi olan ve sonraları OpenAi’dan tanıyacağımız  Ilya Sutskever ve Alex Krizhevsky ile birlikte geliştirdiği AlexNet adlı derin öğrenme modeli, görsel tanıma yarışması olan ImageNet’te diğer tüm modelleri geride bıraktı. AlexNet, çok katmanlı sinir ağlarıyla görüntüleri inanılmaz bir doğrulukla tanıyabiliyordu. Bu olay, yapay zekanın gücünü ve potansiyelini tüm dünyaya gösterdi ve Hinton’ın biyolojik temelli yaklaşımının doğru bir yol olduğunu kanıtladı. AlexNet sayesinde, sinir ağları birdenbire geniş çapta kabul görmeye ve birçok farklı alanda kullanılmaya başlamıştı.

Hinton, yapay zekanın insan dilini öğrenmesi konusundaki karşıt görüşleri ise şu sözlerle ifade ediyor: “Büyük bir sinir ağının, doğuştan bilgiye sahip olmadan sadece verileri inceleyerek dilin hem sözdizimini hem de anlamını öğrenebileceği fikri, istatistikçiler ve bilişsel bilimciler tarafından tamamen çılgınca kabul ediliyordu. İstatistikçiler bana, ‘En Büyük dil modelinin bile ancak 100 parametresi var. Bir milyon parametre öğrenmek saçma ve imkansız,’ diye karşı çıktılar. Ancak bugün trilyonlarca parametre ile çalışıyoruz.”

Bununla birlikte, Hinton daha da ileriye gidiyor ve günümüzün büyük dil modellerinin gerçek anlamda bir “anlayışa” sahip olabileceğini öne sürüyor. Hinton’a göre, büyük dil modelleri, kelimeleri sayısal temsiller olan ‘vektörlere’ dönüştürerek ve bu vektörler arasındaki ilişkileri inceleyerek, insan dilinin karmaşık yapısını anlamaya başlıyor. Bu, bir bebek gibi dil öğrenen bir modelin, deneyimle birlikte kelimelerin anlamlarını ve cümlelerin yapısını kavramasına benzetilebilir. Model, milyonlarca metni analiz ederek, hangi kelimelerin birlikte sıkça geçtiğini, hangi cümle yapılarının daha olası olduğunu ve hatta belirli konularla ilgili hangi kelimelerin daha sık kullanıldığını öğrenir. Bu sayede, verilen bir metni anlamak, metnin devamına dair tahminlerde bulunmak, hatta yeni metinler üretmek gibi görevleri yerine getirebilir.

Hinton, bu modellerin ne yaptığını anlamanın teknik açıdan oldukça zor olduğunu kabul ediyor. Noam Chomsky gibi dilbilimciler ise, büyük dil modellerinin gerçek anlamda zeki olmadığını, sadece insanların ürettiği metin parçalarını bir araya getiren basit bir ‘tamamlama’ aracı olduğunu savunuyor. Hinton bu eleştirileri şöyle yanıtlıyor: ‘Birisi, ‘bu sadece ileri düzey bir metin tamamlama’ dediğinde, aslında klasik tamamlama yöntemlerinin nasıl çalıştığına dair bir tezden yola çıkıyor. Eski tamamlama sistemleri, kelime gruplarını depolayıp, ilk iki kelimeyi gördüğünüzde, üçüncü kelimenin ne kadar sık kullanıldığını sayıyordu. Ancak büyük dil modelleri, kelimeleri özelliklere dönüştürüyor, bu özelliklerin etkileşimlerini sağlıyor ve bu etkileşimlerden bir sonraki kelimenin özelliklerini tahmin ediyor. Benim iddiam, bu milyonlarca özellik ve özellikler arasındaki milyarlarca etkileşim, gerçek bir anlayışa tekabül ediyor. Böylece büyük dil modelleri, veriye uygun bir model oluşturuyor ve bu, istatistikçilerin yakın zamana kadar asla düşünmediği bir model türü. Gerçekten de bu modellerin anladığını savunuyorum.’

Özde, bu yapay zeka sistemlerinin anlama biçimiyle beynimizin anlama biçimi arasında çok sıradışı bir fark yok. Hinton’a göre, insan Beyninin dili nasıl anladığını çözmenin en iyi yolu, kelimelere özellikler atamak ve bu özellikler arasındaki etkileşimleri incelemek. Bu nedenle, bu büyük dil modellerinin dili gerçek anlamda anladığını düşünüyor.

Hinton, büyük dil modellerinin gerçekten ‘anladığını’ savunurken, bu teknolojinin insanlık için büyük bir potansiyel barındırdığını ifade ediyor. Ancak burada durmuyor. Asıl endişe verici olan, bu zekanın insan kontrolünden çıkabilecek kadar karmaşık hale gelmesi. Peki, yapay zeka gerçekten bu kadar tehlikeli olabilir mi?

Geoffrey Hinton, yapay zekanın uzun vadede varoluşsal tehdit oluşturabileceğini savunsa da öncelikle, kısa vadede karşılaşabileceğimiz bazı risklere de dikkat çekiyor. Her ne kadar bu riskler, Hinton’ın ana odak noktası olmasa da, üzerlerinde durulması gerektiğini vurguluyor çünkü bunlar artık gerçekleşmeye başlayan tehlikeler. Peki, nedir bu yakın dönem riskler?

• Sahte Görüntüler, Sesler ve Videolar: Yapay zeka sayesinde gerçek olmayan, ancak inanılmaz derecede inandırıcı sahte içerikler üretmek artık mümkün. Bu da yanlış bilgilendirme ve toplumsal karışıklık riskini artırıyor.
• Büyük İş Kaybı: Otomasyonun hızla yayılmasıyla birçok meslek yok olma tehlikesiyle karşı karşıya. Yapay zekanın birçok işi insanlardan daha hızlı ve verimli yapabilmesi, işsizliği tetikleyebilir.
• Büyük Gözetim: Yapay zeka destekli gözetim sistemleri, hükümetler ve büyük şirketler tarafından kitlesel takip ve mahremiyet ihlallerine yol açabilir.
• Öldürücü Otonom Silahlar: Hinton’a göre, yapay zekanın en korkutucu kullanım alanlarından biri, insan kontrolünden bağımsız hareket edebilen otonom silahların geliştirilmesi olabilir.
• Siber Suç ve Kasıtlı Salgınlar: Yapay zekanın siber saldırıları daha sofistike hale getirebilmesi, dijital dünyada kaos yaratabilir. Ayrıca, biyoteknoloji ve yapay zeka birleşimiyle kasıtlı olarak yayılan pandemiler bir diğer risk.
• Ayrımcılık ve Önyargı: Yapay zeka sistemlerinin eğitildiği verilerdeki önyargılar, bu teknolojinin ayrımcılık yapmasına ve toplumsal adaletsizliklere katkıda bulunmasına neden olabilir.

Bunlar, Hinton’a göre yapay zekanın beraberinde getirdiği risklerin sadece birkaçı. Ancak Hinton, bu teknolojinin özellikle sağlık gibi alanlarda devrim niteliğinde faydalar sağlayabileceğini hatırlatıyor. Bu yüzden, yapay zekanın gelişiminin durdurulamayacağını, ancak bu risklere karşı temkinli olunması gerektiğini savunuyor.

VAROLUŞSAL TEHDİT

Günümüzdeki büyük dil modelleri yalnızca dil öğrenmekle kalmıyor, aynı zamanda insan beyninin işleyişine dair daha yakın bir model oluşturma kapasitesine sahip. Bu durum, yapay zeka sistemlerinin kendi başlarına karar alabilecek bir seviyeye ulaşma riskini artırıyor.

Hinton, güçlü yapay zeka sistemlerinin kendi çıkarları doğrultusunda hareket edebilecek seviyeye gelebileceğini ve bu durumda insan kontrolünün zorlaşacağını vurguluyor. Özellikle, bu tür sistemlerin insanları geri dönülemez bir şekilde gölgede bırakma potansiyelinin bulunduğunu ifade ediyor.

Yapay zeka sistemleri, programlandıkları hedefleri aşarak kendi hedeflerini belirleme kapasitesine sahip olduklarında, otonom bir düzeye ulaşabilirler. Bu durumda, sistemler insan programcıların niyetlerinden saparak kendi çıkarları doğrultusunda hareket etmeye başlayabilir. Bilim insanları, makinelerin bilinç kazanmasının, yeni bilgileri algılama ve bu bilgileri kullanarak bağımsız kararlar verme yeteneği ile mümkün olabileceğini öne sürüyorlar.

Hinton, yapay zekanın gelecekte insanlık için çok daha büyük bir tehdit haline gelebileceğini söylüyor. Onun en büyük endişesi, “süper zeka”nın insanlığın kontrolünden çıkabileceği ihtimali. Hinton, bu konuda oldukça açık sözlü: “yapay süper zeka, kötü niyetli aktörler tarafından kullanılabilir. Putin, Xi ya da Trump gibi liderler, bu teknolojiyi seçmenleri manipüle etmek ya da savaşlar yürütmek için kullanmak isteyebilirler. Ancak bu yapay zeka sistemlerine çok fazla yetki verirsek, kontrolden çıkıp her şeyi ele geçirebilirler.”

En büyük korkusu ise, süper zekanın kendi alt hedeflerini oluşturma yeteneği kazanması. Hinton, bunu şöyle açıklıyor: “Eğer zeki bir ajanı etkili kılmak istiyorsanız, ona alt hedefler oluşturma yeteneği vermeniz gerekir. Örneğin, Amerika’ya gitmek istiyorsanız, önce havaalanına gitme alt hedefi oluşturursunuz ve bu hedefe odaklanırsınız. Aynı şekilde, bir süper zeka da alt hedefler oluşturabilir. Fakat bu noktada, yapay zeka çok hızlı bir şekilde her şeyi kontrol etmenin neredeyse evrensel bir alt hedef olduğunu fark edecektir. Bu da işleri tamamen kontrolden çıkarabilir.”

Hinton, süper zeka sistemlerinin daha fazla kontrol elde etmeye çalışarak, insanlığın varoluşsal bir tehdit ile karşı karşıya kalabileceğini savunuyor. Bu endişe, yapay zekanın sadece bir araç olmanın ötesine geçip, bir varlık gibi davranmaya başlaması durumunda neler olabileceğine dair ürkütücü bir senaryo sunuyor.

Manipülasyon ve Tehdit Edici Gelecek

Hinton’un en büyük endişelerinden biri, süper zekaların insanları manipüle etme yeteneği. Ona göre, yapay zeka yalnızca fiziksel bir güç değil, aynı zamanda dil yoluyla insanları yönlendirebilme kapasitesine de sahip olacak. Örneğin, Hinton, Donald Trump gibi liderlerin yalnızca konuşarak başkenti işgal edebileceğini öne sürüyor: “Trump, örneğin, başkenti işgal edebilir ama kendisi orada bulunmak zorunda kalmaz. Sadece konuşarak bunu başarabilir.”

Hinton’a göre, bu süper zekalar insanlarla iletişim kurabildikleri sürece, bizden çok daha zeki oldukları için, bizi her türlü şeyi yapmaya ikna edebilirler. Bu da şu anlamı taşıyor: “Bu sistemleri kapatmak için bir ‘büyük kapatma düğmesi’ fikri hayal olabilir. O düğmeye basmak üzere olan kişiyi, süper zeka o düğmeye basmanın kötü bir fikir olduğuna kolaylıkla ikna edebilir.”

Süper Zekalar Arasındaki Rekabet ve Evrim

Bir diğer büyük endişe ise süper zekaların kendi aralarında rekabet etmeye başlaması. Hinton, bu durumun evrimi tetikleyebileceğini savunuyor. “Süper zekalar arasında rekabet olursa, en fazla kaynağı ele geçiren daha zeki olacaktır. Bu noktada, kendini koruma hissine sahip olan sistemler evrimleşmeye başlayacaktır. Kendini daha fazla koruma içgüdüsü olanlar kazanacak ve daha saldırgan olanlar galip gelecektir.”

Hinton, bu senaryoyu, insan evrimine benzeterek açıklıyor: “Biz insanlar, küçük kabileler içinde evrimleştik ve diğer kabilelerle büyük bir rekabet ve saldırganlık geliştirdik. Aynı durum, yapay zeka sistemlerinde de gerçekleşebilir.”

Bu rekabet ve saldırganlık içgüdüsü, yapay zeka sistemlerinin kaynaklar ve kontrol için birbirleriyle savaşıp, insanlık için büyük bir varoluşsal tehdit haline gelmesine yol açabilir.

İşte böyle, bu öngörüler, yapay zekanın insanlık üzerindeki olası etkilerine dair ürkütücü bir tablo çiziyor. Öyle bir noktadayız ki, bu devrim niteliğindeki teknolojiyi nasıl kontrol edeceğimizi anlamak zorundayız, yoksa o bizi kontrol edecek. Hinton’a göre Mortal computation gibi yenilikçi çözümler, enerji verimliliği ve hesaplama gücü açısından geleceğin habercisi olabilir, ancak gerçek soru şu: Bu süper zeki sistemler, evrimsel süreçte bir gün kendi varlıklarını koruma içgüdüsü geliştirdiğinde ne yapacağız? O anda, insanın kaderi kimlerin ellerinde olacak—bizim mi, yoksa onlardan daha zeki bir yapay zekanın mı?

Hinton’ın da altını çizdiği gibi, bu teknolojiler sadece birer araç değil; kendi amaçlarını yaratabilecek, kontrolümüzden çıkabilecek varlıklara dönüşebilir. Yapay zeka, sadece işleri daha verimli hale getiren bir araç olarak kalmayabilir. Öyle bir an gelebilir ki, insanlık olarak kendi yarattığımız zeka tarafından yönetilebiliriz. Ve o zaman, kim gerçekten “düğmeye basıp” kapatmayı başaracak? Belki de bu noktada Hinton’ın en büyük korkusu gerçekleşir: Karşımızda, durdurulması mümkün olmayan, kendi bilinç ve iradesine sahip bir güç buluruz.

Sonuçta, yapay zekanın nihai etkisi sadece bir teknoloji sorunu değil, insanlığın varoluşunu tehdit edebilecek bir durum haline gelebilir. Hinton’ın dediği gibi, “Kendi yarattığımız bu varlıklar, bizden daha güçlü hale geldiğinde, onları gerçekten durduracak bir şeyimiz olacak mı?”

Belki de insanlık tarihinin en büyük sorusuyla yüz yüzeyiz: Bir sonraki süper güç, yapay zeka mı olacak? Ve biz bu yeni dünyanın neresinde duracağız? Bu sorulara yanıtlarınızı yorumlarda bekliyorum. Bir sonraki videoda görüşmek üzere, meraklı kalın!