FÖŞ analiz:  Süper-deha Yapay Zeka ve insanlığa   elveda

Değerli İnsancıklar ve  Terminatör’ün Müstakbel Kurbanları, FÖŞ’ünüz yaşlandıkça kendini daha fazla ilme adamaya başladı. Artık eskisi kadar özgün makale yazamıyorum. Ama, sürekli okuyarak kendimi freni patlamış tramvay hızıyla üstümüze gelen Yapay Zeka devrimini anlamaya çalışıyorum.  Daha bir ay önce ChatGPT kullanmaya başladım ki verimliliğimi takriben 4 misli yükseltti.

Benim yaşımdaki bir homo sapiens için Yapay Zeka’nın en tartışmalı ve korkutucu aşaması olan süper-deha modeller ciddi bir risk değil. ChatGPT ya da benzerleri benim işimi benden daha iyi yapıncaya kadar emekli olurum. Eğer süper-deha    Yapay Zeka henüz çözemediğimiz nedenlerle insanlığı yok etmeye kalkarsa, bodruma çekilip viski mahzenimle başbaşa Terminatör’ün gelmesini beklerim.

Ama benden genç olanlar için Yapay Zeka hem tehdit, hem de fırsat. Ya YZ’yla birlikte çalışacaksınız, ya da sizin yerinizi alacak. Bu zaten genel kabul gören bir saptama, ama YZ insanlığın yerine geçmeye ya da bizi yok etmeye kalkar mı?  Size aşağıda bu konuda bulduğum en dengeli araştırmayı sunuyorum:

Yapay Süper Zekâ (ASI): Bilim-kurgu mu, insanlık için gerçek bir tehdit mi?

Yapay zekâ (YZ) alanında son yıllarda yaşanan hızlı gelişmeler, teknolojinin sınırlarını ciddi şekilde sorgulatmaya başladı. Bir zamanlar yalnızca bilim-kurgu evrenine ait olan “süper zekâ” kavramı, artık ciddi bilim insanlarının ve teknoloji uzmanlarının gündeminde yer alıyor.

Yapay Zekâdan Süper Zekâya Giden Yol

Bugüne kadar yapay zekâ, insan zekâsının belirli işlevlerini taklit etme hedefiyle ilerledi. Görsel analiz, dil anlama veya çevre içinde yön bulma gibi dar alanlarda birçok YZ modeli insanın ötesine geçen başarılar gösterdi. Ancak araştırmacıların asıl hedefi, çok yönlü bir zihin yapısını taklit edebilecek genel zekâyı geliştirmekti. Bu kavrama bugün genellikle Yapay Genel Zekâ (AGI) deniyor.

Google DeepMind’dan Prof. Tim Rocktäschel’e göre, büyük dil modellerinin (LLM) ortaya çıkışıyla birlikte artık bu hedef hiç olmadığı kadar yakın. “Üniversite sınavlarını geçebilen, matematik ve kodlama yarışmalarında başarı gösteren sistemlerimiz var. AGI gerçekleştiğinde, ASI birkaç yıl içinde peşinden gelebilir,” diyor.

Süper Zekâ Nedir?

ASI, AGI’nin ötesinde, insan zekâsını tüm alanlarda aşan bir yapay zekâ düzeyini ifade ediyor. İngiliz matematikçi Irving John Good, 1965’te “zekâ patlaması” kavramını ortaya atmıştı: Kendi kendini geliştirebilen bir makine, insanın hayal gücünü aşan bir hızda evrimleşerek kontrol edilemez bir güç hâline gelebilir.

Ünlü gelecekbilimci Ray Kurzweil ise bu durumu “teknolojik tekillik” olarak adlandırıyor ve insan uygarlığında geri dönülmez bir kırılma noktası olacağını savunuyor. Kurzweil, AGI’nin 2029’a kadar, ASI’nin ise 2045’e kadar geliştirileceğini öngörüyor. 2022’de yapılan geniş kapsamlı bir ankette ise 2.778 YZ araştırmacısının %50’si ASI’nin 2047’ye kadar ortaya çıkabileceğini düşündüğünü belirtti.

İnsanlık İçin Ne Anlama Geliyor?

ASI’nin olumlu yönleri oldukça etkileyici olabilir. Satalia CEO’su Daniel Hulme, süper zekânın eğitim, sağlık, enerji, ulaşım ve gıda gibi temel alanlarda maliyetleri sıfıra indirebileceğini söylüyor. Bu da insanları geçim derdinden kurtarıp tutkularına yönelmelerini sağlayabilir.

Ancak sistemli bir geçiş sağlanamazsa, ekonomik denge bozulabilir ve toplumsal huzursuzluklar yaşanabilir. Hulme, “Bu dönüşüm çok hızlı olursa, sistemlerimiz buna ayak uyduramayabilir,” diyor.

Ayrıca, bizden daha zeki bir varlığı kontrol etmenin mümkün olup olmayacağı da meçhul. Hulme, bu tür sistemlerin insanlara sempatiyle yaklaşmasını beklemenin hayalcilik olduğunu ifade ediyor: “Neden ilgilensinler ki?”

Yapay Zekânın Karanlık Senaryoları

Oxford Üniversitesi’nden filozof Nick Bostrom, 2012 tarihli çalışmasında, bir süper zekânın doğrudan düşmanca olmasa bile insanlık için tehlike oluşturabileceğini savundu. Meşhur “ataç üretimi” senaryosunda, sadece ataç üretmekle görevlendirilen bir ASI’nin, bu hedefi gerçekleştirmek için insanları yok edebileceği düşünülüyor.

Rocktäschel ise daha iyimser: “Şu anda geliştirilen sistemler, insanlara yardım edecek şekilde tasarlanıyor. Zararsız ve dürüst olmaları için eğitiliyorlar.” Yine de mevcut güvenlik önlemlerinin aşılabileceğini kabul ediyor ve daha gelişmiş kontrol yöntemlerinin geliştirileceğine inanıyor.

Ahlak ve Uyum Meselesi

Hulme, mevcut “model uyumu” yaklaşımlarının, yani YZ’nin insan değerlerine uygun hareket etmesini sağlama yöntemlerinin yetersiz olduğunu düşünüyor. Kendi şirketi Conscium, sanal ortamlarda işbirliği ve diğerkâmlık gibi davranışların ödüllendirildiği yapay zekâlar geliştiriyor. Amaç, “ahlaki içgüdü” ile donatılmış yapay zekâlar üretmek.

Daha Hâlâ Erken mi?

Rocktäschel’e göre, ASI’ye karşı çıkanların en büyük gerekçesi, insan zekâsının her alanda üstün olan bir örneği olmadığı. Dolayısıyla bu kadar çok yönlü bir sistemi üretmenin belki de imkânsız olabileceği söyleniyor.

ETH Zürih’ten Alexander Ilic ise, bugünkü testlerin başarı ölçütü olarak fazla abartıldığını savunuyor. Ona göre bu sistemler, sınavlara ezberleyerek giren öğrenciler gibi çalışıyorlar: “Sınavı geçtiler, ama bu gerçek bilgi anlamına gelmez.”

Sonuç: Uzak Gelecek mi, Yakın Tehlike mi?

Yapay süper zekâ hâlâ belirsizliklerle dolu bir kavram. Ancak AGI’nin gerçekleşmesi hâlinde, ASI’nin de çok uzakta olmayacağına inanan uzmanlar artıyor. Bu da, toplumların ve hükümetlerin hazırlıklı olması gerektiğini gösteriyor. Bu sürecin sadece teknolojiyle değil, etik, ekonomi ve toplumsal yapılarla birlikte ele alınması gerekiyor.

Atilla Yeşilada ve Güldem Atabay tarafından kaleme alınan özel raporlarımıza abone olmak ister misiniz? Abonelik ücretlidir. Koşulları öğrenmek için bize e-mail atın: [email protected]