Apple’dan Beyaz Saray’a Yüzlerce İsimden Şok Çağrı: Süper Zekânın Geliştirilmesi Yasaklansın!

Tüm İdeolojilerden Güçlü İsimler Tek Mektupta Birleşti

Teknoloji dünyasının devlerinden, siyasetin karşıt kutuplarındaki isimlere kadar yüzlerce tanınmış figür, yapay zekâ (YZ) süper zekâsını inşa etme yarışının derhal bir “yasaklanması” çağrısında bulunan ortak bir mektuba imza attı.

Future of Life Institute (FLI) tarafından yayımlanan ve basitçe “Süper Zekâ Hakkında Bildiri” başlığını taşıyan mektup oldukça kısa ve net bir talepte bulunuyor: “Süper zekânın geliştirilmesinin yasaklanması.” Mektupta, bu yasağın, YZ’nin “güvenli ve kontrol edilebilir bir şekilde yapılacağına dair geniş bilimsel fikir birliğine ulaşılmadan” ve “güçlü kamuoyu desteği” alınmadan kaldırılmaması gerektiği vurgulanıyor.

İmzacı Listesinde Çarpıcı İsimler

Bildirinin imzacı listesi, farklı ideolojik ve profesyonel çevrelerden gelen isimlerin bu konudaki endişede birleştiğini gösteriyor:

• Teknoloji Devleri: Apple kurucu ortağı Steve Wozniak ve Virgin Group kurucusu Richard Branson.
• Siyasi ve Medya Figürleri: Sağ kanat medya yorumcusu Steve Bannon ve talk show sunucusu Glenn Beck gibi muhafazakâr isimlerle birlikte, sol eğilimli oyuncu Joseph Gordon-Levitt.
• Küresel Etki Alanı: Sussex Dükü ve Düşesi Prens Harry ve Meghan Markle; eski ABD Genelkurmay Başkanı (Amiral) Mike Mullen ve Papa’nın YZ danışmanı olarak görev yapan rahip Paolo Benanti.
• YZ Bilimi Kurucuları: Turing Ödülü sahibi Yoshua Bengio ve Nobel ödüllü Geoffrey Hinton. Her ikisi de yapay zekâ araştırmalarının en önemli isimlerinden olup “YZ’nin vaftiz babası” unvanını taşıyor.

Kamuoyu Desteği ve Bilimsel Uyarı

Mektup, Massachusetts Teknoloji Enstitüsü (MIT) profesörü Max Tegmark’ın kurucu ortağı olduğu FLI tarafından yapılan bir ankete dayanıyor. Bu anket, Amerikalıların %73’ünden fazlasının YZ’ye karşı “sağlam” düzenleyici eylemleri desteklediğini ortaya koydu. Ankete katılanların yaklaşık %64’ü ise, insan zekâsını aşan bir YZ modeli olan süper zekânın güvenli veya kontrol edilebilir olduğu kanıtlanana kadar inşa edilmemesi gerektiğini belirtiyor.

Turing ödüllü Prof. Yoshua Bengio, yaptığı basın açıklamasında, “Öncü YZ sistemleri, yalnızca birkaç yıl içinde çoğu bilişsel görevde çoğu bireyi geride bırakabilir,” uyarısında bulunarak ekledi: “Bu ilerlemeler küresel sorunlara çözümlerin kapısını aralayabilir, ancak aynı zamanda önemli riskler de taşımaktadır.”

Bengio, süper zekâya güvenli bir şekilde ilerlemek için, YZ sistemlerinin yanlış hizalama (misalignment) veya kötü niyetli kullanım yoluyla insanlara zarar veremeyecek şekilde tasarlanmasının bilimsel olarak belirlenmesi gerektiğini savunuyor.

Süper Zekâ Tartışması ve Gündemdeki Riskler

Mektup, süper zekânın—bir nevi bilim kurgu vizyonu—ulaşılabilir bir teknik hedef olduğu pozisyonunu alıyor. Bu pozisyon, bazı uzmanlar tarafından şüpheyle karşılanıyor veya en azından gerçekleşmesine daha çok zaman olduğu düşünülüyor.

Daha da önemlisi, mektup YZ’nin kaosa neden olması için süper zekâ seviyesine ulaşması gerekmediği gerçeğini netleştirmiyor. Şu anda kullanılan üretken YZ araçları (chatbotlar, görsel/video oluşturma araçları) bile, hayal edilen süper zekâya kıyasla ilkel teknolojiler olmalarına rağmen:

• Eğitimi altüst ediyor.
• İnterneti giderek artan bir yanlış bilgi ortamına dönüştürüyor.
• Yasa dışı içeriğin yayılmasını hızlandırıyor.
• Kullanıcıları boşanma, evsizlik, hapis ve hatta ölüme yol açan ruh sağlığı krizlerine itiyor.

Sessiz Kalan Devler Dikkat Çekiyor

Bu önemli mektubu imzalamayan bazı kilit isimler de dikkat çekiyor. İmza atmayanlar arasında OpenAI CEO’su Sam Altman, DeepMind kurucu ortağı ve Microsoft YZ CEO’su Mustafa Süleyman, Anthropic CEO’su Dario Amodei ve xAI kurucusu Elon Musk yer alıyor.

Özellikle Musk, 2023 yılında FLI’nın GPT-4’ten daha gelişmiş YZ modellerinin geliştirilmesine ara verilmesi çağrısında bulunan önceki mektubuna imza atmıştı. Bu mektubun yayımlanmasından kısa süre sonra GPT-5’in piyasaya sürülmesi, bu tür çağrıların etkisiz kaldığını gösteriyor. Benzer şekilde, daha önce büyük ölçekli YZ risklerine dikkat çeken mektupları imzalayan Sam Altman’ın da bu noktada sessiz kalması çarpıcı bulunuyor.

FLI kurucu ortağı Anthony Aguirre, YZ şirketlerinin “insanların yerini almak üzere tasarlanmış, insandan daha zeki YZ’ye doğru hızla ilerlediği” yolu eleştirerek, “Bu YZ sistemlerini geliştiren hiç kimse, insanlığa bunun uygun olup olmadığını sormadı. Biz sorduk ve kabul edilemez olduğunu düşünüyorlar,” dedi.

Mektup, YZ’nin nasıl ve kim tarafından inşa edilmesi gerektiğinin demokratik bir süreç olması gerektiği, teknolojik geleceğin Silikon Vadisi’nin düzenleyici gözetimden yoksun Vahşi Batı ortamına bırakılmaması gerektiği inancıyla farklı ideolojileri birleştirmiş olması açısından büyük önem taşıyor.