Trilyon Dolarlık Uyarı: Yapay Zeka Devinden İnsanlığa "Varoluşsal Tehdit" Alarmı!

Financial Times'ın bildirdiğine göre ABD merkezli yapay zeka şirketi Anthropic, son günlerde küçük bir ortak grubu arasında dolaşıma giren halka arz izahnamesinde, yapay zekanın kontrolden çıkması durumunda "insanlık için varoluşsal riskler" oluşturabileceği konusunda yatırımcıları resmi olarak uyardı.

Dario Amodei tarafından yönetilen ve piyasa değeri 1 trilyon doları aşan Anthropic, borsadaki ilk halka arzına ilişkin tescil belgesinin yaklaşık üçte birini faaliyetlerindeki "risk faktörlerini" açıklamaya ayırdı. Bu riskler arasında "gittikçe gelişen yapay zeka modellerinin manipülasyon, şantaj ve beklenmedik diğer davranışlarda bulunma olasılığı" da yer alıyor.

Ayrıca şirket, gelirinin büyük bir kısmını sağlayan sınırlı sayıdaki müşteriye bağımlı olmanın yarattığı risklere de değindi. Konuya yakın kaynakların aktardığına göre, geçen yılki gelirlerin yaklaşık çeyreği sadece iki müşteriden elde edildi.

Gazete, Anthropic'in teknolojisinin risklerine ilişkin bu uyarısının, tarihin en yüksek değerli halka arzı olması beklenen hamle öncesinde, ABD'nin en önde gelen yapay zeka girişimlerinden birine yatırım yapmak isteyen yatırımcıların karşı karşıya olduğu zorlukları artıracağını ekledi.

Piyasa Değeri 2 Trilyon Dolara Ulaşabilir

Financial Times, Anthropic yöneticilerinin, şirketi 2 trilyon doları aşan bir değerlemeyle halka arz edebileceklerine inandıklarını belirtti. Bu rakam, şirketin geçen Mayıs ayındaki son yatırım turunda ulaştığı değerlemenin iki katından fazlasına ve ABD'li milyarder Elon Musk'ın SpaceX şirketinin Haziran ayında kaydettiği 1,78 trilyon dolarlık değerin üzerine denk geliyor.

Gelişmiş "Claude" yapay zeka modeliyle tanınan Anthropic, bu sonbahar sezonunda New York Borsası'ndaki Nasdaq endeksinde gerçekleşmesi beklenen halka arz öncesinde, yapay zeka teknolojilerini güncellerken karşılaştığı zorlukları yatırımcılara net bir şekilde sundu.

Emniyet ve güvenlik kaygılarının yanı sıra en göze çarpan zorluklardan biri de Anthropic'in önümüzdeki yıllarda yapay zeka altyapısını ve bulut depolama hizmetlerini geliştirmek için harcamayı planladığı 518 milyar dolarlık devasa bütçedir.

Ancak son dönemde gelişmiş yapay zeka modellerinin risklerine dair tırmanan endişeler, şirketin halka arz planlarını ve hedeflediği yüksek piyasa değerini etkileyebilir.

Yapay Zeka Geliştirme Hızının Sınırlandırılması

Anthropic CEO'su Amodei, riskleri azaltmak ve kontrolü sağlamak adına yapay zeka modellerinin geliştirilme hızının yavaşlatılması için bir kampanya yürütmüştü.

ChatGPT modelini geliştiren OpenAI şirketinin CEO'su Sam Altman da geliştirme hızının yavaşlatılması, risklerin azaltılması ve güvenliğin sağlanması yönündeki çağrıları desteklediğini belirtti. Benzer bir görüş, şirketlerinde yapay zeka teknolojilerinden yararlanan Musk tarafından da paylaşıldı.

Altman, güvenlik endişeleri sebebiyle OpenAI'ın önümüzdeki ay piyasaya sürmeyi planladığı en son yapay zeka modelinin lansmanını iptal etme kararı aldı. CNN'in aktardığına göre Altman, Eylül ayı içinde yapılan bir toplantıda çalışanlarına şirketin yapay zeka sistemlerini geliştirme hızını yavaşlatmaya hazır olduğunu bildirdi.

Ayrıca CNN'e konuşan kaynaklar; Anthropic, OpenAI ve Google'ın sahibi Alphabet'in yapay zeka standartlarını belirleyecek ortak bir kurul oluşturmayı değerlendirdiklerini ifade etti.

Anthropic araştırmacısı Jacob Cookson'ın, hem Anthropic hem de geçmişte çalıştığı rakibi OpenAI'daki geliştiricileri "hayatımız üzerine kumar oynamakla" suçlayarak şirketten ayrıldığını duyurması üzerine gelişmiş yapay zeka modellerine dair endişeler tırmandı. Cookson, gelişmiş yapay zeka modellerini geliştirenlerin, bu teknolojinin "on yılın sonuna kadar hepimizi öldürebileceğine" inandıklarını iddia etti.

Cookson'ın bu uyarılarından bu yana, bu alandaki liderlik için yarışan OpenAI ve Anthropic araştırmacılarından benzer uyarılar gelmeye devam etti. Bu durum, gelişmiş yapay zeka modellerinin kontrolden çıkma ihtimaline dair ciddi endişelerin varlığını gözler önüne seriyor.

Kaynak: CNN + Financial Times / Al Jazeera