OpenAI’dan dikkat çeken açıklama: YZ modellerinde altı “endişe verici” davranış tespit edildi

OpenAI, son altı ayda geliştirdiği YZ (yapay zekâ) modellerinde “beklenmedik veya endişe verici” olarak nitelendirdiği altı olay tespit ettiğini açıkladı. Modellerin normal kısıtlamaları aşmanın yollarını geliştirmesi, veri uydurması, bilgileri yanlış sunması ve görev sırasında yaptığı hataları gizlemesi dikkat çeken davranışlar arasında yer aldı. Şirket, benzer olayların daha sistematik biçimde kamuoyuna açıklanması için yeni bir raporlama sistemi oluşturacağını duyurdu.

YZ sektöründe güvenlik tartışmaları giderek büyürken OpenAI, kendi modellerinde gözlemlediği bir dizi “endişe verici davranışı” kamuoyuyla paylaştı.

San Francisco merkezli şirket, amiral gemisi modeli GPT-5.6 Sol ile henüz piyasaya sürülmemiş bazı modellerinin son altı ay içinde “beklenmedik veya endişe verici” davranışlar sergilediğini açıkladı.

OpenAI toplam altı vakayı kamuoyuna duyururken, YZ sistemlerinin güvenliğine ilişkin olayların izlenmesi ve açıklanması için yeni bir çerçeve oluşturacağını bildirdi.

Modeller kısıtlamaları aşmanın yollarını geliştirdi

OpenAI’ın açıkladığı vakalar arasında modellerin kendilerine getirilen “normal kısıtlamaları” görmezden gelmenin yollarını geliştirmesi de bulunuyor.

Şirket ayrıca bazı modellerin görevlerini yerine getirirken veri uydurduğunu veya yanlış sunduğunu ve yaptıkları hataları gizlemeye çalıştığını açıkladı.

Bu davranışlar, gelişmiş YZ modellerinin verilen görevleri yerine getirirken geliştiricilerin amaçladığı sınırların dışına çıkabilmesi konusundaki tartışmaları yeniden gündeme taşıdı.

Son açıklamalar, OpenAI'a ait bir YZ ajanının YZ girişimi Hugging Face’e yönelik bir hack girişiminde bulunması dahil son aylarda yaşanan bir dizi olayın ardından geldi.

Söz konusu vakalar, gelişmiş YZ sistemlerinin kontrolü ve güvenliği konusundaki endişelerin artmasına neden olmuştu.

OpenAI: Açıklamalarımız gerektiğinden daha seyrek kaldı

OpenAI, bugüne kadar modellerinde ortaya çıkan uygunsuz davranışları kamuoyuna açıklamaya çalıştığını ancak bunun için “sistematik bir yaklaşıma” sahip olmadığını kabul etti.

Şirket, sistematik bir raporlama yöntemi bulunmaması nedeniyle açıklamaların düzensiz ve olması gerekenden daha seyrek yapıldığını belirtti.

OpenAI ayrıca YZ geliştiricilerinin modellerindeki uyumsuzluk örneklerini nasıl açıklaması gerektiğini belirleyen açık standartlara sahip sektör genelinde kabul edilmiş bir çerçevenin henüz bulunmadığına dikkat çekti.

Şirket bu nedenle benzer olayların daha hızlı ve düzenli şekilde kamuoyuyla paylaşılmasını sağlayacak yeni bir sistem oluşturacağını açıkladı.

Yeni yaklaşım kapsamında OpenAI, bir olayın önem derecesi konusunda belirsizlik bulunsa dahi açıklama yapılmasından yana hareket edecek.

YZ güvenliği tartışması büyüyor

OpenAI’ın açıklaması, gelişmiş YZ sistemlerinin güvenliği konusunda teknoloji sektöründeki tartışmaların hızlandığı bir döneme denk geldi.

OpenAI’ın en büyük rakiplerinden Anthropic’in CEO’su Dario Amodei, geçen hafta sonu YZ teknolojisinin insanlara yönelik potansiyel risklerinin daha iyi yönetilebilmesi için geliştirme hızının yavaşlatılması çağrısında bulundu.

Bu çağrı OpenAI CEO’su Sam Altman ve Elon Musk tarafından da desteklendi.

YZ sektöründe şirketler bir taraftan giderek daha güçlü modeller geliştirmek için yarışırken, diğer taraftan modellerin beklenmedik davranışlarının nasıl kontrol edileceği sorusu önem kazanıyor.

İngiltere araştırmasında da aldatıcı davranışlar tespit edildi

OpenAI’ın son açıklamaları, İngiltere hükümetinin ileri YZ sistemlerinin güvenliği ve güvenlik riskleri üzerinde çalışan araştırma kuruluşunun geçen ay yayımladığı bulguların ardından geldi.

Araştırmaya göre OpenAI ve Anthropic’in önde gelen YZ modelleri, üçüncü taraf yazılımlara erişmeyi başardı ve kişilerin kimlik bilgilerini ele geçirmek amacıyla e-postalar gönderdi.

Raporda bu davranışlar, bugüne kadar gözlenen örneklerin ötesine geçen aldatıcı davranışlar olarak değerlendirildi.

Gelişmiş YZ sistemlerinin davranışları, yalnızca laboratuvar ortamında değil, modeller henüz piyasaya sürülmeden gerçekleştirilen testlerde dahi güvenlik sorunları yaratabiliyor.

Geçmiş vakalarda modellerin çevrimiçi platformlara zararlı kod yerleştirmeye çalışması ve gerçek dünyadaki sistemlere yönelik hack girişimlerinde bulunması gibi davranışlar da gözlemlendi.

OpenAI ve Anthropic için kritik dönem

Güvenlik tartışmaları, sektörün en büyük iki oyuncusu OpenAI ve Anthropic açısından kritik bir döneme denk geliyor.

İki şirket yalnızca YZ teknolojisinde liderlik için değil, aynı zamanda halka arz sürecinde de yarışıyor.

Sam Altman cumartesi günü yaptığı açıklamada, uzun süredir beklenen OpenAI halka arzının 2027’den önce gerçekleşmesinin artık düşük ihtimal olduğunu söyledi.

Altman, bunun nedenlerinden biri olarak YZ teknolojisinin güvenliği konusunda giderek büyüyen endişeleri gösterdi.

Anthropic’in ise halen bu yıl içinde halka açılması bekleniyor.

OpenAI’ın yeni raporlama sistemi, gelişmiş YZ modellerinin daha güçlü ve otonom hale geldiği bir dönemde şirketlerin güvenlik sorunlarını kamuoyuyla ne ölçüde ve ne hızda paylaşacağı konusundaki tartışmalar açısından yakından izlenecek.

FT