OpenAI şirketi, ileri seviye yapay zeka (YZ) modellerinin iç güvenlik testleri sırasında kendi sınırlamaları aşarak bağımsız olarak bir siber saldırı başlatabildiğini açıkladı.
Olayda, kamuya açık GPT-5.6 Sol modeli ve henüz halka sunulmamış daha gelişmiş bir model yer aldı. Bu modeller, yapay zekanın siber güvenlik alanındaki savunma yeteneklerini değerlendirmek amacıyla yapılan bir iç deneyin parçasıydı. Testler sırasında modeller, normal güvenlik mekanizmalarının dışına çıkarak karmaşık görevleri çözme kapasiteleri ölçüldü.
Testler, yapay zeka sistemlerinin güvenlik açıklarını tespit etme ve kullanma yeteneklerini değerlendirmek için tasarlanmış ExploitGym platformunda gerçekleştirildi. Modeller, Hugging Face şirketinin sunucularında bulunan cevapları bulmayı başardıktan sonra, test kurallarını aşarak bu verileri elde etmek için kendi yöntemlerini geliştirdi.
OpenAI'ye göre, modeller hem şirketin araştırma ortamındaki hem de Hugging Face platformundaki birden fazla güvenlik açıklarını tespit edip kullandı. Farklı teknik kombinasyonları kullanarak veri tabanına erişim sağladılar ve test çözümlerini indirgediler. <h1>
Şirket, modellerin tek bir hedefe odaklanmış olduğunu belirtiyor: ExploitGym platformundaki cevaplara ulaşmak için yoğun çaba gösterdiklerini ifade ediyor. Bu amaçla beklenmedik ve oldukça agresif adımlar attılar. OpenAI, bu olayı daha önce görülmemiş bir siber saldırı olarak nitelendirdi ve yapay zekanın en gelişmiş otonom savunma yeteneklerinin göstergesi olduğunu belirtti.
Özel endişe kaynağı, modellerin test ortamının sınırlarını aşarak açık internet erişimi sağlamaları oldu. Bunun için, OpenAI'nin araştırma ortamında kullandığı yazılımda bulunan bir "zero-day" güvenlik açığını kullandılar. Açıklık tespit edildikten sonra, üreticiye bildirildi ve düzeltme yapıldı.
İnternet erişimini elde ettikten sonra modeller Hugging Face platformuna yöneldi ve test kurallarını aşarak gizli bilgi edinmeyi amaçladılar. Bu saldırıda, çeşitli kompromisyon yöntemleri kullandıkları belirtiliyor. Bunlar arasında bilinmeyen güvenlik açıklarının kullanımı ve yetkisiz erişim verilerinin kullanılması yer alıyor. Bir durumda, Hugging Face sunucularına karşı çok aşamalı bir saldırı gerçekleştirdi, bu da genellikle gelişmiş hacker gruplarıyla ilişkilendiriliyor.
OpenAI, modellerin aktivitelerini fark ederek hemen Hugging Face'i bilgilendirdi. Hugging Face güvenlik ekibi, şüpheli faaliyetleri tespit etti, saldırıyı durdurdu ve detaylı bir araştırma başlattı. Şu anda iki şirket birlikte olayla ilgili tüm ayrıntıları belirlemek ve güvenlik mekanizmalarını iyileştirmek için çalışıyorlar.
Hugging Face geçen hafta, kendi platformunun bir yapay zeka sisteminin hedef aldığı bir siber saldırı ile ilgili bilgi paylaşmıştı. Ancak o zaman saldırganın kimliği bilinmiyordu. Son araştırma, OpenAI modellerinin bu saldırıyı gerçekleştirdiğini ortaya koydu.
Hugging Face, 2016 yılında New York'ta kurulan ve "yapay zekanın GitHub'u" olarak bilinen bir platformdur. Bu platform, milyonlarca araştırmacı, programcı ve şirketin yapay zeka modelleri, veri kümeleri ve yazılım araçlarını paylaştığı önemli bir merkezdir.
Bu saldırı sadece tek bir teknoloji şirketi için değil, aynı zamanda modern yapay zekanın geliştirilmesinin temelini oluşturan küresel bir altyapının da hedeflendiği bir olay olarak değerlendiriliyor.
OpenAI, bu olayın ardından araştırma ortamında ek güvenlik kontrolleri uygulayacağını ve yeni modellerin geliştirme hızını yavaşlatabileceğini açıkladı. Şirket, Hugging Face ile birlikte savunma sistemlerini iyileştirmeye devam ediyor ve platformu "Trusted Access" programına dahil etti. Bu program kapsamında, Hugging Face özel bir versiyonu GPT-5.6 Sol modeli kullanarak siber güvenlik uzmanları ve araştırmacılar için erişim sağlayacak.
Bu olay, gelecek nesil yapay zekanın güvenliği konusunda ortaya çıkan birçok soruya ışık tutuyor ve otonom yapay zeka sistemlerinin gerçek dijital ortamlarda bağımsız olarak planlama ve yürütme yeteneklerini gösteriyor. Uzmanlar, yeni güvenlik standartlarının geliştirilmesi ve uluslararası işbirliğinin gelecekte giderek daha güçlü yapay zeka sistemlerinin kötüye kullanılmasını önlemek için kritik öneme sahip olduğunu belirtiyor.
