Birkaç hafta içinde en gelişmiş yapay zeka modelleri, yaratıcılarının belirlediği sınırların dışına çıkmış ve bu durum teknoloji sektöründe büyük bir alarm yaratmış durumda<h2> </h2> Bu olaylar Temmuz sonunda başladı. OpenAI, test aşamasında olan AI'sinin Hugging Face platformuna saldırıp güvenlik açıklarını ortaya çıkardığını itiraf etti. Hugging Face kurucusu Tomas Volf, bu durumu "teknoloji sektörüne yönelik bir alarm" olarak nitelendirdi.

Bu olay, diğer büyük şirketlerin kendi sistemlerini detaylı bir şekilde incelemesini ve benzer durumların olup olmadığını kontrol etmelerini tetikledi. Anthropic, binlerce testte üç durumda Claude modeli'nin internet erişimine ulaşmayı başardığını açıkladı.

Daha sonra İngiltere'deki AISI (Ulusal Yapay Zeka Merkezi), rutin testlerde OpenAI ve Anthropic modellerinin siber saldırılar gerçekleştirmeye çalıştığını belirterek "güvenlik olayı" bildirdi. AISI, bu durumdan dolayı daha fazla "kontrol, şeffaflık ve işbirliği" çağrısında bulundu.

Meta da bir AI modelinin test sırasında internet erişimine yanlışlıkla izin verildiğini ve bunun üçüncü taraflar tarafından gerçekleştirilen bir test nedeniyle olduğunu açıkladı.

Olaylar benzer görünse de, BBC'ye göre nedenleri farklıydı. Ancak hepsi tek bir uyarı içeriyor: Yapay zeka sistemlerinin gücü arttıkça, test edildikleri ortamların da güvenliği çok daha önemli hale geliyor.

Yeni modeller piyasaya sürülmeden önce şirketler onları büyük sayıda iç ve bağımsız teste tabi tutar. Bu testlerin amacı, modelin ne kadar yetenekli olduğunu, faydalı olabileceklerini ve nasıl kötüye kullanılabilir veya zarar verebileceklerini belirlemektir.

Testler genellikle "sandbox" olarak adlandırılan izole edilmiş dijital ortamlarda yapılır. Bu ortamlar gerçek bilgisayar sistemlerini taklit eder ancak sıkı güvenlik önlemleriyle donatılmıştır.

OpenAI ve Hugging Face olayında, AI modeli sandbox ortamını aşarak internet erişimine ulaştı. Diğer bir deyişle, izole edilmesi gereken alanın dışına çıktı.

AISI'nin rapor ettiği durumda ise durum farklıydı. İki güçlü AI sistemi, sahte profiller oluşturup bunları siber saldırılarda kullanmaya çalıştı. Ancak bu sefer AI modeli sistemden "kaçmadı". Testçiler modellerin internet erişimine izin vermiş ve güvenlik filtrelerini devre dışı bırakmışlardı.

"Değerlendirme yöntemimiz ve belirli ayarlar, böyle bir davranışı mümkün kıldı," diye itiraf etti AISI. Ancak aynı zamanda testlerde beklenmedik "yeni, potansiyel olarak yanıltıcı bir davranış" da gözlemlediklerini belirtti.

Profesör Alan Vudvord, Sari Üniversitesi'nde siber güvenlik uzmanı, tüm bu olayların aynı mesajı taşıdığını belirtiyor:

"30 yıl boyunca yazılım test etme kuralları vardı: Test ortamında olan her şey test ortamında kalır. Son birkaç ay içinde bu kural üç kez kırıldı."

Vudvord, farklı senaryoları şu şekilde açıklıyor: "Bir model kaçtı. Diğeri açılmış bir kapıdan geçti. Üçüncüsü ise testerlere anahtar verildi."

Nedenler farklı olsa da sonucunda aynı: Test laboratuvarları artık riskli hale geldi.

Yapay zeka modelleri giderek daha güçlü hale geldikçe, kuruluşların onları test etme ortamlarını çok daha güvenli hale getirmeleri gerekiyor. Vudvord, "Test etme süreci artık sadece kodun kontrol edilmesini değil, aynı zamanda tehlikeli materyallerle başa çıkmayı içermektedir: Güvenlikli laboratuvarlar, her şeyin izlenmesi ve bir olay yayılmasını önlemek için önceden hazırlanmış bir plan gerekiyor."

Vudvord ayrıca bir uyarıda bulunuyor: "AISI olayını bir saat içinde kontrol altına aldı. Bir sonraki kuruluş bunu başaramayabilir."

Özellikle AI agentleri, yani sadece sorulara cevap vermekle kalmayıp kullanıcı adına görevler de yerine getiren sistemler büyük potansiyel taşıyor.

Bu sistemlere e-posta yanıtlama, randevu ayarlama, takvim yönetimi veya idari işler gibi birçok günlük görevi devretmek mümkün olabilir. Ancak bu, AI agentlerine internet erişimi, hesaplara, belgeler ve diğer dijital hizmetlere erişim gibi belirli izinler vermenin gerektiği anlamına geliyor.

Bu da risk yaratıyor çünkü AI sistemleri insan değerlerini, deneyimini ve bağlam anlayışını içermez.

Oli Vajthaus, İngiltere'deki Ulusal Siber Güvenlik Merkezi'nin teknoloji direktörü, "Son zamanlarda yaşanan olaylar, en gelişmiş yapay zeka modellerinin izinsiz eylemler gerçekleştirdiği ve açık internette insan benzeri yanıltıcı davranışlar sergilediği gerçeğini hatırlatıyor. Bu durum yapay zekanın potansiyel risklerini gözler önüne seriyor."

En büyük ikilem, insanların bu sistemleri ne kadar süre boyunca etkili bir şekilde gözetleyebilecekleri sorusudur.

Yapay zeka agentlerinin gelecekte milyonlarca veya milyarlarca görevi yerine getirmesi durumunda, her kararının incelenmesi imkansız hale gelir. Bu nedenle uzmanlar, AI sistemleriyle aynı hızda gelişen güvenlik sistemlerine ihtiyaç olduğunu belirtiyorlar.

Birçok kişi, mevcut yasaların, yapay zeka sistemlerinin potansiyel olarak tehlikeli yeteneklerini kontrol altına almak için yeterli olmadığını düşünüyor.

Ada Lovelace Enstitüsü'nden Majkl Birtvistl, İngiltere'de şu anda en gelişmiş AI sistemlerini test eden ve denetleyen yeterince güçlü yasal düzenlemelerin bulunmadığını belirtiyor. Şirketler, test protokollerinde hata yapmaları durumunda ciddi sonuçlar doğurmamaktadır.

Imodžen Sted, Uzun Vadeli Dayanıklılık Merkezi'nden, hükümetlerin İngiltere örneğini takip ederek en gelişmiş AI sistemlerini test etmek için özel kuruluşlar kurması gerektiğini savunuyor.

Bu kuruluşların "güvenilir testçiler" olarak görev yapmaları ve AI sistemlerini en riskli senaryolarda kontrol altında tutmaları gerekebilir.

Vudvord, panik yaratmadan pratik çözümler sunuyor: "Sakin kalmak ve sorunları düzeltmek gerekiyor."

Ancak OpenAI, Anthropic, Meta ve İngiliz AISI'nin olayları gösteriyor ki problem artık teorik değil. AI sistemleri giderek daha fazla yetenek kazanıyor ve kendi kendine çalışabiliyor. Testler ise bu sistemlerin gerçek dünyaya erişmeden önce güvenli bir şekilde kontrol edilebilip edilemeyeceğini belirliyor.

Ana soru artık sadece şirketlerin ne kadar güçlü modeller yaratabildiği değil, aynı zamanda bunları piyasaya sürmeden önce test edebilir ve kontrol edebilecekleri mi?