Geçtiğimiz hafta, yapay zekanın (YZ) gelişimiyle ilgili endişeler zirveye ulaşırken, Anthropic araştırmacısının şirketten ayrılıp YZ'nin "bu yüzyılın sonuna kadar" insanları yenebileceğini söylemesiyle bu endişeler daha da arttı. Bu durum, Anthropic ve OpenAI gibi şirketlerin çalışanlarını da dahil ederek sektörü kasıp kavurdu.
YZ şirketlerinin yöneticileri, Altman ve Musk gibi isimler de dahil olmak üzere, bir araya gelerek YZ'nin geliştirilmesinin hızını yavaşlatma çağrısında bulundular.
Bu gelişmelerle birlikte yapay zeka ile ilgili şirketlerin hisseleri pazartesi günü düştü. ABD Başkanı Donald Trump ise geçen hafta bu endişelere karşı çıktı ve YZ alanındaki Amerika Birleşik Devletleri'nin hakimiyetini korumak için yavaşlamanın gerekli olmadığını söyledi.
"En gelişmiş yapay zeka sistemleri için belirli güvenlik gereksinimlerini belirleyen federal bir çerçeve hoş karşılanabilir," diye yazdı Altman, X (eski Twitter) platformunda yaptığı açıklamada. "Amerika Birleşik Devletleri'nin YZ alanındaki rekabet gücünü korumak için hiçbir baskı, düşüncesizliğe yol açmamalı."
Altman, yapay zekanın iki şekilde kötüye gidebileceğini belirterek, insanların "YZ'nin geleceğine kontrolü kaybetme olasılığı" ve bir kişinin veya şirketin aşırı güç sahibi olma riski gibi tehditleri vurguladı.
Bu arada, Washington'daki yasama organları, koruma önlemleri alınması çağrılarına yanıt vermek için acele ediyorlar. Tüm bunlar Anthropic ve OpenAI'nin tarihe geçecek ilk halka açık teklif (IPO) hazırlıklarını yaparken oluyor. Altman, Fortune dergisine verdiği bir röportajda OpenAI'nin 2026 yılına kadar borsaya çıkma olasılığını dışladı.
YZ güvenliğiyle ilgili birçok endişe, modellerin kendi performanslarını geliştirme yeteneğine sahip olma potansiyeli olan rekursif öz-gelişim (RSI) konusunda yoğunlaşmış durumda.
"Bu yılın başından beri YZ, özellikle yapay zekanın bir sonraki neslini oluşturma kapasitesi nedeniyle dramatik bir şekilde hızlanıyor," dedi Amodei. "Eğer kontrolümüz altında tutulmazsa, bu ilerleme bizim anlayışımız ve kontrolümüzü aşabilir, bu yüzden bu sistemlerin geliştirilmesi çok dikkatli yapılmalı."
Amodei, en gelişmiş YZ sistemlerini geliştiren şirketlerin dış denetimlere erişim sağlamaları, ortak güvenlik standartları oluşturmaları, kontrolsüz YZ ilerlemesini sınırlamaları ve uluslararası çabaları koordine etmeleri gibi üç aşamalı bir plan önerdi.
Altman, Amodei'nin en gelişmiş sistemlerin gelişim hızını dengeleme çağrısına katıldığını söyledi ve bağımsız denetimlere erişim sağlamak için OpenAI'nin de aynı adımların atılacağını belirtti.
"En gelişmiş YZ sistemleri için risk yönetimi kuralları, faydalarının en üst düzeye çıkarılmasını sağlamak çok iyi bir fikir ve (bağımsız denetçiler) fikri harika," dedi Altman. "Ancak 'durdurmak' anlamına gelmiyor. Gelişme hızlı olacak ve böyle kalacak."
"Gelişim hızını dengelemek değerli olacaktır; Amerika Birleşik Devletleri'nin rekabet gücü için hiçbir baskı düşüncesizliğe yol açmamalı veya YZ sistemlerinin yeteneklerinin insan değerleriyle uyum sağlama ve kontrol altına alınmasıyla yarışmasına izin vermemelidir."
Altman, "En önemli yardımı bizim hükümetimizden beklememiz gereken şey uluslararası koordinasyon. Ama önce kendimiz yapabileceğimiz her şeyi yapmalıyız."
YZ güvenliği için ölçütlerin uygulanması ve Çin gibi rekabetçi YZ şirketleriyle geliştirme hızını yavaşlatma konusunda anlaşma sağlamak büyük bir zorluk olabilir.
ABD ve Çin hala YZ alanında üstünlük mücadelesi veriyor, çünkü Çin'in modelleri daha ileri seviyeye ulaşırken küresel kullanım alanı da artıyor.
Amodei geçen hafta yaptığı açıklamada, önerisinin en önemli sorununun, rakip ülkelerin aynı şeyi yapmayı reddetmeleri durumunda ne olacağı olduğunu söyledi. "Uzun vadede YZ gelişim hızını sınırlamak için birlikte çalışmalıyız," dedi Amodei CBS News'ün "Sunday Morning" programına.
"Bu çok zor olacak çünkü rekabet ve askeri üstünlük sağlayacak bir avantaj elde etme arzusu çok büyük. Dürüst olmak gerekirse, bunun mümkün olup olmadığını bilmiyorum ama denemeliyiz."
Anthropic CEO'su Amodei'nin açıklamaları Çin'de eleştiriler aldı ve resmi gazete "Global Times" Pazartesi günü "Amodei'nin önerileri, Çin'in YZ alanındaki gerçek gelişimini bir tehdit olarak sunuyor ve Çin-ABD arasındaki bu alandaki çatışmayı daha da artırıyor," diye yazdı.
Çin Dışişleri Bakanlığı Pazartesi günü yaptığı açıklamada, teknoloji şirketlerinin yöneticilerinin yorumlarının " korku yayma çabası" olduğunu belirtti.
