Da li je yapay zeka već izmakla kontrol, hoće li za neko kaç yıl insanlığı yok etmek için kullanılmak, yapay zekanın gelişimini yavaşlatmalı ve ek olarak düzenlemeli miyiz, bağımsız bir gözetim geliştirmeli mi yoksa bunların hepsi pazarlama taktikleri mi? Bu sorulara cevap vermek zor. Özellikle bilim ve iş, yani karlılık bir araya geldiğinde. Yapay zeka alanında çalışan bilim insanı Džejkob Kokson'un Antropik şirketinden ayrılışının ardından yaptığı açıklama bu tartışmayı daha da kızıştırdı.
Yapay zekanın gelişimi hızlanıyorsa, yakın gelecekte tüm insanların yok olma olasılığı yüksek - BBC'ye Kokson söyledi.
Bu endişe, sektördeki güvenlik kaygıları artmasıyla birlikte ortaya çıktı, bunlara Koksonun eski patronu Antropik direktörü Darija Amodei'nin de dahil olduğu açıklamalar da dahil.
Aynı zamanda, OpenAI'den Sem Altman ve xAI'dan Elon Mask gibi iki rakip yapay zeka şirketi lideri de Amodei'nin yavaşlatma ve düzenleme önerisine katıldıklarını belirtti. Ayrıca, bağımsız bir gözetim geliştirme çağrısında bulundular.
Amodei, teknoloji gelişimi hızlı olsa da, bununla ilişkili riskler ciddi olduğunu ve şirketlere ve hükümetlere bu risklerle başa çıkmak için yeterli zaman verilmesi gerektiğini söyledi.
26 yaşındaki Kokson, OpenAI'de çalıştıktan sonra Antropik'e katıldı ve yavaşlatma önerisine destek çıktı, ancak bunu Çin ile koordine ederek uluslararası bir yarışın önüne geçmek gerektiğini vurguladı.
- Bu şirketlerdeki insanlar, düzenleme talep ettiklerinde ciddi oldukları için bu yarışın sonuçlarını korkutucu buldukları için - Kokson BBC'ye söyledi.
Diğer yandan, sektörün bazı kişileri yapay zekanın tehlikeleri hakkındaki yorumların medyanın dikkatini çekmek için tasarlanmış olabileceğini düşünüyor. Bazıları Antropik'in rekabetçi bir konuma geçmek ve OpenAI ile ikili bir durumda kalmak amacıyla daha sıkı düzenlemeleri teşvik etmeye çalıştığını iddia ediyor. Bu, şirketin potansiyel olarak rekor kıracak bir başlangıç halka arzına hazırlanıyor olmasıyla bağlantılı olabilir.
Kokson'un görüşlerine AI platformu Hugging Face CEO'su Kleman Delang da tepki verdi.
- Džejkob'a yapay zekanın insanlığı yok etme riski hakkında sormak, iklim cihazı uzmanlarına iklim değişikliği hakkında sormakla aynı şey - X ağında yazdı.
- Bunu mutlaka ilginç veya yanlış bulmuyorum ama konuyu doğru perspektiften değerlendirmek gerekiyor - dedi.
Amodei'nin makalesini yayınladıktan sonra, Antropik direktörü tarafından önerilen olası çözümlerin bulunmasına yardımcı olmak için teklifte bulundu.
Džensen Huang, Nvidia CEO'su, Kokson'un açıklamalarını yanlış olarak nitelendirdi. Bu konuyu San Francisco'da Goldman Saks tarafından düzenlenen bir yatırımcı ve sektör temsilcilerinin katıldığı konferansta belirtti.
Huang daha önce yapay zekanın insanlığı sona erdireceği fikrinin tamamen saçma olduğunu söylemişti.
Kokson, yapay zekanın geleceğine dair belirli bir optimizm de dile getirdi. BBC'ye konuşurken, bu teknolojide çalışan insanların "pozitif yönleri görmeyi istiyor" ve hastalıkları çözmek ve tüm insanların yaşamlarını iyileştirmek gibi hedeflere odaklanıyorlar" dedi.
Yapay zeka hakkındaki yorumları milyonlarca kez sosyal medyada paylaşıldı ve araştırmacı Evan Hubinger X'te Kokson'a katıldığını belirtti.
- Gerçekten yapay zekanın tüm insanları öldürebileceğine inanıyoruz! - Hubinger söyledi.
Yapay zeka alanındaki önde gelen isimler, OpenAI, Google DeepMind ve Antropik gibi şirketlerin liderleri, bu teknolojinin sunduğu güvenlik tehditlerini yıllardır uyarıyorlar. Son birkaç hafta içinde yeni modellerin kontrol edilemeyecek kadar güçlü yetenekler göstermesiyle bu uyarılar daha da yükseldi.
Antropik, Mythos adlı modelini Nisan ayında halka açık erişime kapatarak kendi test ortamından bağımsız olarak çalışabileceği endişesi nedeniyle bunu yaptı. OpenAI de Astra adlı yeni modeli üzerindeki bazı çalışmaların siber güvenlik kaygıları nedeniyle durdurulduğunu duyurdu.
Antropik ayrıca, yapay zeka teknolojisini biyolojik silahlar ve siber casusluk için kullanmaya çalışan aktörleri bulup engellediğini de açıkladı.
Bu durum, ek kontrol önlemlerinin alınmasını hızlandırabilir. ABD'li sol görüşlü Senatör Berni Sanders tarafından bu ay önerilen Yapay Süper Zeka Yasası, gelişmiş yapay zekanın gelişimini geçici olarak durdurmayı amaçlıyor.
- İnsanların yapay zekaya kontrolünü kaybetme olasılığı yüksek. O zaman ne olur? Kim bilir! Ve bunun felakete yol açabileceği mümkün mü? Evet, olabilir! - Sanders BBC'nin "Njuznajt" programında söyledi.
- Bilim insanları bize bu durumun insanlığa kataklizmik sonuçlar doğurabileceğini söylüyorsa, dur demeden beklemek aptallık olur - ekledi.
Ancak San Francisco konferansında, zenginlik arayışı, artan varoluşsal endişeler ve yapay zekanın gelişimi üzerindeki olası devlet sınırlamalarına karşı korkulara göre daha belirgin görünüyordu.
Bir yatırımcı, şirketin halka arz için gerekli olan S-1 belgesini sunması konusunda heyecanını dile getirdi. Şirketin karlı olup olmadığı sorusu onun için en önemli konu gibiydi.
Her şeyin geri kalanı, hatta insanlığın güvenliği bile, görünüşe göre bir engel değilmiş gibi görünüyor.
