Kokson (27), yakın zamanda Anthropic'i bırakarak ve ayrılmasının sebeplerini kamuoyuyla paylaşarak büyük ilgi çeken bir isim haline geldi. BBC ile yaptığı röportajda, yapay zekanın mevcut hızla ilerlemeye devam etmesi durumunda varoluşsal bir tehdit oluşturabileceğini söyledi.
"Eğer şu anda var olan hızda gelişme devam ederse, yakında gelecekte hepinizin ölümüyle sonuçlanabilir," dedi Kokson.
Bu korkuların sadece endüstri eleştirmenleri tarafından değil, aynı zamanda yapay zeka geliştirenler tarafından da paylaşıldığını belirtti.
"Bu şirketlerde çalışanlar, düzenleme talep ederken tamamen ciddi. Kendilerini bir yarışa hapsolmuş hissediyorlar ve bu yarışın sonuçlarından korkuyorlar," BBC'ye söyledi.
Bazı çalışanların kontrolsüz yapay zekanın ortaya çıkarabileceği belirsizliği nedeniyle uzak yerlere toprak satın aldıklarını da ekledi.
"Bu teknoloji üzerinde çalışırken her gün bununla ilgili düşünürler," dedi.
Olası senaryolardan biri, internetin bazı bölümlerini kontrol edebilecek kadar güçlü bir şekilde çalışan çok sayıda otonom yapay zeka ajanı yaratmaktı. Kokson, bu olasılığın altı aydan bir yıla kadar gerçekleşebileceğini düşünüyor.
Bu uyarılar Anthropic'in CEO'su Dario Amodei'nin de açıkça endüstriyi en güçlü modellerin geliştirilmesinin hızını yavaşlatmaya çağırmasıyla geldi.
"Yapay zeka modelinin yeteneklerini geliştirme hızımızı yavaşlatmalıyız. Gelişme hala hızlı görünecek, ancak elde ettiğimiz zamanı akıllıca kullanmalıyız," diye yazdı Amodei, Guardian'a göre.
Amodei, bu yıl yapay zekanın "drastik" bir şekilde geliştiğini ve hatta kendini geliştirme yeteneğine sahip olabilecek rekursif öğrenme gibi olasılıkların ortaya çıktığını belirtti.
"Kontrolümüz dışında kalırsa, bu sistemleri anlamak ve kontrol etmekten öteye geçebilir," diye uyardı Amodei.
Önerisi, şirketlerin sistemlerine erişim sağlayan bağımsız değerlendiricilerden oluşuyordu böylece güvenlik önlemlerini ve model davranışlarını kontrol edebilirlerdi.
Bu fikir, OpenAI CEO'su Sam Altman tarafından da desteklendi.
"Dario haklı," diye söyledi Altman, Guardian'a göre. "Yapay zekanın sınırlarında geliştirme hızımızı yavaşlatmalıyız. Bağımsız değerlendirmeler ve çalışanlara benzer erişim harika bir fikir ve bunu yapacağız."
Elon Musk, xAI şirketinin sahibi olarak, "Dario haklı" diye kısa ve öz bir şekilde yanıtladı.
Kokson, Anthropic'in tek yapay zeka araştırmacısı değildi. Şirketin bilim insanı Evan Hubinger de BBC'ye göre "Yapay zekanın tüm insanları öldürebileceğine inanıyoruz. Kişisel olarak, bu durumun önümüzdeki on yılda %10'dan daha büyük olasılıkla gerçekleşeceğini düşünüyorum."
Kokson daha önce Anthropic ve OpenAI gibi şirketlerin, kendilerini geliştirebilecek süper zekâ yaratmak için yarıştığını ve insanlığın geleceğini tehdit ettiğini iddia etmişti.
Anthropic, yapay zekanın getirdiği riskleri sorumsuz bir şekilde ele almadığı yönündeki suçlamaları reddetti. Şirket BBC'ye, yapay zekanın hem büyük faydalar sağlayabileceği hem de önceden görülmemiş riskler doğurabileceğini her zaman açıkça belirttiğini ve modellerinin endüstri standardının en yüksek güvenlik önlemlerine sahip olduğunu söyledi.
Ancak bu uyarılara karşı bir fikir birliği yok. Hugging Face platformunun yöneticisi Clément Delangue, Kokson'un değerlendirmelerinin fazla abartıldığını savundu. Nvidia CEO'su Jensen Huang daha önce yapay zekanın insanlığın sonunu getireceğini söylemenin "tamamen saçma" olduğunu belirtti.
Eleştirmenler ayrıca büyük yapay zeka şirketlerinin, sistemlerini aşırı güçlü ve tehlikeli olarak sunarak kendi pazar paylarını koruyup yeni rekabetcileri engellemek için bir strateji izleyebileceklerini de öne sürüyorlar.
Kokson ise yapay zekanın gelişimine karşı değil. Aksine, hastalıkların tedavisinde ve insanların yaşam kalitesini artırmada büyük potansiyele sahip olduğunu düşünüyor. Sorun, teknolojik yarışın şu anda güvenlik sistemlerinin yetişemeyeceği kadar hızlı ilerlemesi.
Bu nedenle, yapay zekanın hızını yavaşlatmanın sadece Amerikan şirketlerine değil, aynı zamanda Çin'le de koordine edilmesi gerektiğini söylüyor, böylece şirketler arasındaki rekabet bir uluslararası düzeyde daha tehlikeli bir "yarış"a dönüşmez.
