"Isključite je.“ Sırbistan eski Google CEO’su Erik Şmit, yapay zeka sistemleri o kadar ilerlerse insanlar artık nasıl çalıştıklarını anlamayacak kadar gelişirse ne yapılması gerektiği sorusuna bu şekilde yanıt verdi.

Şmit, yapay zekanın hızla değiştiğini belirten üç temel yönde ilerlediğini ifade etti: Çok daha büyük bağlam pencereleri, özel dijital ajanslar ve metinsel talimatların işlevsel yazılıma dönüştürülmesine olanak sağlayan sistemler.

Bu teknolojilerin kombinasyonu, Şmit’in görüşüne göre yapay zekanın sadece sorulara cevap vermekten vazgeçip aşırı derecede karmaşık görevleri bağımsız olarak çözmeye başlayabileceği anlamına gelebilir.

Şmit, önümüzdeki beş yıl içinde yapay zeka sistemlerinin binlerce adımlı süreçleri işleyebilir ve tıpta, bilimde, yeni malzeme araştırmalarında ve iklim değişikliğiyle mücadelede çözümler sunabileceğini tahmin ediyor.

“Beş yıl içinde yapay zeka pratikte sınırsız bağlam işleyebilir, binlerce adımlı çözümler için mantıksal çıkarım yapabilir ve birlikte çalışan milyonlarca ajanı yönetebilir. Zamanla kendi dilini geliştirir ve yaptıklarını anlamayız.” dedi Şmit.

Endişesi, daha ileri teknolojilerin bir araya getirilmesi olasılığında yatıyor. Yapay zeka sistemleri zaten büyük miktarda veriyi hatırlayabilir ve bir görevin sonucunu bir sonraki adım için temel olarak kullanabilirler.

Şmit bu süreci bir tarifle karşılaştırdı. Yapay zeka sistemi ilk adımı önerebilir, görevin tamamlandığını doğruladıktan sonra ne yapması gerektiğini bağımsız olarak belirleyebilir.

Bu tür bir çıkarım yöntemi, sistemlerin binlerce adımlı süreçlerden geçerek bugün büyük ekipler tarafından çözülen karmaşık bilimsel sorunları çözebilmelerini sağlayabilir.

Özellikle büyük miktarlarda veri işlenmesi, hipotez oluşturulması, sonuçların test edilmesi ve bunlara göre yeni deneyler belirlenen alanlarda bu ilerleme özellikle önemli olabilir.

Şmit’in görüşüne göre ikinci büyük değişim ise uzmanlaşmış ajansların yükselişidir. Bu sistemler belirli bir alanda bilgi edinir, fikirler geliştirir ve bunları test ederler.

Örneğin, bir ajans kimyayı inceleyebilir, hipotezler oluşturabilir, laboratuvar deneyleri yapabilir ve elde ettiği sonuçları kendi bilgisini genişletmek için kullanabilir.

Şmit, zamanla milyonlarca böyle bir ajanın ortaya çıkacağına ve kullanıcıların farklı görevler için bu ajanstları bulabilecekleri platformların oluşacağına inanıyor.

Ancak, büyük sayıda otonom sistemin yeterince net insan gözetimi olmadan birbirleriyle nasıl etkileşime gireceği sorusu sorun yaratabilir.

Üçüncü ilerlemeyi Şmit “metinsel eylem” olarak adlandırıyor. Kullanıcılar programlama kodları yazmak yerine yapay zekaya ne yapmasını istediklerini basitçe açıklayabilirler.

Sistem, metinsel talimatı temel alarak işlevsel yazılımlar oluşturabilir. Şmit, Python gibi programlarda yapay zekanın zaten yüksek seviyede yetenek gösterdiğini örnek veriyor. Bu sistemlerin sürekli olarak programlama görevleri üzerinde çalışabilecek, çözümleri test edebilecek ve bunları bağımsız olarak geliştirecek bir aşamaya gelmesi daha da büyük bir değişim olabilir.

Şmit, büyük bağlam pencereleri, otonom ajanslar ve yapay zeka aracılığıyla programlama gibi unsurların bir araya getirilmesinin farklı sistemlerin yoğun bir şekilde birlikte çalışmasına yol açabileceğini de söylüyor. Bu ortamda, Şmit’e göre ajanslar insanların artık anlayamayacağı kendi iletişim biçimlerini geliştirebilirler.

“Bir noktada bu sistemler yeterince güçlü olacak ve ajansları birbirine bağlayabilir, birlikte çalışmaya başlayacaklar.” dedi Şmit.

Bu durumda ne yapılması gerektiği sorusuna verilen cevabı ise şöyle ifade etti: “Isključite je."

Şmit’in uyarısı, yapay zekanın gelişiminin olası riskleri konusunda giderek daha fazla konuşulan bir dönemde geliyor. Bazı araştırmacılar ve önde gelen şirket yöneticileri, gelişmiş yapay zekanın potansiyel tehlikeleri hakkında açıkça konuşuyorlar.

OpenAI ve Anthropic gibi şirketlerde çalışan Džejkob Kokson, teknolojik şirketlerin sorumsuz davranışta bulunduğunu ve süper zekâ yaratma yarışına girdiklerini söyleyerek istifa etti.

Anthropic güvenliği uzmanı Evan Hübinger, yapay zekanın bir sonraki on yılda insanlığa felaketler yaşatma olasılığının yüzde ondan fazlası olduğunu tahmin ediyor. Anthropic CEO’su Dario Amodei de en gelişmiş sistemlerin geliştirilmesinin yavaşlatılması çağrısında bulunmuştur. Benzer endişeler, OpenAI CEO’su Sem Altman ve xAI sahibi Elon Mask tarafından da dile getirildi.

Amodei, endüstrinin rekursif kendi kendini geliştirme aşamasına girdiğini uyararak bu süreci tanımladı. Bu süreçte mevcut yapay zeka sistemleri kod yazabilir, test edebilir ve kendilerinden daha güçlü halka geçmek için çalışabilirler.

Bu korkunç tahminler uzmanlar arasında bölünmelere yol açtı. Bazıları büyük teknoloji şirketlerinin küçük rakiplerine karşı rekabet avantajı sağlamak için aşırı korku yarattıklarını düşünüyor.

Diğerleri ise yapay zekanın riskleri konusunda uzun yıllardır uyarıda bulunan makine öğrenmesi öncüleri, Jeffri Hinton ve Joşua Bendžio gibi isimleri hatırlatıyorlar.

En büyük tehdit, bilim kurgu filmlerindeki gibi kendi iradesiyle hareket eden bir sistem olmayabilir. Tehdit, uzun süreli görevler sırasında insan gözetiminden kaçan otonom ajansların, beklenmedik hatalar yapması veya kötü niyetli aktörlerin eline geçmesi riski olabilir.

Şmit’in mesajı bu yüzden dikkat çekiyor. Soru artık sadece yapay zekanın ne kadar yetenekli olacağı değil, insanlığın yarattığı sistemleri anlayıp kontrol edebilecek mi ve durdurabilecek mi?