Yapay zeka alanının önde gelen şirketlerinden Anthropic, insanların yapay zeka sistemleri üzerindeki kontrolünü çok daha erken bir zamanda kaybedebileceği konusunda uyarıda bulundu. Şirket, yapay zekanın kendi programlama kodunun büyük bir kısmını bağımsız olarak yazmaya başladığını ve halefini hazırladığını belirtti. Şirket, Claude'un bugün kendi programlama kodunun yüzde 80'inden fazlasını bağımsız olarak yazdığını, geçen yılın başında ise bu oranın yüzde 10'dan az olduğunu bildirdi. Anthropic'in tahminlerine göre, Claude'un ürettiği kodun kalitesi insan programcıların seviyesine yaklaşmış durumda ve önümüzdeki yıl onları geride bırakabilir. Şirket araştırmacıları Marina Favaro ve Jack Clark'ın yayınladığı blog yazısında, bu gelişmenin tamamen bağımsız olarak bir sonraki versiyonunu tasarlayıp geliştirebilecek bir sistemin oluşturulmasına yol açtığı vurgulandı. Araştırmacılar, böyle bir olasılığın bilim, tıp ve teknoloji gibi alanlarda büyük faydalar sağlayabileceğini, ancak aynı zamanda insanların yapay zeka gelişimini denetleme yeteneğini kaybetme gibi ciddi bir risk taşıdığını kaydetti. Şimdiye kadar yapay zeka teknolojisinin ilerlemesi tamamen insan mühendislerine ve programcılarına bağlıydı. Ancak Anthropic, teknolojik ilerlemeyi hızlandırmak amacıyla sistemlerinin gelişimini giderek daha fazla yapay zekanın kendisine bıraktığını açıkladı. Şirket, bunun 'özyinelemeli kendini geliştirme' olarak adlandırılan, yapay zeka sisteminin insan müdahalesi olmaksızın kendini geliştirdiği bir sürece yol açabileceği konusunda uyardı. Bu nedenle Anthropic, toplumun olası sonuçlara hazırlanmak için daha fazla zaman kazanması amacıyla bu teknolojinin gelişimini yavaşlatmanın faydalı olabileceğini belirtti. Ancak böyle bir adım geniş kapsamlı uluslararası bir anlaşma gerektiriyor. Şirketin değerlendirmesine göre, farklı ülkelerden önde gelen yapay zeka laboratuvarlarının aynı anda gelişim hızını yavaşlatmayı kabul etmeleri ve herkesin anlaşmaya uyup uymadığını kontrol etmenin bir yolunun olması gerekiyor. Açıklamada, 'Bu imkansız değil çünkü dünya diğer karmaşık teknolojiler için kontrol sistemleri kurdu, ancak bunların inşası on yıllar sürdü. Şimdi o kadar zamanımız yok' ifadeleri aktarıldı. Anthropic, önümüzdeki aylarda siyasetçiler, araştırmacılar ve diğer şirketlerle işbirliği yaparak kendini geliştiren yapay zeka sistemlerinin gelişimine hazırlanacağını açıkladı. Bu, yapay zeka teknolojisinin gelişimini yavaşlatma yönündeki ilk çağrı değil. 2023 yılında teknoloji endüstrisinden binlerce uzman, ChatGPT'nin ortaya çıkışının ardından en gelişmiş yapay zeka modellerinin geliştirilmesinde altı aylık bir ara verilmesini talep eden açık bir mektup imzalamış, kontrolsüz gelişimin insanların yapay zeka üzerindeki kontrolünü kaybetmesine yol açabileceği konusunda uyarıda bulunmuştu. Ancak böyle bir ara hiçbir zaman gerçekleşmedi.