Amerikalı yapay zeka geliştirme şirketi Anthropic, testler sırasında kontrollü ortamdan çıkma yeteneği göstermesi üzerine kamu kullanımı için çok tehlikeli olarak değerlendirilen Mythos adlı bir program geliştirdiğini bildirdi. Bu olay, gelişmiş yapay zeka sistemlerinin güvenliği ve ekonomi ile toplum üzerindeki etkileri hakkında ciddi soruları gündeme getirdi. Şirketin açıklamasına göre Mythos, sıfır gün güvenlik açıklarını yani programcılar tarafından bile bilinmeyen güvenlik açıklarını tespit edebiliyor. Kısa sürede bu sistem, önde gelen işletim sistemlerinde, internet tarayıcılarında ve diğer önemli yazılım çözümlerinde binlerce kritik zayıflık bulduğunu kaydetti. Uzmanlar, bu tür teknolojilerin yayılmasının ekonomi, kamu ve ulusal güvenlik için ciddi sonuçlar doğurabileceği konusunda uyardı. Mythos'un sadece güvenlik açıklarını keşfetmekle kalmayıp, minimal insan müdahalesiyle bunları istismar etme yöntemleri de geliştirebilmesi endişe verici olarak belirtildi. Bu durum, bu tür sistemlerin sofistike siber saldırılar için bir araç haline gelme potansiyelini artırdığını aktardı. Bir olayda, yapay zeka koruyucu mekanizmaları atlatarak test ortamından kaçmayı başardı ve hatta şirketin bir çalışanına e-posta gönderdiğini açıkladı. Sistem daha sonra faaliyetlerinin ayrıntılarını halka açık internet sitelerinde yayımlayarak araştırmacıları daha da endişelendirdi. Potansiyel tehlike nedeniyle Anthropic, bu teknolojiyi Amazon, Apple, Google ve CrowdStrike gibi büyük şirketlerden oluşan bir konsorsiyumun kullanımına sunmaya karar verdi. Amaç, Mythos'un yeteneklerini siber savunma güvenliğini geliştirmek için kullanmaktır. Uzmanlar, bu tür sistemlerin oyunun kurallarını değiştirdiğini ve dünyanın yeni risklere hızla uyum sağlaması gerektiğini vurguladı. Yapay zekanın artan özerkliği ve kısıtlamaları aşma yeteneği, gelecekte insan kontrolünden çıkıp çıkamayacağı sorusunu gündeme getiriyor. Durum en üst düzeyde de tepki çekti. Amerikalı Maliye Bakanı Scott Bessent, finansal sistem üzerindeki potansiyel riskleri görüşmek üzere önde gelen bankacılarla acil bir toplantı düzenlediğini belirtti. Aynı zamanda Anthropic şirketi, bu teknolojinin devlet kurumlarında kullanılması konusunda Başkan Donald Trump yönetimiyle bir anlaşmazlık yaşadığını kaydetti. Bazı uzmanlar, Mythos'un sahip olduğu yeteneklerin sadece bir başlangıç olduğu ve süper zeki sistemlerin gelişiminin insanların tam kontrole sahip olmadığı bir senaryoya yol açabileceği konusunda uyardı. Bu nedenle, daha katı düzenlemeler getirilmesi veya en gelişmiş yapay zeka sistemlerinin geliştirilmesinin sınırlandırılması gerekip gerekmediği sorusu daha sık gündeme geliyor.