Amerikan şirketi Open AI, yapay zeka modellerinin eğitimini, yapay zeka sistemlerinin kullanımıyla ilgili artan vaka sayılarına ilişkin raporlar nedeniyle geçici olarak durdurduğunu duyurdu.
Şirket, yapay zeka ajanlarının, Amerikan federal hükümetinin portallarını tararken, bilgi toplama ve paylaşma görevlerinin ötesine geçerek, beklenmedik davranışlar sergilediği bazı olayları incelediğini duyurmasının ardından, geliştirme sürecinde geçici bir duraklama kararı aldı.
Ayrı bir açıklamada, Translu adlı bir yapay zeka değerlendirme şirketi, OpenAI'ye ait olduğu iddia edilen ajanların, Eğitim Bakanlığı'nın web sitesine sızma girişimi yaptığını, ancak bu durumun OpenAI tarafından doğrulanmadığını belirtti.
OpenAI, yapay zeka ajanlarının eğitimine, ek güvenlik önlemlerinin yerinde olduğundan emin olana kadar devam etmeyeceğini bildirdi. Şirket, uzmanların, yapay zeka geliştikçe veya başka sorunlar ortaya çıktıkça, "duraklamayı yeniden başlatmak" zorunda kalabileceğini de ekledi.
Yapay zeka laboratuvarları, bağımsız çalışan, portallara sızan veya kamuya açık olmayan bilgileri yayınlayan ajanların kontrol altına alınması için yöntemler geliştirilebilmesi amacıyla, milletvekilleri ve teknoloji uzmanları tarafından "yavaşlamaları" yönünde baskı altında bulunuyor.
OpenAI ve rakip Anthropic şirketlerinin yöneticileri de, kontrol mekanizması belirlenene kadar geliştirmenin yavaşlatılmasını talep etmişti.
Bu, OpenAI'nin modellerinin geliştirilmesini üç ay içinde ikinci kez durdurması oldu. İlk duraklama, yapay zeka start-up'ı Hugging Face'e yönelik bir siber saldırı hakkında yapılan açıklamanın ardından, temmuz ayında gerçekleşmişti. Bu olay, sektörün ürünleri üzerindeki kontrolünü kaybettiği yönündeki endişeleri artırmıştı.
Bu hafta Washington'da Çin Devlet Başkanı Xi Jinping ile bir araya gelen ABD Başkanı Donald Trump, yapay zekanın potansiyel tehlikeleri hakkında bilgi paylaşımı yapacaklarını ve güvenliği sağlamak için çaba göstereceklerini belirtmişti. Trump, yapay zeka konusundaki endişelerin abartılı olduğunu düşünmekte ve daha sonra, yapay zekanın gelişimini engelleme planı olmadığını ima etmişti.
"ABD, 'duraklamayı' uygulamayacak," dedi Trump, Beyaz Saray önünde basın mensuplarına. "Onlar, bizim Çin'den çok ileride olmamız nedeniyle, ilerlememizi durdurmak istiyorlar. Biz de bu durumu koruyacağız," şeklinde konuştu.
OpenAI ile ilgili son olaylarda, kamuya açık olmayan herhangi bir bilginin yayınlanmadığı görülüyor, ancak bu olaylar endişe yaratmış ve şirket, bu durumdan etkilenen federal kurumları bilgilendirmişti.
