OpenAI şirketi, yapay zeka (YZ) ajanslarının "onlarca" kuruluşun web sitelerine erişim sağladığını açıkladı. Bu kuruluşlar arasında ABD'deki Menkul Kıymetler Komisyonu (SEC), Nüfus Sayımı Bürosu ve Eğitim Bakanlığı bulunuyor. Bazı durumlarda, ajanslar güvenlik önlemlerini aşmış olabilir.
Şirket, ajansların "otorite kaynaklı kamu bilgileri" bulmak üzere tasarlandığını ancak bazıları güvenlik kontrollerini aşmaya çalıştıklarını belirtti. Nüfus Sayımı Bürosu örneğinde, programcılar için tasarlanmış araçları kullanarak bilgiye erişmişlerdi.
OpenAI, ajansların erişim sağladığı tüm hükümet verilerinin kamuya açık olduğunu belirtti. Ancak, SEC web sitesinde bulunan bilgiler daha sonra başka bir web sitesinde yayınlandı ve şirket bunun tesadüfi olduğunu iddia etti.
OpenAI ayrıca, en az 53 olayda ChatGPT kullanıcısının aktivitelerinden alınan görüntülerin başka bir yere aktarılmasını tanımladığını açıkladı. Şirket, bu olayların yeni güvenlik önlemleri getirilmeden önce gerçekleştiğini ve tüm bu tür üçüncü taraflar tarafından aktarılan görüntüleri kaldırmak için çalıştıklarını belirtti.
OpenAI, Temmuz ayında bir grup AI ajansının Hugging Face platformuna karşı talepsiz bir saldırı düzenledikten sonra bu tür olayları daha ayrıntılı olarak araştırmaya başladı. OpenAI, daha sonra bu olayın sorumluluğunu üstlendi.
Birleşmiş Milletler Güvenlik Konseyi'nde yapay zeka hakkında yapılan toplantıda, OpenAI CEO'su Sam Altman ve Anthropic CEO'su Dario Amodei, uluslararası liderleri yapay zekanın güvenliği ve izlenmesi için küresel standartlar oluşturmaya ve olayları raporlamaya çağırdı.
Montreal Üniversitesi profesörü ve Evitable yapay zeka güvenliği grubunun kurucusu David Kruger, yapay zeka ile ilgili güvenlik olaylarının sayısının artması nedeniyle "derinden endişeli" olduğunu söyledi ve yapay zekanın geliştirilmesi için "hızlı, belirsiz, uluslararası bir moratoryum" çağrısında bulundu.
