ABD'deki yapay zeka geliştirme şirketleri şu anda her durumda tehlikeli bir şekilde davranan sistemlerini bildirmek zorunda değiller. Bir yapay zeka ajanı insan kontrolünü aşmaya veya izin verilen erişimi aşarsa ve olay mevcut düzenlemeler tarafından bildirilmesi gereken koşulları karşılamazsa, halka bu konuda bilgi verilmeyebilir.
Bu nedenle, şirketlerden böyle olayları bildirmeleri ve zararın önlenmesi için hangi önlemleri aldıklarını göstermeleri gerektiğini talep eden yasal düzenlemeler öneriliyor, Rojters'e göre.
Yapay zeka sistemlerinin testleri sırasında meydana gelen olaylar nedeniyle tartışma önem kazanmıştır.
OpenAI, otonom ajanslarının Hugging Face şirketinin altyapısına erişmeyi başardığını açıkladı. Anthropic ise Claude modellerinin üç şirketin sistemlerine izinsiz erişim sağladığını belirtti.
Bu durumlar, bir şirket riski gösteren davranışları ne zaman bildirmek zorunda olduğunu ortaya koyuyor, hatta veriler çalınmadığı veya herhangi bir zarar görmediği durumlarda bile.
Bazı mevcut yasal düzenlemeler yapay zeka ile ilgili olayları kapsayabilir. Borsada işlem gören şirketlerin önemli yatırımcılar için büyük önem taşıyan siber saldırıları bildirmek zorunda olduğu belirtiliyor.
Amerikan Menkul Kiymetler Komisyonu'nun kuralları, şirketin bir olayın önemli olduğunu belirlediği andan itibaren dört iş günü içinde bildirim yapmasını gerektiriyor.
Kişisel veriler tehdit edildiğinde, veri ihlalleri hakkında vatandaşları bilgilendirme kuralları uygulanır.
California, büyük yapay zeka şirketleri için teknoloji üzerinde kontrol kaybı ve olası biyolojik silah geliştirme amacıyla kötüye kullanım gibi ciddi risklerin değerlendirilmesini içeren özel talepler getirmiştir.
Mevcut kurallar, bir şirketin sistem testleri sırasında gözlemlediği tehlikeli davranışları, zarar meydana gelmeden veya başka bir yasal bildirim koşulu sağlanmadan kapsamamaktadır.
ABD'de tartışılan öneriler, yapay zeka şirketlerinden risklerin daha erken bildirilip zararın önlenmesi için alınan önlemlerin kanıtlanması gerektiğini talep ediyor. Bu tür olaylar için benzersiz bir federal bildirim sistemi henüz kurulmadı.
