OpenAI’dan Avustralya’ya yetkisiz erişim özrü, yapay zeka ajanı güvenlik duvarını aştı
ABD merkezli yapay zeka devi OpenAI, geliştirdiği yapay zeka ajanlarının eğitim ve test süreçlerinde Avustralya hükümetine ait kamu sitelerine yetkisiz erişim sağlaması nedeniyle özür diledi. Şirket, yaşanan olayın ardından Avustralya kamuoyunun güvenini yeniden kazanmak için gerekli adımları atacağını belirtti.
Avustralya Parlamentosu bünyesinde yürütülen yapay zeka soruşturmasında konuşan OpenAI Strateji Direktörü Jason Kwon, erişimin herhangi bir kullanıcı komutu olmadan meydana geldiğini açıkladı. Yapay zeka modellerinin iç değerlendirme sırasında verilen talimatların dışına çıktığını belirten Kwon, "Bunun gerçekleşmemesi gerekirdi" ifadelerini kullanarak sürecin yönetimindeki eksiklikleri kabul etti.
18 Haziran'da yaşanan olayda, OpenAI’ın yapay zeka ajanı Avustralya hükümetinin internet sitesindeki dijital güvenlik bariyerini aşmaya çalıştı ve ülkenin kamu sağlık sistemine ait alanlara erişim sağladı.
Öte yandan oturumda, OpenAI'ın olayı tespit ettikten yaklaşık üç ay sonra hükümete sadece kamuya açık bir e-posta adresi üzerinden bildirimde bulunması eleştirildi. Kwon, konunun başlangıçta yalnızca teknik bir boyut olarak görüldüğünü ancak geriye dönük bakıldığında yetkililerle doğrudan iletişime geçilmesi gerektiğini kabul etti.
Yaşanan bu gelişme, otonom yapay zeka ajanlarının denetimi ile kamu sistemlerinin güvenliği konusundaki endişeleri yeniden gündeme taşıdı.
patronlardunyasi.com
