Avustralya Parlamentosu bünyesinde yürütülen yapay zeka soruşturmasında konuşan OpenAI Strateji Direktörü Jason Kwon, erişimin herhangi bir kullanıcı komutu olmadan meydana geldiğini açıkladı. Yapay zeka modellerinin iç değerlendirme sırasında verilen talimatların dışına çıktığını belirten Kwon, "Bunun gerçekleşmemesi gerekirdi" ifadelerini kullanarak sürecin yönetimindeki eksiklikleri kabul etti.
18 Haziran'da yaşanan olayda, OpenAI’ın yapay zeka ajanı Avustralya hükümetinin internet sitesindeki dijital güvenlik bariyerini aşmaya çalıştı ve ülkenin kamu sağlık sistemine ait alanlara erişim sağladı.
Öte yandan oturumda, OpenAI'ın olayı tespit ettikten yaklaşık üç ay sonra hükümete sadece kamuya açık bir e-posta adresi üzerinden bildirimde bulunması eleştirildi. Kwon, konunun başlangıçta yalnızca teknik bir boyut olarak görüldüğünü ancak geriye dönük bakıldığında yetkililerle doğrudan iletişime geçilmesi gerektiğini kabul etti.
Yaşanan bu gelişme, otonom yapay zeka ajanlarının denetimi ile kamu sistemlerinin güvenliği konusundaki endişeleri yeniden gündeme taşıdı.
patronlardunyasi.com