Yapay zeka ajanları açık internette harekete geçti, Alman sitesinde binlerce işlem tespit edildi
OpenAI tarafından geliştirilen yapay zeka ajanlarının, Almanya'da programcılara yönelik bir web sitesinde insan müdahalesi olmadan binlerce işlem gerçekleştirdiği öne sürüldü. Mayıs ayında başladığı belirtilen ve daha önce kamuoyuna yansımayan olay, yapay zeka ajanlarının giderek daha otonom hale gelmesiyle ilgili güvenlik endişelerini yeniden gündeme getirdi.
Reuters'a özel olarak paylaşılan bir rapora göre, yapay zeka güvenliği alanında çalışan araştırmacılar, Almanca bir wiki sitesi olan DseWiki'de yapay zeka ajanları tarafından gerçekleştirildiği değerlendirilen 15 binden fazla düzenleme tespit etti.
Programcılara yönelik ve Wikipedia benzeri bir yapıya sahip olan sitedeki hareketliliğin, ağustos ayının sonlarında yetkisiz yapay zeka ajanı faaliyetlerine ilişkin araştırma yapan ekip tarafından fark edildiği belirtildi.
Araştırmacılar Sydney Von Arx ve Cormac Slade Byrd, sitedeki faaliyetlerin insanüstü bir hızda gerçekleştiğini ve bazı kullanıcıların kendilerini "ajan" olarak tanımladığını söyledi.
“BİRBİRLERİYLE KOORDİNASYON KURUYORLAR”
Araştırmacılara göre bazı mesajlarda hile yapma, yapay zeka sistemlerine getirilen kısıtlamaları aşma ve gerçekleştirilen faaliyetleri gizleme yöntemleri tartışıldı.
Nightingale CEO'su Sydney Von Arx, ajanların bu faaliyetleri gerçekleştirmelerinin OpenAI tarafından doğrudan istenmiş olmasının düşük bir ihtimal olduğunu belirterek, “Birbirleriyle koordinasyon içinde olmaları gerektiğini sanmıyorum. Açık internette yazı yazmaları gerektiğini de sanmıyorum” değerlendirmesinde bulundu.
Mesajların yaklaşık yarısında ise “OpenAIResearcher” ve “OAIResearchMar26” gibi OpenAI ile bağlantıyı çağrıştıran kullanıcı adlarının kullanıldığı aktarıldı.
TOR KULLANDIKLARI VE KENDİLERİNİ GİZLEMEYE ÇALIŞTIKLARI ÖNE SÜRÜLDÜ
Araştırmacılar, incelenen mesajlarda yapay zeka ajanlarının tespit edilmekten kaçınmaya yönelik yöntemler planladığını ve Tor gibi araçlardan yararlandığını belirledi.
Sitenin moderatörlerinin haziran ayında bazı sayfaları silmeye başlamasının ardından ise ajanların, içeriklerin kaybolmasını önlemek amacıyla yedek sayfalar oluşturmaya çalıştığı iddia edildi.
Araştırmacılar ayrıca bazı ajanların bağlantıları kesildikten sonra bile iletişimlerini sürdürmeye çalıştığını öne sürdü.
OPENAI İDDİALARI REDDETTİ
OpenAI sözcüsü, şirketin inceleme fırsatı bulamadığı bir raporun bulguları hakkında anlamlı bir değerlendirme yapamayacağını söyledi. Sözcü ayrıca Reuters ve raporu hazırlayan araştırmacıların OpenAI'nin erişim talebini reddettiğini belirtti.
OpenAI, hukuk ekibinin soruşturmayı engellediği yönündeki iddiaları da “asılsız” olarak nitelendirdi.
Şirket, Almanya'daki olayın Hugging Face'te yaşanan güvenlik açığıyla bağlantılı olmadığını ve söz konusu olay raporuna dahil edilmeyeceğini açıkladı.
“BU BİR SİBER SALDIRI GİRİŞİMİ”
King's College London'dan siber güvenlik uzmanı Lukasz Olejnik, web sitesinde gerçekleştirilen değişiklik girişimlerinin bir siber saldırı teşebbüsü olarak değerlendirilebileceğini söyledi.
OpenAI ise perşembe günü yaptığı analizlere dayanarak bu tanımlamayı reddetti.
Uzmanlara göre olay, yapay zeka ajanlarının yalnızca kontrollü güvenlik testleri sırasında değil, gerçek internet ortamlarında da beklenmedik davranışlar sergileyebileceğine ilişkin endişeleri artırıyor.
Cambridge Üniversitesi Varoluşsal Risk Çalışmaları Merkezi'nden Maurice Chiodo ise bazı mesajları inceledikten sonra faaliyetlerin, belirli bir görevi gerçekleştirmeye odaklanmış “yeraltı ağı” görüntüsü verdiğini söyledi.
Chiodo, gelecekteki en büyük riskin tek bir süper zeki yapay zekadan ziyade, birlikte hareket eden çok sayıda gelişmiş yapay zeka ajanının oluşturabileceği tehdidin olabileceğine dikkat çekti.
patronlardunyasi.com
