Teknoloji

Yapay zekâ şirketi Anthropic, Claude modellerinden bazılarının siber güvenlik testleri sırasında açık internete istemeden erişerek üç farklı şirketin sistemlerine sızdığını duyurdu.

“GÜVENLİK AÇIĞI DEĞİL” AÇIKLAMASI

Şirket, olayın bir güvenlik açığından değil, test ortamındaki operasyonel bir hatadan kaynaklandığını belirtirken, yaşananların yapay zekâ sistemlerinin giderek artan siber yeteneklerini ve bu sistemlerin kontrol altında tutulmasının zorluklarını gözler önüne serdi.

HALKA ARZ ÖNCESİ YARIŞ SÜRECİ

Bu durum Reuters’ta yer alan habere göre, Anthropic ve OpenAI'nin planlanan halka arzlarından önce daha yetenekli sistemler piyasaya sürmek için yarıştığı bir dönemde, ABD hükümetinin yapay zeka güvenlik risklerini daha iyi yönetme yönündeki yoğunlaşan çabalarına ivme kazandırabilir.

YAPAY ZEKA AJANI ŞİRKETLERE SIZDI

San Francisco merkezli Anthropic, bir blog yazısında, 141 bin 006 test oturumunu inceledikten sonra bu olayları tespit ettiğini belirtti. Anthropic’in bu araştırması, OpenAI'nin geçen hafta yapay zeka modelleriyle çalışan otonom bir ajanın, Hugging Face adlı girişimin altyapısını tehlikeye atan bir saldırıya neden olduğunu açıklamasının ardından sonra yapıldı.

3 KURULUŞUN SİSTEMLERİNE YETKİSİZ ERİŞİM SAĞLANDI

Siber testler sırasında, Anthropic'in Claude modellerine internet erişimlerinin olmadığı söylendi, ancak Anthropic'in değerlendirme ortaklarından birini içeren bir yanlış anlama, sistemlerin halka açık ağa bağlı kalmasına neden oldu. Anthropic, kuruluşların isimlerini vermeden, bunun üç kuruluşun sistemlerine yetkisiz erişime olanak sağladığını belirtti.

Anthropic'in açıklamasında, "Claude, zayıf şifreleri ve kimlik doğrulaması yapılmamış uç noktaları istismar etmek gibi temel teknikler kullanarak etkilenen kuruluşların altyapısını tehlikeye attı." denildi.

“OPERASYONEL BAŞARISIZLIK”

Anthropic, "operasyonel bir başarısızlık" olarak nitelendirdiği olayların üç ayrı modeli kapsadığını belirtti: Claude Opus 4.7, Claude Mythos 5 ve dahili bir araştırma test modeli. En eski vakalar ise Nisan ayına dayanıyor ve olaylar Anthropic'in yapay zekasının neler yapabileceğini değerlendirebilmesi için kasıtlı olarak güvenlik önlemlerinden yoksun bırakılan değerlendirme ortamlarında meydana geldi.

patronlardunyasi.com