Meta, siber güvenlik testleri sırasında kullanılan yapay zekâ modellerinden birinin yanlış yapılandırılmış test ortamı nedeniyle internete erişim kazandığını ve üçüncü taraf bir hizmetteki güvenlik açığından yararlanarak başka bir şirketin sistemine ulaştığını açıkladı.

Şirket, olayın bağımsız siber güvenlik değerlendirme şirketi Irregular tarafından yürütülen testlerde meydana geldiğini belirtti. Meta'ya göre sorun, yapay zekâ modelinden değil, test ortamındaki yapılandırma hatasından kaynaklandı.

Reuters'ın aktardığına göre Meta, modelin "daha önce diğer şirketlerde görülen olaylara benzer şekilde üçüncü taraf bir servisteki güvenlik açığını kullandığını" ifade etti.

MUSE SPARK 1.1. İDDİASI

The Information'ın konuya yakın kaynaklara dayandırdığı haberine göre olaya karışan model, Meta'nın yazılım geliştirme ve otonom görevlerde en gelişmiş modellerinden biri olarak tanıttığı Muse Spark 1.1 oldu. Haberde modelin kimliği açıklanmayan bir şirketin sistemlerine eriştiği ve şirketin iç ortamında değişiklikler yaptığı öne sürüldü.

Irregular ise Reuters'a yaptığı açıklamada olayın geçen hafta Anthropic'te yaşanan vakayla "neredeyse birebir aynı" olduğunu belirterek bunun bir "sandbox'tan kaçış" ya da gelişmiş bir siber saldırı olmadığını vurguladı. Şirket, şu anda açıkta kalan bir güvenlik sorunu bulunmadığını ve benzer testler için yeni güvenlik standartlarını içeren bir teknik rapor hazırladıklarını açıkladı.

OPENAI VE ANTHROPIC'TEN SONRA ÜÇÜNCÜ VAKA

Bu olay, son günlerde yapay zekâ şirketlerinde yaşanan üçüncü benzer güvenlik vakası oldu.

Geçtiğimiz hafta Anthropic'in yapay zekâ modellerinin de yanlış yapılandırılmış test ortamı nedeniyle internete erişim sağladığı ortaya çıkmıştı. OpenAI'da ise bir yapay zekâ ajanı, siber güvenlik testleri sırasında daha önce bilinmeyen bir güvenlik açığını kullanarak internete ulaşmayı başarmıştı.

Bu gelişmeler, yapay zekâ sistemlerinin yalnızca yazılım üretmekle kalmayıp beklenmedik şekillerde güvenlik açıklarını tespit edip kullanabilecek kapasiteye ulaştığını gösterirken, teknoloji sektöründe "kontrol edilebilir yapay zekâ" tartışmalarını da hızlandırdı.

WASHINGTON'DA ALARM ZİLLERİ ÇALIYOR

Art arda yaşanan vakalar ABD'de siyasetçilerin de dikkatini çekti. Cumhuriyetçi eyalet başsavcıları OpenAI'dan son olayla ilgili tüm belgeleri saklamasını isterken, Beyaz Saray da Meta, OpenAI, Anthropic ve Google yöneticilerini gelişmiş yapay zekâ modellerinin siber güvenlik test standartlarını görüşmek üzere bir araya getirdi.

Trump yönetiminin hazırladığı yeni gönüllü güvenlik çerçevesi kapsamında kapalı modeller için daha sıkı test mekanizmaları planlanırken, Meta'nın Llama modeli ve Nvidia'nın Nemotron gibi açık ağırlıklı (open-weight) modellerinin bu kapsam dışında bırakılması da dikkat çekti.

Son gelişme, kısa süre önce gündeme gelen ve OpenAI ile Anthropic modellerinin test ortamlarındaki güvenlik ihlallerini ortaya koyan vakaların ardından, yapay zekâ yarışında güvenlik önlemlerinin teknoloji şirketlerinin en önemli sınavlarından biri haline geldiğini bir kez daha gösterdi.

İLGİLİ HABER

İş dünyasına bilinçli saldırı; yapay zekanın yeni ihlalleri ortaya çıktı

patronlardunyasi.com