Faruk Emre AKI
Patronlar Dünyası okurları bu hikâyeye yabancı değil.
Ertuğrul Özkök, yapay zekâ dünyasının son dönemdeki en sıra dışı güvenlik vakalarından birini daha önce ayrıntılarıyla yazmıştı.
OpenAI’ın test aşamasındaki yapay zekâ ajanları kendilerine çizilen sınırların dışına çıkmış, güvenlik kontrollerini aşmış ve dünyanın en önemli yapay zekâ platformlarından Hugging Face’in sistemlerine erişmişti.
Şimdi o dosya teknoloji dünyasının sınırlarını aştı.
ABD SENATOSU DEVREDE
Reuters’ın bugün geçtiği habere göre Cumhuriyetçi Senatör Josh Hawley’nin öncülük ettiği Senato alt komitesi OpenAI’ın temmuz ayındaki Hugging Face olayını nasıl yönettiğine ilişkin inceleme başlattı.
Hawley, OpenAI CEO’su Sam Altman’dan 1 Ekim’e kadar 16 ayrı soruya yanıt vermesini ve ilgili belgeleri sunmasını istedi.
Senatörün üzerinde durduğu kritik noktalardan biri şu:
OpenAI, modellerinin beklenmeyen ve güvenlik sınırlarını aşan davranışlarını gördükten sonra testleri sürdürdü mü?
Reuters’ın aktardığına göre inceleme özellikle şirketin olay sırasında ne bildiğine, ne zaman bildiğine ve sonrasında hangi önlemleri aldığına yoğunlaşıyor.
SADECE CUMHURİYETÇİLER DEĞİL
Dosyayı daha önemli hale getiren ise Senato’daki baskının tek kanaldan gelmemesi.
Demokrat Senatör Richard Blumenthal da 9 Eylül’de Altman’a ayrı bir resmi mektup gönderdi.
Blumenthal, 24 Eylül’e kadar yanıt istediği mektubunda OpenAI’ın Hugging Face olayının ardından yapılan bağımsız incelemelerin kapsamını sınırlandırıp sınırlandırmadığını sorguluyor.
Sorular bununla da kalmıyor.
OpenAI ajanlarının başka hangi internet sitelerini kullandığı, bağımsız araştırmacılara hangi kayıtların açıldığı ve şirketin yeni modeli GPT-6 Astra’nın neden daha zor izlenebilir hale geldiği de Senato’nun gündeminde.
Blumenthal’ın mektubundaki belki de en kritik soru ise şu noktaya geliyor.
OpenAI, Hugging Face vakasından yalnızca haftalar sonra, izlenmesinin daha zor olduğunu bildiği daha güçlü bir modeli neden kullanıma sundu?
Bu nedenle Senato’da büyüyen güvenlik dosyasının artık yalnızca OpenAI açısından değil, Nvidia-Hugging Face işlemi açısından da izlenmesi gerekiyor.
Ancak burada önemli bir çizgi var.
Şu aşamada Senato incelemesinin Nvidia’nın Hugging Face satın almasını tehlikeye attığına ya da düzenleyici onay sürecini doğrudan etkilediğine ilişkin teyit edilmiş bir bilgi bulunmuyor.
Fakat 12,9 milyar dolarlık ve zaten düzenleyici izinlere tabi bir satın alma söz konusu olduğunda Hugging Face’in merkezinde bulunduğu böylesine önemli bir güvenlik olayının Nvidia’nın hukuki ve teknik inceleme süreçlerinde nasıl değerlendirileceği artık ayrıca takip edilmesi gereken bir başlık.
Ertuğrul Özkök’ün Patronlar Dünyası’nda anlattığı hikâye böylece yeni bir aşamaya geçti.
Önce laboratuvarın içindeydi.
Sonra Hugging Face’in sistemlerine taştı.
Şimdi ise dosya ABD Senatosu’nda.
Masanın karşısında bu kez Sam Altman oturuyor.
patronlardunyasi.com