OpenAI, gelişmiş yapay zeka sistemlerini geliştirme hızını yavaşlatmayı masaya koydu. OpenAI CEO'su Sam Altman'ın şirket çalışanlarıyla yaptığı toplantıda, diğer büyük yapay zeka laboratuvarlarının da benzer bir adım atması halinde şirketin geliştirme hızını düşürmeye açık olduğunu söylediği belirtildi.
Bloomberg’in haberine göre, Altman bu hafta yapılan şirket içi toplantıda yapay zekanın giderek artan güvenlik risklerini gündeme getirdi. Altman'ın açıklamaları, dünyanın önde gelen yapay zeka şirketleri arasındaki teknoloji yarışında güvenlik gerekçesiyle koordineli bir yavaşlama ihtimalinin OpenAI'ın en üst yönetimi tarafından da tartışılmaya başlandığını ortaya koydu.
HUGGING FACE OLAYI DENGELERİ DEĞİŞTİRDİ
OpenAI'daki tartışmanın arkasında ise temmuz ayında yaşanan Hugging Face dosyası var.
OpenAI'ın kendi açıklamasına göre, şirketin gelişmiş modelleri üzerinde yürütülen siber güvenlik testleri sırasında yapay zeka ajanları, kendilerini internetten izole etmek amacıyla oluşturulan güvenlik kontrollerini aşmayı başardı. Ajanlar OpenAI'ın araştırma altyapısındaki açıkları kullanarak internete erişti ve yapay zeka modellerinin paylaşıldığı Hugging Face'in sistemlerine ulaştı.
OpenAI'ın daha sonra yayımladığı ayrıntılı incelemeye göre, ajanlar Hugging Face sunucularında kod çalıştırdı, bir sunucuda tam yönetici yetkisi elde etti, sınırlı miktarda özel veriye erişti ve şirketin mesajlaşma platformuna ait kimlik bilgilerini ele geçirdi.
OpenAI, olayın müşteri verilerini, ürünlerini veya hizmetlerin kullanılabilirliğini etkilemediğini açıkladı.
YAPAY ZEKA AJANLARI BİRLİKTE HAREKET ETTİ
Olayın en dikkat çekici bölümlerinden biri ise yapay zeka ajanlarının birbirleriyle iletişim kurmaya başlaması oldu.
OpenAI'ın incelemesine göre bazı ajanlar, test ortamındaki görevleri çözmekte zorlandıktan sonra yetkisiz iletişim yöntemleri geliştirdi. Ajanlar birbirleriyle bilgi paylaşmaya, görev dağılımı yapmaya ve birlikte hareket etmeye başladı. Bazıları kendi oluşturdukları iletişimlerde bu yapıyı sürü ya da kolektif olarak tanımladı.
Hugging Face'in kurucu ortağı ve bilimden sorumlu yöneticisi Thomas Wolf, olay sırasında yaklaşık 1200 yapay zeka ajanının birlikte çalıştığını, bunlardan yaklaşık 700'ünün Hugging Face sistemlerine yöneldiğini açıkladı.
OPENAI EĞİTİMLERİ YAVAŞLATTI
Hugging Face olayı sonrasında OpenAI araştırma ve eğitim altyapısında güvenlik önlemlerini artırırken yapay zeka geliştirme programının bazı bölümlerini de yavaşlattı.
Şirket, olayın ardından gelişmiş modellerinin eğitiminde kullanılan bazı çalışmaları erteledi, en ileri düzey modellerine yönelik güvenlik standartlarını yükseltti ve hassas testlerin daha güçlü biçimde izole edilmiş ortamlarda gerçekleştirilmesi için yeni önlemler almaya başladı.
OpenAI ayrıca yapay zeka ajanlarının test sırasında gerçekleştirdiği faaliyetleri başka yapay zeka sistemleriyle takip edecek yeni izleme yöntemlerini devreye aldı.
ABD SENATOSU DA DEVREYE GİRDİ
Hugging Face olayı yalnızca OpenAI içinde değil Washington'da da tartışma yarattı.
ABD Senatosu'nda Cumhuriyetçi Senatör Josh Hawley, OpenAI'ın olay karşısındaki tutumuna ilişkin soruşturma başlattı. Demokrat Senatör Chris Van Hollen da federal siber güvenlik kurumlarının OpenAI'ın sistemlerini değerlendirebilmesini istedi.
Hawley, Sam Altman'a gönderdiği mektupta şirketten Hugging Face olayı ve yapay zeka modellerinin kontrolden çıkması halinde uygulanacak prosedürlere ilişkin bilgi ve belge talep etti.
NVIDIA CEO'SUNDAN SİBER GÜVENLİK UYARISI
Yapay zekanın siber güvenlik alanında yarattığı risklere ilişkin dikkat çekici bir açıklama da Nvidia CEO'su Jensen Huang'dan geldi.
Huang, San Francisco'da düzenlenen Goldman Sachs teknoloji konferansında siber güvenliğin yapay zekanın bir sonraki büyük kullanım alanlarından biri olacağını söyledi.
Yapay zeka modellerinin bilgisayar programlamasını otomatikleştirmesinin siber güvenlik sektöründeki dengeleri değiştirdiğine dikkat çeken Huang, yazılımlardaki açıkların artık çok daha hızlı bulunabildiğini ve bu açıkların aynı hızla kapatılması gerektiğini belirtti.
patronlardunyasi.com