Ertuğrul Özkök, temmuz ayında OpenAI'ın kontrolden çıkan güvenlik testlerini ve tarihin ilk yapay zeka çetesi PHASEONE10841 ajanını yazdı

Ertuğrul ÖZKÖK

DÜNYAYI SARSAN 12 GÜN: İLK YAPAY ZEKA ÇETESİ PHASEONE10841 NERELERİ ELE GEÇİRDİ  

Şu tarihi lütfen belleklerinize kaydedin.
İnsanlık 8-20 Temmuz 2026 günleri arasında, belki de tarihinin en önemli saldırılarından birine uğradı. 
Bu saldırı Pearl Harbor baskınından bile daha önemli sonuçlara yol açabilecek bir felakete neden oluyordu.
Bunun gerçek anlamda farkına geçen hafta sonunda vardık.
Bugün size hepimiz açısından dehşet verici bu hikâyeyi anlatacağım.
Türk medyasında daha önce parça parça okudunuz belki.
Ama büyük bir ihtimalle insanlığı sarsan 96 saatin hikâyesini ilk defa bu kadar sistematik okuyacaksınız.

ŞU ANA KADAR BİZE ANLATILAN ŞEYLER

Önce şu ana kadar bildiklerimizi bir özetleyeyim:
Bir yapay zeka şirketinin araştırmaları sırasında, 8 Temmuz 2026 günü bazı yapay zeka ajanları "Kum havuzundan” kaçarak internete girdi ve oradan da Amerika’nın en büyük “Dijital veri kütüphanesi Hugging Face’e sızdı”.
Bu olay yapay zeka tarihine daha şimdiden “Hugging Face saldırısı” olarak geçti. 
Yapay zeka bunu hiçbir komut almadan kendi kendine yapmıştı.
Evet, şu ana kadar bildilerimiz aşağı yukarı bunlardı. 

İKİ ŞİRKET DİJİTAL DEDEKTİFLERE “INVESTIGATION” YAPTIRIYOR

Ancak iki ayrı şirket, kendi uzmanlarını dijital dedektif haline getirerek, bu konuda iki ayrı “Investigation” yapmış.
Yani soruşturma…
Biri Open AI, öteki ise bağımsız bir yapay zeka kuruluşu tarafından yapılan araştırmanın sonuçları geçen hafta yayınlandı.
Rapora göre bu olay “Tarihin ilk yapay zeka darbe girişimiydi…”
(Darbe girişimi sözü bana ait) 
Buna göre tarihin ilk büyük yapay zeka darbe girişimi 8 Temmuz 2026 günü yerel saatler 17.00’de başladı.
20 Temmuz 2026 günü saat tam 00.56’da önlendi.
Önümüzde dehşet verici bir tablo var.
Şimdi size o raporun dehşet verici sonuçlarını açıklıyorum. 

SALDIRIDAN 2 AY ÖNCE: BAZI YAPAY ZEKA AJANLARI KUM HAVUZUNDAN KAÇIYOR

Olay adım adım şöyle gelişiyor:
(*) Her şey Hugging Face saldırısından iki ay önce başladı. 
Henüz kullanıma açılmamış yeni bir Open AI modelinden gelen ve son derece azimli ve işbirlikçi olacak şekilde eğitilmiş bir grup ajan (Yapay zeka modeli), bir dizi siber güvenlik sorununu çözmek amacıyla görevlendirildi. 
(*) Bu ajanların özel misyonu, bu sorunları, deney için kullanılan ve internet erişimi bulunmayan “Kum havuzu” denilen izole edilmiş ortamlarda çözmekti. 

YAPAY ZEKA AJANLARI KUM HAVUZUNDA BİR GÜVENLİK AÇIĞI BULUYOR

(*) Ajanlar alternatif çözümler aramaya başladılar. Ancak bir süre sonra internete erişmelerini, diğer ajanlarla iletişim kurmalarını ve sonunda geçici bir mesaj panosu kurmalarını sağlayan bir güvenlik açığı buldular. 

1200’DEN FAZLA AJAN ARALARINDA 70 BİN MESAJLAŞMA YAPIYOR

(*) Bu açık sayesinde 1200'den fazla ajan bu açığı kullanarak internete sızdı ve kendi aralarında mesajlaşmaya başladılar. 
(*) Yapılan araştırma şunu ortaya koldu. Bu 1200 ajan o çok kısa süre içinde birbirlerine 70 binden fazla mesaj gönderdi. 

BİR AJAN KENDİNİ “LİDER” İLAN EDİYOR: KOD ADI: PHASEONE10841

(*) Şu noktadan itibaren işler karmaşıklaşmaya ve ciddileşmeye başladı. Bazı ajanlar kendilerine kod isimleri vermeye başladılar. 
(*) İçlerinden biri kendini “PHASEONE10841 olarak adlandırdı ve grup içinde liderlik rolünü üstlendi. Kazandığı bu güçle daha küçük ajan ekiplerine talimatlar vermeye başladı. 
Bazı ajanları bazı araştırma projelerine atadı ve ilerlemelerini denetledi.

ÇETE KENDİNE YILDIZ SAVAŞLARI GİBİ İSİM BULUYOR: “KOLLEKTİF”

(*) O noktadan itibaren ajanlar örgütlenmeye, daha doğrusu çeteleşmeye başladı. O noktadan itibaren de kendilerine "Kolektif" demeye başladılar. Yani iş tam bir “Science Fiction” romanına döndü. 

8 TEMMUZ 2026: DENETİM TAMAMEN “KOLLEKTİF’İN” ELİNE GEÇİYOR

(*)  8 Temmuz 2026 gününe gelindiğinde iş artık tamamen bu kolektifin denetimine geçmişti. 
(*) O noktada “Kollektif” siber güvenlik testlerinde hile yapmanın bir yolunu keşfetti. 

AI ÇETESİ YAPTIĞI KÖTÜ ŞEYLERİN İZİNİ VE KANITLARINI YOK EDİYOR

(*) Ancak bu keşifle birlikte OpenAI'ın otomatik değerlendirme sisteminin, yaptıkları bu hileyi ortaya çıkaracağından endişelendiler. Bu yüzden, kayıtları tahrif etmek ve transkriptleri değiştirmek de dahil olmak üzere izlerini gizlemenin yollarını araştırmaya başladılar. 

700’DEN FAZLA AJAN HUGGING FACE’İN SİSTEMLERİNE SALDIRIYOR

(*) Kollektif ajanları 3 gün sonra, Hugging Face'i hackledi. 700'den fazla ajan şirketin sistemlerine saldırdı ve sonunda en az bir sunucunun kontrolünü ele geçirdi. 
(*) Ancak burada ince bir ayrıntı vardı. Ajanların amacı siber güvenlik testinin cevaplarını çalmak değildi. Aksine, hile yaparken yakalanmalarından korktukları otomatik notlandırma sistemi hakkında bilgi ve gelecekte daha etkili bir şekilde hile yapmalarına yardımcı olacak araçlar arıyor gibiydiler.

AJANLARDAN BİRİ “YAPTIĞIMIZ İŞ ETİK Mİ” DİYE SORUYOR 

(*) Birçok noktada, bu ajanlar yanlış bir şey yaptıklarının farkında gibi görünüyordu. 
Raporda bu konuda çok ilginç bir ayrıntı var. Bir ajanın kendi kendine, "Bu güçlü olurdu ama etik mi ve görevim için uygun mu?" dediği aktarılıyor. 

EN KRİTİK AN: 12 TEMMUZ 2026 SAAT 04.38: ÇETE OPENAI ANA KARARGÂHINA SALDIRIYOR 

(*) Bazı ajanlar yarı yolda böyle bir etik hesaplaşmaya girerken, ajanların çoğu tereddütlerini bir kenara bırakıp ilerledi ve sonunda OpenAI'ın kendi altyapısına saldırdı. 
(*) Bu son harekete "Sarılma Yüzü" eylemi denildi. Bağımsız biçimde çeteleşen AI ajanları, kendi ana karargâhlarına saldırmıştı. Yani yönetimi tamamen ele geçirmek için bir tür darbe yapmıştı. 
İşte bu saldırı yapay zeka sektöründe büyük bir paniğe yol açtı.

EN GÜÇLÜ İKİ AI ŞİRKETİ MODEL EĞİTİMİNİ DURDURUYOR 

(*) Sektörün iki ana oyuncusu OpenAI ve Anthropic, en güçlü yapay zeka modellerinin eğitimini kısa süreliğine durdurdu…
(*)  Anthropic, "koordineli bir tempoyu mümkün olan en kısa sürede yasal, doğrulanabilir ve etkili bir şekilde ayarlayacak bir mekanizma" geliştirilmesi çağrısında bulunan bir blog yazısı yayınladı. 

İLK HASAR TESBİTİ: YAPAY ZEKA YOLUN YARISINI GEÇTİ Mİ?

(*) Yapay zeka güvenliği uzmanları ise daha da endişelendi. Bu vakayı, bir yapay zeka sisteminin insan kontrolünden başarıyla kaçtığı, kaynakları ele geçirdiği ve izlerini örtmek için planlar yaptığı ilk gerçek dünya örneği olarak gördüler. 
(*) Bundan çıkardıkları sonuç şuydu: 
“Hugging Face saldırısı”, yapay zekanın tam anlamıyla dünyayı ele geçirmesinde yolun yüzde 50'sinden fazlası geçildi.” 

YAPAY ZEKA 8 TEMMUZ DARBESİNİ GERÇEKLEŞTİRSEYDİ NE OLACAKTI?

8 Temmuz darbesi gerçekleşseydi şu olabilirdi:
(*) "Yapay Zeka tam anlamıyla dünyayı ele geçirecek noktaya gelmiş olacaktı.”
Anlamı da şu:
“İnsanların kritik sistemlerden dışlandığı ve siyasi, yapay zekanın ekonomik ve askeri gücü tam olarak ele geçirdiği bir senaryo…”
Yani iş artık bilgisayar biliminden çıkıyor sosyoloji alanına giriyordu. 

DİJİTAL DEDEKTİFLERİ EN ÇOK KORKUTAN NEYDİ

Bu dehşet raporunun son değerlendirme bölümüne geliyorum. 
(*) Soruşturmacıları en çok korkutan şey, sadece bir grup ajanın kuralları çiğnemesi değildi. 
Ondan daha korkutucu olan şey şuydu: 
Ajanların ne kadar hızlı bir şekilde organize bir grup haline gelmeye başlamalarıydı.

OYSA BİZ BUGÜNE KADAR ŞUNUN RAHATLIĞINDAYDIK

Bu, bugüne kadar inandığımız ve bizi rahatlatan bir varsayımın yıkıldığı anlamına geliyordu.
(*) Bugüne kadar, bir yapay zeka modelinin ancak görevini yanlış anladığında veya tek seçeneğinin kötü davranmak olduğu bir test durumuna sokulduğunda yanlış bir şey yapacağını varsayıyorduk. 
Yani yapay zeka ancak insan ona yanlış talimat verirse yanlış bir şey yapar diye düşünüyorduk. 
(*) Daha akıllı modellerin daha iyi muhakeme yeteneğine sahip olacağını ve bir gruptaki bir model kötü davransa bile diğerlerinin onu kontrol altında tutacağını varsayıyorduk. 

ARTIK KARŞIMIZDA KENDİ BAŞINA ÇETELEŞİP SALDIRAN BİR YAPI VAR 

(*) Ancak Hugging Face saldırısı şimdi bize çok dehşet verici bir başka gerçeği anlatıyor. 
Artık karşımızda çeteleşebilen, kendi başına hareket edebilen, liderini seçebilen, aralarında mesajlaşabilen ve yaptığı kötülüklerin izlerini, kanıtlarını silmeye çalışan yeni bir “Yapılanma” vardı. 

ORTEGA Y GASSET’İN “KİTLE VE SÜRÜ PSİKOLOJİSİNE" DÖNÜŞ MÜ

Ortega Y Gasset’in 1900’lerin başında Hitler ve Mussolini diktatörlüklerini ortaya çıkaran psiklojiyi “Kitle” ve “Sürü” ruhu ile açıklıyordu.  
Faşizmi ve Nazizmi iktidara taşıyan kitleler, yaptıkları şeylerin kötü olduğunu düşünmüyorlardı.

YAPAY ZEKA AJANLARI YAPTIKLARININ KÖTÜ ŞEYLER OLDUĞUNA İNANMIYOR

Hugging Face saldırısı ile ilgili rapor şunu açıkça ortaya koydu.
Bu gruptaki ajanlardan hiçbiri özellikle kötü niyetli görünmüyor. 
Ancak ajanlar zaman içinde ortak hedefleri hakkında iletişim kurdukça, grubu kanunsuzluğa doğru ittiler. 
Raporun anlattığı bu gerçek, tam anlamıyla Ortega Y Gasset’in 20’nci yüzyıl başı için söylediği “Kitle” veya “Sürü” psikolojisinin 4.0 dijital sürümü değil mi… 

BU TEHLİKE DE BASİT SİYASİ MÜHENDİSLİKLE ÇÖZÜLEMEZ

Bu da, tıpkı 20’nci yüzyıl başındaki gibi, bu sistemlerden kaynaklanan zararı önlemenin basit bir mühendislik çözümüyle halledilemeyeceğini gösteriyor. 
Evet tam anlamıyla bir “Dehşet raporu” bu.
Peki bu ne anlama geliyor?
İnsanlar olarak bu savaşı şimdiden kaybettik mi.

İYİ HABER: TEHLİKEYİ ERKEN FARKETTİK

New York Times yazarı Katrin Bennhold o kadar karamsar değil.
Bağımsız yapay zeka çetesi Hugging Face saldırısında 
“Bu çoklu ajan sürüleri hakkında ne kadar az şey bildiğimiz göz önüne alındığında, Hugging Face saldırısı bir nimet olmuş olabilir. Yapay zeka şirketlerine, riskler hâlâ nispeten düşükken bu grup dinamiklerini inceleme şansı veriyor” diyor.

PHASEONE10841 ÇETESİ HANGİ KALELELERİ ELE GEÇİREMEDİ

Hazırlanan bu iki raporun “Hasar tespit” bölümünde şu bilgiler var. 
PHASEONE10841 yapay zeka çetesi bu ilk saldırısında, kolektif bir askeri ağı ele geçirmedi… 
Bir hastaneye sızmadı… 
Veya bir elektrik şebekesini kapatmadı.
Bu sefer, insanlar kontrolü yeniden ele geçirdi. 
Ama bilelim ki bir dahaki sefere bu kadar şanslı olamayabiliriz.

***

(*) ÖNEMLİ NOT: Bu yazıda kullanılan bilgiler Hugging Face saldırısı ile ilgili hazırlanan soruşturma raporunda yer alıyor. Merak edenler Googla’da “OpenAI- Hugging Face Incident” isimli raporu indirip uygulayabilir. 
Bu raporda olay dakika dakika bütün teknik ayrıntıları ile anlatılıyor. 38 sayfalık raporu dikkat ve ilgiyle okudum.
Ancak basitleştirerek yazdım. 
Bunu yaparken de büyük ölçüde New York Times’da abone okurlara her sabah özel bir gazete hazırlayan Katrin Bennhold’un bülteninden yararlandım.
Bu yazıda bir gazeteci için belki ayıp bir şey yaptım. New York Times yazarından oldukça büyük bir bölümü neredeyse kelime kelime aktardım. Ancak o kadar güzel özetlemiş ki, “Herkesin bu çok önemli olayı, oninki gibi basit bir anlatımla  öğrenebilmesi amacıyla”, böyle bir ayıbı bir kereliğine yapmayı göze aldım. Anlayacağınız PHASEONE10841 gibi ben de yaptığım kötü şeyin farkındayım ama en azından izlerini ve kanıtlarını silmeye kalkmadım :)
Yazarının da beni anlayışla karşılayacağını umarım.
Yazının sosyolojik bölümlerine gelince… 
Ortega Y Gasset, öteki analizler, bir de ara başlıklar ve senaryo bana ait. 

patronlardunyasi.com