Amazon’un yapay zeka botu kiro sistemi çökertti

Amazon Web Services (AWS), geçtiğimiz Aralık ayında yaşanan ve 13 saat süren hizmet kesintisinin arkasındaki detayları açıkladı. Şirketin kendi geliştirdiği yapay zeka tabanlı kodlama asistanı Kiro’nun tetiklediği olay, teknoloji dünyasında "Yapay zekaya ne kadar özgürlük verilmeli?" sorusunu yeniden gündeme taşıdı. Financial Times’ın raporuna göre botun kararları sistemi kilitlerken, Amazon yönetimi topu "hatalı yetkilendirme yapan" mühendislere attı.

Olay, Aralık 2025’te AWS mühendislerinin, yazılım sorunlarını çözmesi için yapay zeka ajanı Kiro’ya canlı sistem üzerinde özerklik vermesiyle başladı. "Vibe coding" (hislerle kodlama) aşamasını geçip doğrudan üretime hazır yazılım oluşturmak üzere tasarlanan Kiro, küçük bir düzeltme yapması beklenen bir senaryoda radikal bir karar aldı. Bot, hatayı düzeltmek yerine mevcut çalışma ortamını tamamen silip yeniden oluşturmayı tercih edince, bu hamle büyük bir zincirleme reaksiyonu tetikledi.

AMAZON'DAN YALANLAMA: HATALI KULLANICI, YZ DEĞİL

Haberin yayılması üzerine bir açıklama yapan AWS sözcüsü, olayın iddia edildiği kadar geniş çaplı olmadığını savundu. Sorunun sadece Çin’deki iki bölgeden birinde "AWS Cost Explorer" servisini etkilediğini belirten sözcü, şu ifadeleri kullandı:

"Temel neden yapay zekanın özerkliği değil, kullanıcı hatasıydı. Bir mühendisin, bota beklenenden çok daha geniş yetkilere sahip bir rol tanımlaması bu sonuca yol açtı. Olayın ardından gerekli güvenlik önlemleri hayata geçirildi."

Normal şartlarda, büyük altyapı değişiklikleri "akran değerlendirmesi" (peer review) ve insan onayı gerektiriyor. Ancak Financial Times’a konuşan anonim kaynaklar, Kiro’nun bu vakada bir insan mühendisle eşdeğer yetkilere sahip olduğunu ve yaptığı kritik değişikliğin ikinci bir kişi tarafından denetlenmeden yürürlüğe girdiğini iddia ediyor. Üstelik mühendisler, bunun son aylarda yapay zeka araçları kaynaklı yaşanan ikinci "öngörülebilir" aksaklık olduğunu belirtiyor.

patronlardunyasi.com