Anthropic’ten istifa eden Jacob Coxon’ın itirafları yapay zekada Frankenstein etkisini yeniden tartışmaya açtı

Mustafa Ali AYKOL

Yapay zeka dünyası bugüne kadar hep daha büyük modeller, daha güçlü bilgisayarlar ve daha akıllı sistemlerin peşinden koştu. Şimdi ise sektörün içinde 'ya kontrolü kaybedersek?' endişesi yükseliyor.

Bu soruyu en son soran kişi yapay zeka karşıtı bir aktivist ya da teknoloji dünyasının dışından bir eleştirmen değil. Tam tersine, son yıllarını dünyanın en gelişmiş yapay zeka sistemlerini geliştirmeye adamış bir araştırmacı. Bu bakımdan yapay zeka teknolojilerinin geldiği ve gitmekte olduğu nokta açısından oldukça kritik bir gösterge.

3 YILDIR ÇALIŞTIĞI YAPAY ZEKA SEKTÖRÜNDEN İTİRAFLARLA İSTİFA ETTİ

Son üç yılını OpenAI ve Anthropic'te çalışarak geçiren Jacob Coxon isimli bir ABD'li, yapay zekanın geleceğine ilişkin korkuları nedeniyle sektörden ayrıldığını X hesabı üzerinden açıkladı. Coxon'ın açıklamaları, teknoloji şirketlerinin laboratuvarlarında yıllardır konuşulan ancak kamuoyuna çoğu zaman daha temkinli ifadelerle yansıyan bir endişeyi de  açığa çıkardı.

"HAYATLARIMIZLA KUMAR OYNUYORLAR"

Coxon, X'te yaptığı paylaşımlarda yapay zeka şirketlerine yönelik eleştirilerini açık biçimde ortaya koydu. Araştırmacının en dikkat çekici suçlamalarından biri, şirketlerin kendi kendini geliştiren süperzekaya ulaşmak için yarıştığı ve bunu yaparken insanların hayatlarıyla kumar oynadığı yönündeki değerlendirmesi.

Coxon'a göre mesele artık yalnızca yapay zekanın ne kadar akıllı olacağı değil. Asıl mesele, bir noktadan sonra insanın geliştirdiği sistemlerin kendi gelişim süreçlerini hızlandırabilecek hale gelip gelmeyeceği. Eğer bu gerçekleşirse bugünkü teknoloji yarışının kuralları tamamen değişebilir.

"GELECEK YILIN SONUNDA TAMAMEN KONTROLDEN ÇIKABİLİR"

Coxon'ın paylaşımlarının ardından ABD'nin önde gelen gazetelerinden Wall Street Journal'a yaptığı açıklamalarda ise çok daha çarpıcı bir öngörü yer alıyor.

Araştırmacı, yapay zeka alanındaki en agresif gelişim senaryolarının gerçekleşmesi halinde gelecek yılın sonuna doğru işlerin kontrolden çıkmış olabileceğini söyledi.

SEKTÖRÜN BÜYÜK PARADOKSU: HERKES KORKUYOR AMA KİMSE YAVAŞLATMAK İSTEMİYOR

Burada ortaya çıkan tablo, yapay zeka sektörünün en büyük paradokslarından birini gözler önüne seriyor: Şirketler riskleri biliyor, araştırmacılar riskleri tartışıyor, güvenlik ekipleri olası senaryolar üzerinde çalışıyor ama aynı şirketler rakiplerinin önüne geçmek zorunda olduklarını da düşünüyor. Çünkü bir şirket yavaşlarsa rakibinin hızlanıp arayı açmasından korkuyor.  Bu da teknoloji alanındaki üstünlüğü ya da yarışı sonsuza kadar kaybetmek anlamına geliyor olabilir.  Bu nedenle ortaya bir çeşit yapay zeka silahlanma yarışı çıkıyor.

Coxon'ın anlattığına göre Anthropic'teki araştırmacılar da bu çelişkinin farkında. Şirket, yapay zekanın yaratabileceği varoluşsal riskleri ciddiye alıyor. Ancak aynı zamanda OpenAI, Google ve diğer teknoloji devleriyle yarışıyor.

FRANKESNTEIN LABORATUVARI ARTIK SİLİKON VADİSİ

Öyle görünüyor ki Frankenstein laboratuvarı artık Silikon Vadisi. Mary Shelley'nin 1818'de yayımlanan Frankenstein romanında bilim insanı Victor Frankenstein, kendi yarattığı varlığın sonuçlarını kontrol edemez hale geliyordu.

Bugünün yapay zeka tartışmasında elbette ortada fiziksel bir canavar yok. Ancak, insan, kendisinden daha zeki bir sistem yaratabilir mi sorusu giderek güç kazanıyor.  Ve daha da önemlisi, insan, yarattığı sistem kendisinden daha güçlü hale gelirse onu kontrol edebilir mi?

Çünkü bir sistem hedef belirleyebiliyor, plan yapabiliyor, bilgisayarlara erişebiliyor, kod yazabiliyor ve kendi görevlerini uzun süre insan müdahalesi olmadan sürdürebiliyorsa, insanın sistem üzerindeki kontrolünün nasıl korunacağı kritik hale geliyor.

Coxon'ın ve benzer endişeleri dile getiren araştırmacıların korkusu, Hollywood filmlerindeki gibi robotların bir sabah uyanıp insanlıktan nefret etmeye başlaması değil. Daha karmaşık bir ihtimalden söz ediliyor. Son derece güçlü bir sistem, kendisine verilen hedefi gerçekleştirmeye çalışırken insanın istemediği sonuçlara ulaşabilir. Yani sorun sistemin "kötü" olması değil.

ÜRKÜTÜCÜ İTİRAF

Coxon'ın açıklamalarını daha dikkat çekici hale getiren bir başka unsur da Anthropic çevresinden gelen diğer değerlendirmeler.

Anthropic araştırmacısı Evan Hubinger, Coxon'ın açıklamalarının ardından şirketin yapay zekâ güvenliği konusunda elinden geleni yaptığını ancak süperzekânın hizalanması problemini çözmek için henüz yeterli bir plana sahip olmadıklarını savundu.

Hubinger ayrıca kendi değerlendirmesine göre yapay zekânın önümüzdeki on yıl içerisinde insanlığın tamamını yok etme ihtimalinin yüzde 10'dan fazla olduğunu söyledi.

DURDURMAK YA DA YAVAŞLATMAK MÜMKÜN MÜ?

Yapay zekâ yarışının bugünkü aşamasında asıl soru belki de 'durdurmak ya da yavaşlatmak mümkün mü*' sorusu. İnsanlık daha güçlü yapay zeka istiyor. Daha iyi bilim, daha hızlı ilaç geliştirme, daha verimli üretim, daha güçlü bilgisayar sistemleri ve daha akıllı dijital asistanlar bunun olumlu tarafı. Ancak güç arttıkça risk de artıyor. Ve riskin en kritik olduğu nokta, insanın geliştirdiği sistemlerin insan kapasitesini aşması olabilir.

FRANKENSTEIN HİKAYESİ İŞLİYOR

Victor Frankenstein'ın hikâyesindeki en korkutucu an, yaratığın hayata gelmesi değil, yaratıcısının, artık onu kontrol edemediğini fark etmesiydi. Yapay zeka dünyası belki de şimdi o noktaya doğru ilerliyor. Son istifa ve itiraflar da bunun en açık göstergesi. 

patronlardunyasi.com