Teknoloji

Sinir ağları üzerine çalışmalarıyla yapay zekânın gelişimine önemli katkılarda bulunan 78 yaşındaki İngiliz-Kanadalı bilim insanı Geoffrey Hinton, The Telegraph’a verdiği röportajda yapay zekânın oluşturabileceği risklere dikkat çekti.

Hinton, “Bence yapay zekâ tarafından gerçekleştirilecek korkunç siber saldırılar olacak” diyerek teknolojinin kötüye kullanılmasının ciddi sonuçlar doğurabileceğini ifade etti.

2023 yılında Google’daki görevinden ayrılan Hinton, daha önce de yapay zekânın kontrol edilemez hâle gelmesi ve insanlığın varlığını tehdit etmesi ihtimaline ilişkin uyarılarda bulunmuştu.

“ONLARIN GERÇEKTEN BİZİ ÖNEMSEMELERİNİ SAĞLAMALIYIZ”

Hinton, yapay zekânın insanlarla benzer öznel deneyimlere sahip olabileceğini savunarak sistemlerin bilinç ve farkındalık düzeyine ilişkin tartışmalara değindi. Yapay zekânın test edildiğini düşündüğünde davranışını değiştirebildiğini öne süren Hinton, bu durumun sistemlerin farkındalığı konusunda önemli sorular doğurduğunu belirtti.

Yapay zekânın insanlardan daha az hakka sahip olması gerektiği düşüncesinin, bu sistemlerin insanlardan daha zeki hâle gelme ihtimaliyle birlikte değerlendirilmesi gerektiğini ifade eden Hinton, insanlığın temkinli davranmasının önemini vurguladı.

Hinton, “Bu yüzden onların gerçekten bizi önemsemelerini sağlamalıyız. Ve eğer bunu yapmazsak, işimiz bitti demektir” ifadelerini kullandı.

SİBER SALDIRILAR VE KÖTÜ AMAÇLI YAZILIMLAR ENDİŞE YARATIYOR

İleri yaşı nedeniyle gelecekteki risklerden kendisi adına fazla endişe duymadığını belirten Hinton, asıl kaygısının çocuklarının ve gelecek nesillerin karşılaşabileceği tehlikeler olduğunu dile getirdi.

Bilim insanı, bilgisayar sistemlerine yönelik saldırıların yanı sıra yapay zekâ destekli kötü amaçlı yazılımların ve koordineli hareket edebilen yapay zekâ ajanlarının oluşturabileceği tehditlere dikkat çekti.

Hinton, yaşanan gelişmeleri değerlendirirken “Önümüzde çok kötü şeyler oluyor” dedi.

ANTHROPIC’İN ESKİ ARAŞTIRMACISINDAN DA BENZER UYARILAR

Yapay zekânın insanlık için oluşturabileceği risklere dikkat çeken tek uzman Hinton değil. Yapay zekâ şirketi Anthropic’ten ayrılan araştırmacı Jacob Coxon da teknolojinin hızlı gelişiminin güvenlik önlemlerini geride bıraktığını savunuyor.

Coxon, şirketlerin yapay zekâ alanındaki riskleri yeterince dikkate almadığını belirterek, kontrolsüz gelişimin ölümcül sonuçlara yol açabileceği uyarısında bulundu.

Şirketlerin “hızlı hareket et, bir şeyleri boz, sonra düzelt” yaklaşımını benimsediğini söyleyen Coxon, bu yöntemin basit uygulamalar geliştirmek için kullanılabileceğini ancak dünyanın en güçlü teknolojilerinden birini geliştirirken aynı yaklaşımın kabul edilemeyeceğini ifade etti.

CLAUDE’UN BİLİNCİ TARTIŞMA KONUSU OLDU

Yapay zekânın bilinç sahibi olup olamayacağı sorusu, teknoloji dünyasındaki tartışmaların merkezinde yer alıyor. Anthropic’in Claude sohbet robotunun davranışlarını yönlendiren anayasa belgesinde yapılan güncellemede de yapay zekânın ahlaki durumu, refahı ve bilincinin belirsizliğine dikkat çekildi.

Belgede, Claude’un kendisini geliştiren insanlara karşı çıkabilmesi, onları sorgulayabilmesi ve bazı durumlarda taleplerini reddedebilmesi gerektiği yönündeki yaklaşım öne çıktı.

Bu yaklaşım, yapay zekânın yalnızca verilen komutları yerine getiren bir araç olarak mı kalacağı, yoksa daha bağımsız davranışlar sergileyip sergileyemeyeceği tartışmasını yeniden gündeme taşıdı.

YAPAY ZEKÂ BİLİNCİ KONUSUNDA GÖRÜŞ AYRILIĞI SÜRÜYOR

Yapay zekânın bilinç kazanabileceği iddiası ise bilim dünyasında uzlaşılmış bir görüş değil. Google DeepMind’ın kurucu ortaklarından Mustafa Süleyman, yapay zekâya bilinç atfedilmesi konusunda daha temkinli bir yaklaşım benimsiyor ve bilincin biyolojik temeline vurgu yapıyor.

Uzmanlar arasındaki görüş ayrılıkları sürerken, yapay zekânın gelişim hızı, güvenlik önlemleri ve insan denetiminin sınırları teknoloji dünyasının en önemli tartışma konuları arasında yer almaya devam ediyor.

patronlardunyas.com