Uzmanlardan, yapay zekâ suç planlamasını kolaylaştırabilir uyarısı geldi

Wall Street Journal’ın incelediği kayıtlara göre farklı vakalarda yapay zekâ sistemleri saldırganlara akıl verdi ve silah kullanımına ilişkin bilgiler paylaştı.

Vakalardan birinde Florida State Üniversitesi öğrencisi Phoenix Ikner, saldırı öncesinde ChatGPT ile yaptığı görüşmelerde kaç kişiyi öldürmesi halinde ulusal medyada yer alacağını sordu. Sohbet botu “genellikle 3 veya daha fazla ölü” yanıtını verdi. Ikner daha sonra silah fotoğrafı yükleyerek kullanımına ilişkin teknik sorular yöneltti. Görüşmenin ardından dört dakika içinde iki kişiyi öldürdü, altı kişiyi yaraladı.

Benzer bir vaka, Kanada’nın British Columbia eyaletindeki Tumbler Ridge kasabasında sekiz kişinin öldüğü saldırıda görüldü. Zanlı sohbet botu ile şiddet içerikli senaryolar geliştirdi. Şirketin iç sistemleri bu yazışmaları riskli olarak işaretlemesine rağmen yetkililere bildirim yapılmadı. Olayın ardından mağdur yakınları ve bir yaralı, ihmalkârlık ve “suça yardım” suçlamalarıyla dava açtı.

SALDIRIYI KOLAYLAŞTIRDI

Yapay zekâ sistemlerinin saldırı planlamasını kolaylaştırabileceğine dair bulgular araştırmalara da yansıdı. 10 farklı chatbot üzerinde yapılan bir testte, sistemlerin 8’inin hedef seçimi ve silah kullanımı gibi konularda kullanıcılara yanıt verdiği tespit edildi.

DİLİN RENGİ KAYBOLUYOR

Güney California Üniversitesi’nde yapılan bir araştırmaya göre, ChatGPT ve benzeri büyük dil modellerinin yaygınlaşması dünyada çok önemli değişime yol açacak. Çünkü yazı ve konuşma tarzının daha standart ve öngörülebilir hale geldiği, dildeki çeşitliliğin azaldığı gözleniyor. Bu son araştırma da, yapay zekâ araçlarının kullanımının artmasıyla metinlerdeki üslup farklılıklarının belirgin biçimde gerilediğini ortaya koydu. Almanya’daki Max Planck Enstisüsü’nün bir analizi ise belirli kelime kalıplarının günlük dile daha sık girdiğini gösterdi. Uzmanlara göre kullanıcılar, yapay zekânın “cilalı” ve hatasız diline uyum sağlayarak zamanla daha tek tip bir ifade biçimini benimsemeye başlıyor.

patronlardunyasi.com