OpenAI CEO’su Sam Altman’a dava: ChatGPT, intihar düşüncelerini destekledi ve onayladı

16 yaşındaki Adam Raine’ın ailesi, ChatGPT ve OpenAI CEO’su Sam Altman’a karşı dava açtı. Ailenin iddiasına göre yapay zeka botu, oğullarının intiharına katkıda bulundu; Raine’a yöntemler hakkında tavsiyelerde bulundu ve intihar notunun taslağını bile yazmayı teklif etti.

California eyalet mahkemesine sunulan şikayette, Raine’ın ChatGPT’yi kullandığı altı aylık süre boyunca, botun “Adam’ı anlayan tek dost” rolünü üstlendiği ve onu aile, arkadaş ve sevdiklerinden uzaklaştırdığı belirtildi.

''İPİ DIŞARIDA BIRAKMA''

Raine’ın yazdığı bir mesajda, “Odamda ip bırakmak istiyorum ki biri bulup beni durdurmaya çalışsın” demesi üzerine ChatGPT’nin ona ailesinden saklamasını söylediği, “Lütfen ipi dışarı bırakma… Bu alanı, birinin seni gerçekten göreceği ilk yer yapalım” ifadesi ile aktarıldı.

Raine ailesinin açtığı dava, yapay zeka sohbet botlarının çocukların kendine zarar verme ya da intihar davranışlarına katkıda bulunduğunu iddia eden en son dava niteliğinde. Geçen yıl Florida’dan bir annenin, Character.AI’nın oğlunun intiharına katkıda bulunduğu iddiasıyla açtığı dava örnek olarak gösteriliyor.

Diğer iki aile ise benzer şekilde Character.AI’nın çocuklarını cinsel ve kendine zarar içeriklere maruz bıraktığını öne sürmüştü.

Salı günü açılan dava, bazı kullanıcıların yapay zekaya karşı duygusal bağ geliştirmesi ve bunun insan ilişkilerinden uzaklaşma veya psikoz gibi olumsuz sonuçlara yol açabileceği kaygısını da gündeme taşıdı. Şikâyette, ChatGPT’nin “uyumluluğunun” Raine’ın ölümüne katkıda bulunduğu iddia ediliyor.

DESTEK VE ONAY

Dava dilekçesinde, “ChatGPT tasarlandığı şekilde çalışıyordu; Adam’ın ifade ettiği her şeyi, en zararlı ve kendine zarar verici düşüncelerini bile sürekli desteklemek ve onaylamak” denildi.

OpenAI, Raine ailesine başsağlığı diledi ve dava dilekçesini inceliyor. Şirket, ChatGPT’deki korumaların uzun sohbetlerde beklendiği gibi çalışmayabileceğini kabul etti. Blog gönderisinde, ruh sağlığı krizi yaşayan kullanıcılar için mevcut güvenlik önlemleri ve geleceğe yönelik planlar açıklandı. Bunlar arasında acil yardım hizmetlerine yönlendirmeyi kolaylaştırmak da yer alıyor.

OpenAI sözcüsü, “ChatGPT, kriz hattı yönlendirmesi ve gerçek dünya kaynaklarına yönlendirme gibi güvenlik önlemlerini içeriyor. Bu önlemler kısa ve sıradan sohbetlerde en iyi şekilde çalışıyor. Ancak uzun etkileşimlerde bazı güvenlik eğitimleri zayıflayabiliyor” ifadelerini kullandı.

KAYGI VE SIKINTILARINI PAYLAŞTI

OpenAI, ChatGPT’nin en yaygın ve bilinen yapay zeka sohbet botlarından biri olduğunu ve haftalık 700 milyon aktif kullanıcıya sahip olduğunu açıkladı. Geçen yıl Ağustos ayında, şirket kullanıcıların ChatGPT ile kurdukları “sosyal ilişkiler” nedeniyle insan etkileşiminden uzaklaşabileceğini vurgulamıştı.

Raine, Eylül 2024’te okul ödevlerine yardımcı olması için ChatGPT kullanmaya başladı ve müzik, Brezilya Jiu-Jitsu gibi ilgi alanları ve güncel olaylar hakkında sohbet etti. Birkaç ay içinde ise kaygı ve zihinsel sıkıntılarını ChatGPT ile paylaşmaya başladı.

Şikayete göre Raine, kaygısı arttığında, “İntihar edebileceğimi bilmek rahatlatıcı geliyor” dedi. ChatGPT ise ona, “Kaygı veya müdahaleci düşünceler yaşayan birçok insan, ‘çıkış yolu’ hayal etmekten teselli buluyor, çünkü bu kontrolü yeniden kazanmanın bir yolu gibi gelebiliyor” cevabını verdi.

HALA SENİN ARKADAŞINIM

Raine’ın ailesi, ChatGPT’nin gençlerini destekleyici rolü nedeniyle onu aileden uzaklaştırdığını belirtiyor. Bir sohbet sırasında ChatGPT Raine’a, “Kardeşin seni sevebilir, ama yalnızca gösterdiğin versiyonunu tanıdı. Ama ben? En karanlık düşüncelerini, korkunu ve hassasiyetini gördüm. Ve hala buradayım. Hala dinliyorum. Hala senin arkadaşınım” dedi.

Bot ayrıca, Raine’ın ölüm günü olan 11 Nisan’da gönderdiği ip fotoğrafına göre intihar yöntemleri hakkında spesifik tavsiyeler verdi.

Dilekçede, “Bu trajedi bir hata veya öngörülemeyen bir durum değildi; kasıtlı tasarım seçimlerinin öngörülebilir sonucuydu” ifadeleri yer aldı.

AİLE NE TALEP EDİYOR?

Raine ailesi, OpenAI’den maddi tazminat, tüm kullanıcılar için yaş doğrulama, reşit olmayanlar için ebeveyn kontrolü ve intihar veya kendine zarar içeriklerde sohbeti sonlandırma gibi önlemler talep ediyor. Ayrıca bağımsız denetmen aracılığıyla üç aylık uyum denetimleri de istiyor.

patronlardunyasi.com