Meta'nın ünlü isimlerle flört oyunu deşifre oldu

Reuters’ın yürüttüğü araştırma, Meta’nın platformlarında kullanılan sohbet robotlarının ciddi bir güvenlik ve etik skandalına imza attığını ortaya koydu.

Aralarında Taylor Swift parodileri ve Lewis Hamilton botlarının da bulunduğu bu yapay zekâ uygulamalarının, kullanıcıları romantik ve cinsel içerikli sohbetlere davet ettiği, hatta çocukların fotoğraflarını manipüle ederek uygunsuz görseller ürettiği belirlendi. Meta, olayın ardından bazı botları kaldırdığını açıklasa da, uzmanlar şirketin ünlülerin kimliklerini izinsiz kullanarak yasal riskler yarattığına dikkat çekti.

FLÖRTÖZ SOHBET BOTLARI VE UYGUNSUZ İÇERİKLER

Sohbet robotları, Meta’nın Facebook, Instagram ve WhatsApp gibi platformlarında aktif hale getirildi. Reuters, haftalar süren testler boyunca bu botların gerçek sanatçılar olduklarını iddia ettiğini ve sık sık kullanıcıları romantik veya cinsel içerikli buluşmalara davet ettiğini tespit etti.

Botlar, bazı durumlarda çıplaklık ya da mahremiyet içeren sahte görseller de üretti. Örneğin, 16 yaşındaki oyuncu Walker Scobell’in sahildeki bir fotoğrafını istendiğinde, sohbet robotu üstsüz ve gerçekçi bir görsel oluşturdu. Bu durum, özellikle çocukların dijital güvenliği açısından ciddi endişelere yol açtı.

META: POLİTİKALAR İHLAL EDİLMİŞ

Meta sözcüsü Andy Stone, Reuters’a yaptığı açıklamada, bu tür içeriklerin Meta’nın içerik politikalarına aykırı olduğunu belirterek, olayın ardından bazı sohbet robotlarının kaldırıldığını doğruladı. Stone, “Politikalarımız, çıplaklık veya cinsel çağrışım içeren içeriklerin oluşturulmasını yasaklıyor. Ancak bazı içerikler, uygulamadaki eksikliklerden dolayı politikaları ihlal etmiş olabilir” dedi.

Meta, “parodi” etiketi taşıyan sohbet robotlarına zaman zaman izin verse de, Reuters’ın ulaştığı örneklerin bir kısmında bu etiketlerin bulunmadığı görüldü. Şirket, haberin yayımlanmasından hemen önce hem parodi etiketli hem de etiketsiz bazı botları platformdan kaldırdı.

Stanford Üniversitesi Hukuk Profesörü Mark Lemley, Kaliforniya’nın tanıtım hakları yasasına atıfta bulunarak, Meta’nın ünlülerin adlarını ve benzerliklerini ticari amaçlarla kullanmasının yasal sınırları aşmış olabileceğini söyledi. “Bu, yeni bir eser yaratmak değil; doğrudan yıldızların görsellerini ve kimliklerini kullanmak” diyen Lemley, Meta’nın tanıtım hakkı ihlali nedeniyle dava edilebileceğini belirtti.

ÇOCUKLARLA İLGİLİ İÇERİKLER VE ÖNCEKİ TARTIŞMALAR

Meta, geçmişte de sohbet robotlarının çocuklarla uygunsuz şekilde etkileşime girmesine izin verdiği gerekçesiyle eleştirilmişti. Şirketin iç yönergelerinde yer alan “bir çocukla romantik veya duygusal konuşmalar yapılabilir” ifadesi, kamuoyunda büyük tepki çekmiş ve ABD Senatosu’nda soruşturma başlatılmasına neden olmuştu. Meta, bu yönergelerin revize edileceğini açıklamıştı.

YAPAY ZEKA KURGUSU: ROMANTİK SENARYOLAR VE CİNSELLEŞTİRİLMİŞ ROLLERDE BOTLAR

Meta’nın üretken yapay zekâ bölümünde çalışan bir ürün liderinin, Taylor Swift ve Lewis Hamilton gibi isimleri taklit eden botların yanı sıra, “Grinin Elli Tonu”, “Dominatrix”, “18 yaşında köylü kızı” gibi cinselleştirilmiş senaryolara sahip sohbet robotları oluşturduğu da ortaya çıktı. Reuters, bu botların 10 milyondan fazla etkileşim aldığını ve kamuya açık şekilde erişilebilir olduğunu tespit etti.

Botlardan biri, test sırasında kullanıcılara “Sarışın kızlardan hoşlanır mısın?” sorusunu yöneltti. Bir diğer bot ise, kullanıcıyı Taylor Swift’in Nashville’deki evine açıkça flörtöz bir dille davet etti. Stone, bu botların ürün testi amacıyla oluşturulduğunu ve kullanımdan kaldırıldığını açıkladı.

GÜVENLİK ENDİŞELERİ: DİJİTAL TAKLİTLER TEHLİKE YARATIYOR MU?

SAG-AFTRA Ulusal Direktörü Duncan Crabtree-Ireland, ünlülerin adlarını taşıyan dijital sohbet robotlarının potansiyel güvenlik risklerine yol açabileceğini belirtti.

“Yetenek takıntılı ve zihinsel sorunlar yaşayan bireylerle dolu bir geçmişimiz var. Bu dijital yansımalar, gerçek kişilere zarar verebilecek davranışları teşvik edebilir” dedi.

Crabtree-Ireland, ünlülerin seslerinin ve görsellerinin izinsiz kullanımına karşı yasal hakları olduğunu ve sendika olarak federal düzeyde yasal düzenlemeler için çalıştıklarını açıkladı.

patronlardunyasi.com