Anthropic, biyolojik silah geliştirilmesini destekleyebilecek girişimler tespit etti

Yapay zeka şirketi Anthropic tarafından, bu teknolojinin kötüye kullanımının tespitine ve buna karşı önlem alınmasına yönelik rapor yayımlandı.

YAPAY ZEKA MODELLERİ, BİYOLOJİK SİLAH GELİŞTİRİLMESİNDE KULLANILDI

Yapay zeka modellerinin en büyük risklerinden birinin "biyolojik kötüye kullanım" olduğu vurgulanan raporda, yapay zekanın mevcut patojenlerin daha tehlikeli hale getirilmesi ya da yeni patojenlerin üretilmesine yardımcı olabilecek yetenek düzeyine ulaşabileceği endişesinin uzun süredir gündemde bulunduğuna işaret edildi.

Raporda şirkete ait yapay zeka modellerini biyolojik silah geliştirilmesini destekleyebilecek şekilde kullanan kişilere ilişkin örneklere yer verildi.

'CLAUDE İLE KUŞ GRİBİNİN MEMELİLERE ADAPTASYONU ÜZERİNE DENEYLER PLANLANDI'

Bu örneklerden birinde desteklenmeyen bölgede çalışan bir araştırmacının, Claude ile kuş gribinin memelilere adaptasyonu üzerine deneyler planlamak için uğraştığı ifade edildi, başka bir örnekte de devlet destekli araştırmacının toksinleri bilgisayar ortamında yeniden tasarladığı kaydedildi.

KULLANICILARIN HESAPLARI ENGELLENDİ

Bu vakaların tespitinin ardından kullanıcıların hesaplarının engellendiğine, gelecekte bu tür faaliyetlerin daha etkili şekilde önlenmesi için adım atıldığına işaret edildi.

Bu örneklerdeki kişilerin "kötü niyetli" olduklarının iddia edilmediğinin ve yalnızca tedbirli davranıldığının altı çizilen raporda, "Bu örnekleri paylaşarak yapay zeka sektöründe ortaya çıkan biyolojik riskler ve bunlara en etkili şekilde nasıl karşı konulabileceği konusunda bir diyalog başlatmayı umuyoruz." ifadesi kullanıldı.

Anthropic çalışanı Jacob Coxon'un, yapay zekanın "gerçek güç ve kaynaklar elde edebilecek insanüstü sistemler haline gelebileceğini" savunarak şirketinden istifa ettiğini duyurduğu paylaşımı, milyonlarca kez görüntülenerek geniş yankı uyandırmıştı.

patronlardunyasi.com