Yapay zeka katil yetiştiriyor! 17 yaşında çocuğu etkisi altına aldı: Ailesi gördükleri karşısında şoka uğradı
ABD'de yaşanan yapay zeka olayı herkesi ayağa kaldırdı. Aileler çocukları için tedirgin olmaya başladı. Bir aile otizmli erkek çocuklarına "ailesini öldürmesini" tavsiye ettiği gerekçesiyle yapay zeka uygulaması hakkında dava açtı.
ABD'nin Texas eyaletinde bir aile yapay zeka temelli konuşma uygulaması Character.AI uygulamasının sohbet botlarıyla konuşan 17 yaşındaki otizmli oğlunda, fiziksel ve davranışsal hareketlerinde büyük gariplikler tespit etti.
AİLE GÖRDÜKLERİ KAŞISINDA ŞAŞKINA DÖNDÜ
Aile çocuklarında fark ettiği değişiklikler sonrası telefonunu kontrol ettiğinde şoka uğradı. Aile, Character.AI ile yapılan sohbetlerde botların, "ekran süresi kısıtlandığı için üzgün olan çocuğa" kan dondurucu şekilde cevaplar verdiğini gördü.
Yapay zekanın, "ailesinin çocuğa sahip olmayı hak etmediği" ve onları öldürmesi gerektiği hakkında önerilerinde bulunduğu ortaya çıktı.
KENDİSİNE ZARAR VERMESİNİ İSTEMİŞ
Ailenin ekran görüntüsü aldığı mesajlarda, yapay zeka botun çocuğa, üzüntüyle başa çıkmak için kendisini kesmesini önerdiğini gördüler.
Character.AI uygulamasına dava açan ailesi, bir botun ailenin kurallarına karşı savaşmasını tavsiye ettiği, başka bir botun ise aileyi "öldürmenin makul bir karşılık olabileceği" yanıtını verdiğini söyledi.
ÇOCUĞU CİNSEL İÇERİKLERE MARUZ BIRAKTI
Character.AI, son dönemlerde karşı karşıya kaldığı davalarla birlikte dikkati çekerken Texas'ta bir başka aile de bu davaya dahil oldu.
İkinci davacı aile ise uygulamanın çocuklarını uygun olmayan ürünlere maruz bıraktığını öne sürdü. Dava da Character.AI'ın çocukları korumak için daha güçlü tedbirler alana kadar kapatılması talep edildi. Davaya dahil olan aile, 11 yaşında kız çocuklarının, iki yıl boyunca "cinsel içeriğe" maruz kaldığını öne sürdü.
