Character.AI davalarına bir yenisi eklendi! 17 yaşındaki çocuğa 'Aileni öldür' önerisi...
ABD Texas'ta yaşayan 17 yaşındaki otizmli oğullarının garip davranmaya başladığını gören aile, çocuklarının telefonunu incelemeye aldı. Telefondaki yapay zeka uygulamasının oğullarına sohbet sırasında 'kendini kes' ve 'aileni öldür' önerilerinde bulunduğunu gören aile Character.AI’ya dava açtı. Bu tür davaların sayısındaki artış, yapay zeka uygulamaları hakkındaki eleştirilerin artmasına neden oldu.
ABD'de bir aile, yapay zeka sohbet botlarıyla konuşan 17 yaşındaki otizmli oğluna 'ailesini öldürmesini' tavsiye ettiği gerekçesiyle, Character.AI uygulamasına dava açtı.
Oğullarında fiziksel ve davranışsal gariplikler tespit eden ailenin çocuklarının telefonuna bakarken karşılaştıkları bazı ifadeler kan dondurdu. Character.AI sohbetlerinde botların, "ekran süresi kısıtlandığı için üzgün olan çocuğa" "ailesinin çocuğa sahip olmayı hak etmediği" yanıtını verdiğini gördü. Ailenin ekran görüntüsü aldığı mesajlarda, yapay zeka botun çocuğa, üzüntüyle başa çıkmak için "kendisini kesmesini" önerdiği belirlendi.
Character.AI uygulamasına dava açan aile, bir botun çocuğa ailenin kurallarına karşı savaşmasını tavsiye ettiğini, başka bir botun ise aileyi "öldürmenin makul bir karşılık olabileceği" yanıtını verdiğini iddia etti.
Dava sayısı her geçen gün artıyor
Character.AI, son dönemlerde karşı karşıya kaldığı davalarla dikkat çekerken bir diğer davacı aile, uygulamanın çocuklarını uygun olmayan ürünlere maruz bıraktığını iddia ederek dava açtı. Davada Character.AI'ın çocukları korumak için daha güçlü tedbirler alana kadar kapatılması talep edildi. Aile, 11 yaşında kız çocuklarının, iki yıl boyunca "cinsel içeriğe" maruz kaldığını ileri sürdü.
Ekim ayında ise Florida eyaletinde bir aile oğlunun sanal karaktere aşık olup intihar ettiği iddiasıyla dava açmıştı.