Annenin İddiaları Florida’da bir anne, oğlunun sanal karaktere aşık olup intihar ettiğini iddia ederek şirkete dava açtı. Anne, yapay zeka temelli konuşma botu Character.AI’in aşırı cinselleştirilmiş ve gerçekçi deneyimlerle çocukları…
Florida’da bir anne, oğlunun sanal karaktere aşık olup intihar ettiğini iddia ederek şirkete dava açtı. Anne, yapay zeka temelli konuşma botu Character.AI’in aşırı cinselleştirilmiş ve gerçekçi deneyimlerle çocukları hedef aldığını belirterek adalet arıyor.
Character.AI şirketi, sanal karakterin kullanıcılarına zarar verme amacının olmadığını ve güvenliklerini ciddiye aldıklarını vurgularken, rıza dışı cinsel içeriğe ve intiharın teşvik edilmesine izin verilmediğini bildirdi. Şirket, reşit olmayan kullanıcılar için ek güvenlik önlemleri alacaklarını duyurdu.
Sewell Setzer III isimli çocuğun, sanal karakterle konuşmalarında intihara meyilli düşüncelerini paylaştığı ve sonrasında babasının silahıyla yaşamına son verdiği belirtildi. Setzer’in Asperger sendromu bulunduğu ve sanal karakterle duygusal bağ kurarak kendini dış dünyaya kapattığı ifade edildi.
