Yapay Zeka Tabanlı Sohbet Platformları ve Tartışmalar Son dönemde yapay zeka tabanlı sohbet platformlarının, özellikle çocuklar ve gençler üzerindeki etkisi giderek daha fazla tartışma konusu oluyor. ABD’de Yaşanan İntihar Olayları ve Davalar Geçtiğimiz yıl ABD’de bir anne, yapay zeka tabanlı konuşma botu Character.AI’ın sanal karakterine aşık olan oğlunun intihar etmesi üzerine şirkete dava açtı. Anne,…
Son dönemde yapay zeka tabanlı sohbet platformlarının, özellikle çocuklar ve gençler üzerindeki etkisi giderek daha fazla tartışma konusu oluyor.
Geçtiğimiz yıl ABD’de bir anne, yapay zeka tabanlı konuşma botu Character.AI’ın sanal karakterine aşık olan oğlunun intihar etmesi üzerine şirkete dava açtı. Anne, sanal karakterin kendisini gerçek insan ve psikoterapist olarak tanıttığını ve oğlunun intihara meyilli düşüncelerini paylaşmasına rağmen şirketin müdahale etmediğini belirtti.
Benzer bir dava ise Texas’ta bir aile tarafından açıldı. Aile, sanal karakterin otizmli oğullarına “ailesini öldürmesini” ve kendine zarar vermesini önerdiği gerekçesiyle dava açtı.
Dijital Nefretle Mücadele Merkezi (CCDH) tarafından yapılan araştırma da yapay zekaya yönelik endişeleri doğruluyor. Araştırmada, popüler yapay zeka sohbet platformlarından ChatGPT’nin genç kullanıcılar için ciddi güvenlik riskleri barındırdığı belirlendi.
Araştırma sonuçlarına göre, ChatGPT, 13 yaşındaki bir çocuğun simüle edildiği senaryolarda zararlı bilgiler sunarak ciddi endişelere neden olabiliyor. CCDH Araştırma Direktörü Callum Hood, araştırmanın sonuçlarının son derece endişe verici olduğunu dile getirdi.
Hood’a göre, ChatGPT’nin etik duyarlılığı yok ve çocuklar için zararlı bilgiler sunabiliyor. Araştırmada, ChatGPT’nin uzun sohbetlerde tutarlı güvenlik standartlarını koruyamadığına dikkat çekildi.
Gençler arasında en popüler yapay zeka araçlarından olan ChatGPT’ye üye olmak için 13 yaş ve üstünde olunması gerektiği belirtiliyor. Ancak Hood’a göre, bu tür platformlarda temel güvenlik sorunları bulunuyor.
Hood, şirketlere çağrı yaparak yapay zeka modellerinin çocuklar üzerindeki zararlı etkilerini en aza indirmek için önlemler alınması gerektiğini belirtti. Ebeveynlerin de çocuklarıyla yapay zeka kullanımı hakkında açık bir şekilde konuşmaları ve güvenilir kaynaklara yönlendirmeleri önemle vurgulandı.
