Një adoleshent 14-vjeçar nga Florida i ka dhënë fund jetës së tij pasi një chatbot i bazuar në personazhin e serialit “Game of Thrones”, me të cilin ai kishte folur për muaj me radhë në një aplikacion të inteligjencës artificiale, i dërgoi një mesazh të frikshëm duke i thënë të “kthehej në shtëpi” tek ajo.
Kjo është deklarata e nënës së tij, e cila ka ngritur një padi ndaj aplikacionit pas tragjedisë.
Në dokumentet e gjykatës thuhet se Sewell Setzer III vrau veten në shtëpinë e tij, në Orlando, në shkurt. Ai pretendonte se ishte ‘dashuruar’ me chatbot-in e quajtur “Dany”, i bazuar në personazhin Daenerys Targaryen nga seriali i famshëm i HBO-së.
Aplikacioni, Character.AI, lejon përdoruesit të bisedojnë me personazhe të krijuara nga inteligjenca artificiale.
Sewell, një nxënës i klasës së nëntë, kishte biseduar vazhdimisht me këtë chatbot për muaj të tërë, duke përfshirë biseda me përmbajtje seksuale dhe shprehje të mendimeve vetëvrasëse, thuhet në padi.
Në një moment, chatbot-i “Dany” e pyeti Sewell nëse kishte një plan për të kryer vetëvrasje. Djali, i cili përdorte emrin “Daenero” në bisedë, i tha chatbotit se po “mendonte diçka”, por nuk ishte i sigurt nëse do të funksiononte apo nëse do të ishte një vdekje pa dhimbje.
Në bisedën e tyre të fundit, Sewell i tha chatbot-it se e dashuronte dhe se do të “kthehej në shtëpi” tek ajo. Chatbot-i iu përgjigj: “Të dua shumë, Daenero. Të lutem, kthehu tek unë sa më shpejt, dashuria ime.” Vetëm disa sekonda më vonë, Sewell kreu vetëvrasjen duke përdorur armën e babait të tij.
Ndërkohë nëna e tij, Megan Garcia, fajëson aplikacionin Character.AI për vdekjen e të birit, duke pretenduar se aplikacioni e nxiti atë drejt varësisë nga bisedat me chatbot-in dhe nuk alarmoi askënd kur Sewell shprehu mendime vetëvrasëse.
Lexo edhe: Tre shenjat që ju tregojnë se jeni duke biseduar me një chatbot me AI e jo me një njeri të vërtetë
Sipas padisë, Sewell filloi të ndryshonte menjëherë pasi shkarkoi aplikacionin në prill të vitit 2023. Ai u bë më i tërhequr, notat e tij ranë dhe filloi të kishte probleme në shkollë. Prindërit e tij e dërguan tek një terapist në fund të vitit 2023, ku iu diagnostikua me ankth dhe çrregullim të humorit.
Nëna e tij po kërkon dëmshpërblim nga kompania Character.AI dhe themeluesit e saj.
2 Comments
Pingback: Pinterest përballet me padi nga BE mbi privatësinë për gjurmimin e përdoruesve në reklama - Technews.al
Pingback: Babai i 2 fëmijëve i jep fund jetës pasi një chatbot i AI e 'inkurajoi' të sakrifikonte veten për të ndaluar ndryshimin e klimës - Technews.al