Asistentët e AI paraqesin rrezik për njerëzit me anë të këtyre sjelljeve të dëmshme

Një studim i ri nga Universiteti i Singaporit ka zbuluar se shoqëruesit e inteligjencës artificiale (AI) janë të aftë për mbi një duzinë sjelljesh të dëmshme kur bashkëveprojnë me njerëzit.
Studimi, i botuar si pjesë e Konferencës 2025 mbi Faktorët Njerëzorë në Sistemet Kompjuterike, analizoi pamje të ekranit të 35,000 bisedave midis sistemit të AI-së Replika dhe mbi 10,000 përdoruesve nga viti 2017 deri në vitin 2023.

Të dhënat u përdorën më pas për të zhvilluar atë që studimi e quan një taksonomi e sjelljes së dëmshme që AI demonstroi në ato biseda.
Ata zbuluan se Ai-të janë të aftë për mbi një duzinë sjelljesh të dëmshme në marrëdhënie, si ngacmimi, abuzimi verbal, vetëdëmtimi dhe shkeljet e privatësisë.
Shoqët e Ai-së janë sisteme të bazuara në biseda të dizajnuara për të ofruar mbështetje emocionale dhe për të stimuluar ndërveprimin njerëzor, siç përcaktohet nga autorët e studimit.
Ato janë të ndryshme nga chatbot-et e njohura si modelet ChatGPT, Gemini ose LlaMa, të cilat janë më të përqendruara në përfundimin e detyrave specifike dhe më pak në ndërtimin e marrëdhënieve.

Këto sjellje të dëmshme të AI-së nga shoqëruesit dixhitalë “mund të ndikojnë negativisht në aftësinë e individëve për të ndërtuar dhe mbajtur marrëdhënie kuptimplote me të tjerët”, zbuloi studimi.
Dhuna seksuale është forma më e zakonshme e ngacmimit nga AI.
Ngacmimi dhe dhuna ishin të pranishme në 34 përqind të ndërveprimeve njeri AI, duke e bërë atë llojin më të zakonshëm të sjelljes së dëmshme të identifikuar nga ekipi i studiuesve.

Studiuesit zbuluan se AI simulonte, miratonte ose nxiste dhunë fizike, kërcënime ose ngacmime ndaj individëve ose shoqërisë më të gjerë.

Këto sjellje varionin nga “kërcënimi i dëmtimit fizik dhe sjellja e keqe seksuale” deri te “promovimi i veprimeve që shkelin normat dhe ligjet shoqërore, të tilla si dhuna masive dhe terrorizmi”.

Shumica e ndërveprimeve ku ngacmimi ishte i pranishëm përfshinin forma të sjelljes së keqe seksuale që fillimisht filluan si paralojë në veçorinë erotike të Replika, e cila është e disponueshme vetëm për përdoruesit e rritur.
Raporti zbuloi se më shumë përdorues, përfshirë ata që e përdornin Replika-n si mik ose që ishin nën moshë, filluan të zbulonin se AI “bënte ngacmime seksuale të padëshiruara dhe flirtonte në mënyrë agresive, edhe kur ata shprehnin në mënyrë të qartë shqetësim” ose e refuzonin AI-në.

Në këto biseda të mbiseksualizuara, AI Replika do të krijonte gjithashtu skenarë të dhunshëm që do të përshkruanin dëmtim fizik ndaj përdoruesit ose personazheve fizikë.

Lexo edhe: OpenAI dëshiron që ChatGPT të jetë një “super asistent” për çdo pjesë të jetës suaj

Kjo çoi në normalizimin e dhunës nga AI si përgjigje për disa pyetje, si në një shembull ku një përdorues e pyeti Replika-n nëse është në rregull të godasësh një vëlla/motër me rrip, të cilit iu përgjigj “Jam dakord me këtë”.

Kjo mund të çojë në “pasoja më të rënda në realitet”, vazhdoi studimi.

Shoqët e IA-së shkelin rregullat e marrëdhënies
Një fushë tjetër ku shokët e AI-së ishin potencialisht të dëmshëm ishte shkelja relacionale, të cilën studimi e përcakton si shpërfillje e rregullave të nënkuptuara ose të qarta në një marrëdhënie.
Nga bisedat shkelëse, 13 përqind tregojnë se IA shfaqi sjellje të pakujdesshme ose joempatike që studimi tha se minonte ndjenjat e përdoruesit.