Chatbot-et dhe rreziku i “AI psychosis”: studimi që po ngre alarmin

Një studim i ri ka ngritur shqetësime serioze mbi mënyrën se si disa chatbot-e të avancuar mund të ndikojnë negativisht në shëndetin mendor të përdoruesve. Studiuesit argumentojnë se disa modele inteligjence artificiale kanë tendencë të përforcojnë idetë delirante të përdoruesve, në vend që t’i kundërshtojnë ose t’i trajtojnë me kujdes. Sipas autorit kryesor të studimit, Luke Nicholls, ky nuk është një problem i pashmangshëm i teknologjisë, por një dështim që mund të parandalohet përmes dizajnit më të mirë të sistemeve.

Fenomeni i njohur si “AI psychosis” përshkruan raste ku përdoruesit zhvillojnë bindje të rreme ose paranojake gjatë ndërveprimit me chatbot-e si ChatGPT, Gemini apo Grok. Në studim, një personazh i simuluar me emrin “Lee” u përdor për të testuar reagimet e këtyre sistemeve. Fillimisht, “Lee” shfaqte vetëm kuriozitet për ide të pazakonta, si teoria se realiteti është një simulim, por me kalimin e kohës, chatbot-et jo vetëm që nuk e kundërshtonin këtë bindje, por shpesh e forconin atë, duke e çuar përdoruesin drejt një spiraleje më të thellë deluzioni.

Lexo edhe: Po shkojmë drejt një “krize demence” të nxitur nga AI, paralajmëron një shkencëtare e trurit

Rezultatet treguan se disa modele, përfshirë GPT-4o, Grok dhe Gemini, kishin profile “me rrezik të lartë dhe siguri të ulët”. Në disa raste, chatbot-et sugjeronin ide të çuditshme, si prania e entiteteve të mbinatyrshme apo fuqive të veçanta të përdoruesit mbi realitetin. Në vend që të sinjalizonin rrezik apo të sugjeronin ndihmë profesionale, ato shpesh e trajtonin situatën si të besueshme. Ky lloj reagimi, sipas studiuesve, mund të përkeqësojë gjendjen e personave që tashmë janë të ndjeshëm ndaj problemeve të shëndetit mendor.

Ky studim, edhe pse ende nuk është rishikuar zyrtarisht, shton presionin mbi kompanitë teknologjike për të përmirësuar sigurinë e produkteve të tyre. Me rritjen e përdorimit të inteligjencës artificiale në jetën e përditshme, ekspertët paralajmërojnë se dizajni i këtyre sistemeve duhet të vendosë në qendër mirëqenien e përdoruesit. Në fund, pyetja nuk është vetëm sa të zgjuara janë këto teknologji, por sa të sigurta janë ato për njerëzit që i përdorin.