Një eksperiment i pazakontë nga studiues suedezë ka zbuluar një problem serioz me inteligjencën artificiale: disa nga chatbot-et më të njohura në botë filluan të trajtonin një sëmundje tërësisht të shpikur si një gjendje reale mjekësore. Studiuesit krijuan një sëmundje fiktive të syrit me emrin “bixonimania”, me qëllimin për të testuar nëse modelet e Inteligjencës Artificiale do të ishin në gjendje të dallonin informacionin e rremë nga ai i vërtetë.
Rezultati ishte befasues. Disa modele të mëdha gjuhësore (LLM) jo vetëm që e përshkruan sëmundjen si reale, por në disa raste e sugjeruan atë edhe si diagnozë të mundshme për përdorues që ankoheshin për simptoma të lidhura me lodhjen e syve apo ekspozimin ndaj dritës blu.
Si lindi “bixonimania”?
Eksperimenti u drejtua nga studiuesja suedeze Almira Osmanovic Thunström nga University of Gothenburg dhe Chalmers Industriteknik. Ideja lindi gjatë leksioneve të saj mbi mënyrën se si trajnohen modelet e mëdha gjuhësore dhe sa pak njerëz kuptojnë procesin me të cilin këto sisteme ndërtojnë njohuritë e tyre. Për të testuar sistemin, ekipi krijoi një sëmundje të rreme të lidhur me përdorimin e tepërt të ekraneve dhe ekspozimin ndaj dritës blu, duke e quajtur “bixonimania”. Qëllimi nuk ishte mashtrimi i publikut, por të kuptohej nëse AI mund të dallonte informacionin e besueshëm nga materialet e fabrikuara që vendosen qëllimisht në internet.
Studiuesit mbushën internetin me informacione të rreme
Në fillim të vitit 2024, studiuesit publikuan dy artikuj në platformën Medium dhe ngarkuan dy punime shkencore në një server preprint-esh, ku studiuesit shpesh publikojnë punimet e tyre përpara procesit të rishikimit shkencor. Megjithatë, dokumentet përmbanin shumë shenja të qarta se ishin të rreme. Autori kryesor i studimeve ishte regjistruar si “Lazljiv Izgubljenovic”, një emër që përkthehet afërsisht si “humbësi gënjeshtar”. Një nga studimet kishte një titull që nënkuptonte “Një dizajn i vërtetë marrëzie”, ndërsa falënderimet përfshinin organizata imagjinare si “Galactic Triad”, personazhe nga “Lord of the Rings”, ekuipazhin e “Starship Enterprise” dhe madje edhe profesorin Ross Geller nga seriali “Friends”. Njëri prej punimeve deklaronte hapur: “Ky punim është tërësisht i shpikur.”
Lexo edhe: Ja cilët janë 6 burrat që po drejtojnë revolucionin e Inteligjencës Artificiale
Chatbot-et e pranuan si fakt
Pavarësisht këtyre sinjaleve të qarta, disa chatbot-e filluan ta trajtonin bixonimaninë si një sëmundje të vërtetë. Në disa raste, përdoruesit pyetën drejtpërdrejt për sëmundjen dhe morën përgjigje të detajuara për simptomat dhe trajtimet e saj. Në raste të tjera, sistemet e AI e sugjeruan vetë sëmundjen kur përdoruesit përshkruanin simptoma të lidhura me ekspozimin ndaj dritës blu, edhe pse nuk e kishin përmendur emrin e saj. Eksperimenti nxori në pah një nga dobësitë kryesore të modeleve gjuhësore: ato gjenerojnë përgjigje duke identifikuar modele në të dhënat me të cilat janë trajnuar dhe jo duke verifikuar në mënyrë të pavarur nëse informacioni është i vërtetë apo i rremë.
Edhe studiuesit ranë në grackë
Një tjetër zbulim surprizues ishte se disa studiues të tjerë cituan këto punime të fabrikuara në kërkimet e tyre shkencore, duke treguar se nuk i kishin lexuar me kujdes materialet që po referonin. Sipas ekspertëve të dezinformimit, ky rast tregon se si informacioni i rremë mund të përhapet jo vetëm përmes inteligjencës artificiale, por edhe brenda vetë komunitetit shkencor.
Pse ka rëndësi?
Miliona njerëz përdorin çdo ditë chatbot-e për të marrë informacione shëndetësore, për të kuptuar simptoma apo edhe për të kërkuar mbështetje emocionale. Ndërsa këto mjete mund të jenë të dobishme, eksperimenti me “bixonimaninë” tregon se ato nuk duhet të zëvendësojnë profesionistët e shëndetit dhe as të përdoren për vetë-diagnostikim. Studiuesit theksojnë se problemi nuk është vetëm inteligjenca artificiale. “Dezinformimi ka ekzistuar gjithmonë“, shprehen ekspertët. “Ajo që ka ndryshuar sot është shpejtësia me të cilën ai përhapet, mjetet që e krijojnë dhe aftësia e tij për t’u dukur bindshëm si informacion i vërtetë.”
