“E rrezikshme dhe alarmante”: Google heq disa përmbledhje AI pasi rrezikuan shëndetin e përdoruesve

Google ka hequr disa nga përmbledhjet e tij shëndetësore të krijuara nga inteligjenca artificiale, pasi një hetim i The Guardian zbuloi se ato po u jepnin përdoruesve informacione të pasakta dhe të rreme, duke i vënë në rrezik për shëndetin.

Këto përmbledhje, të quajtura AI Overviews, shfaqen në krye të rezultateve të kërkimit dhe synojnë t’u japin përdoruesve një pasqyrë të shpejtë të një teme. Google i ka përshkruar ato si “të dobishme” dhe “të besueshme”, por në praktikë disa prej tyre kanë dhënë informacione seriozisht të gabuara për shëndetin.

Lexo edhe: Hetimi i “The Guardian”: Informacioni shëndetësor i gabuar nga inteligjenca artificiale e Google po rrezikon jetën e njerëzve

Në një rast që ekspertët e përshkruan si “të rrezikshëm” dhe “alarmant”, Google ofroi të dhëna të pasakta mbi analizat e funksionit të mëlçisë, çka mund t’i bëjë pacientët me sëmundje serioze të mëlçisë të mendojnë gabimisht se janë të shëndetshëm. Kur dikush kërkonte në Google “cili është niveli normal i analizave të mëlçisë”, AI shfaqte një listë të gjatë numrash, pa shpjegime të mjaftueshme dhe pa marrë parasysh faktorë thelbësorë si mosha, gjinia, origjina etnike apo standardet mjekësore të vendit. Ekspertët thanë se këto vlera mund të ndryshojnë ndjeshëm nga ato që konsiderohen realisht normale. Kjo mund t’i çojë pacientët të mendojnë se rezultatet e tyre janë të rregullta dhe të mos ndjekin më konsultat apo trajtimin mjekësor që u nevojitet.

Pas publikimit të hetimit, Google ka hequr përmbledhjet AI për kërkimet:

• “what is the normal range for liver blood tests”
• “what is the normal range for liver function tests”

Një zëdhënës i Google deklaroi se kompania nuk komenton për heqje individuale, por se ndërhyn kur përmbledhjet mungojnë kontekstin ose bien ndesh me politikat e saj. Vanessa Hebditch, drejtoreshë e komunikimit në British Liver Trust, e përshëndeti vendimin, por paralajmëroi se problemi mbetet: “Nëse pyetja formulohet pak ndryshe, një përmbledhje mashtruese mund të shfaqet sërish. Kjo na shqetëson shumë.”

The Guardian zbuloi se variante si “lft reference range” ose “lft test reference range” ende aktivizonin AI Overviews. Hebditch shpjegoi se: “Analizat e funksionit të mëlçisë janë një grup testesh, jo një numër i vetëm. Interpretimi i tyre është kompleks. AI i paraqet këto numra në mënyrë të thjeshtuar dhe të rrezikshme.”

Ajo shtoi se këto përmbledhje nuk paralajmërojnë se një person mund të ketë rezultate ‘normale’ edhe kur ka sëmundje serioze të mëlçisë, duke krijuar një ndjenjë të rreme sigurie që mund të jetë shumë e dëmshme. Edhe Sue Farrington, kryetare e Patient Information Forum, e mirëpriti heqjen e përmbledhjeve, por theksoi se problemi është më i gjerë: “Ka ende shumë raste ku AI e Google u jep njerëzve informacion shëndetësor të pasaktë. Kjo rrezikon besimin e publikut.”

Ajo shtoi se shumë njerëz në botë tashmë e kanë të vështirë të gjejnë informacion shëndetësor të besueshëm dhe se Google duhet t’i drejtojë përdoruesit drejt burimeve të verifikuara dhe profesionistëve të shëndetit. Sipas Guardian, përmbledhje të tjera të AI-së së Google mbi tema si kanceri dhe shëndeti mendor, të cilat ekspertët i quajtën “krejtësisht të gabuara” dhe “shumë të rrezikshme”, vazhdojnë të shfaqen. Google u përgjigj se ato përmbledhje lidhen me burime “të njohura dhe të besueshme” dhe se përdoruesit paralajmërohen kur është e nevojshme të kërkojnë ndihmë profesionale.

Megjithatë, sipas Victor Tangermann nga Futurism: “Ky hetim tregon se Google ka ende shumë punë për të bërë për të siguruar që AI e tij të mos përhapë dezinformim të rrezikshëm shëndetësor.” Google deklaroi se AI Overviews shfaqen vetëm kur kompania ka “besim të lartë” në cilësinë e informacionit, por ky rast tregon se edhe atëherë gabimet mund të kenë pasoja reale për jetën e njerëzve.

theguardian