ChatGPT i OpenAI përsëri nën sulm: A është i përshtatshëm për këshilla mjekësore?

Ndërsa ChatGPT i OpenAI ka tërhequr vëmendje të konsiderueshme që nga publikimi i tij, një studim i fundit sugjeron kujdes në përdorimin e tij në fushën mjekësore, veçanërisht në lidhje me trajtimet e kancerit.

Studiuesit nga Brigham and Women’s Hospital, një degë e Shkollës Mjekësore të Harvardit, kanë zbuluar se planet e gjeneruara nga ChatGPT për trajtimin e kancerit përmbajnë pasaktësi të konsiderueshme. Studimi, i cili u publikua në JAMA Oncology dhe u theksua për herë të parë nga Bloomberg, zbuloi se një e treta e sugjerimeve të trajtimit të chatbot-it për skenarë të ndryshëm kanceri ishin të pasakta.

Një zbulim shqetësues ishte përzierja e informacionit të drejtë dhe të gabuar nga chatbot-i, duke komplikuar zbulimin e gabimeve. Nga 104 pyetje, afërsisht 98% e përgjigjeve të ChatGPT përputheshin me të paktën një rekomandim nga udhëzimet e Rrjetit Gjithëpërfshirës Kombëtar të Kancerit. Megjithatë, bashkëpërzierja e të dhënave të sakta dhe të pasakta ishte problematike. Dr. Danielle Bitterman, një bashkëautore e studimit, shprehu për Insajder sfidën që kjo parashtronte edhe për ekspertët, për të dalluar vërtetësinë e informacionit.

“Megjithë përgjigjet e tyre bindëse, modelet si ChatGPT nuk janë të përshtatura për këshilla të sakta mjekësore,” tha Bitterman. Përzierja e të dhënave të pasakta, mes sugjerimeve të sakta dhe besueshmërisë së përgjigjeve të luhatshme, janë shqetësime serioze për zbatimin e tyre në mjedisin klinik.

Artikull i ngjashëm:
Publikohet Mjeku AI, por a është i besueshëm?

Publikimi i ChatGPT në nëntor 2022 u prit me sukses të jashtëzakonshëm, me bazën e përdoruesve që shpërtheu në 100 milionë brenda dy muajsh. Rritja e popullaritetit të platformës shkaktoi rritjen e investimeve në sipërmarrjet e AI, dhe nisi debate rreth pasojave afatgjata të AI. Kërkimi i Goldman Sachs spekuloi ndikimin e mundshëm të AI në 300 milionë vende pune në mbarë botën.

Megjithatë, modelet gjeneruese të AI, si ChatGPT, kanë demonstruar “halucinacione”, duke dhënë informacion mashtrues, ose tërësisht të rremë. Një shembull i dukshëm ishte chatbot-i AI i Google, Bard, i cili iu përgjigj në mënyrë të pasaktë një pyetjeje në lidhje me teleskopin hapësinor James Webb, duke çuar në një rënie prej 120 miliardë dollarësh në vlerën e aksioneve të Google.

Artikull i ngjashëm:
Kufijtë e paqartë: Roli i ri i AI në kujdesin shëndetësor modern

Ndërsa integrimi i AI në kujdesin shëndetësor, veçanërisht për detyrat administrative, po përparon dhe disa studime tregojnë përmirësime, si efikasiteti i AI në shqyrtimin e kancerit të gjirit, mbështetja e plotë në modele të tilla është larg. Veçanërisht, një vlerësim i fundit tregoi se GPT-4, versioni më i fundit i ChatGPT, shkëlqeu në provimin e licencimit mjekësor në SHBA, madje duke tejkaluar disa mjekë në gjykimin klinik.

Megjithatë, studimi JAMA tregoi se 12.5% e përgjigjeve të ChatGPT ishin “halucinuese”, me pasaktësinë më të lartë të gjetur kur platforma u pyet për trajtime të lokalizuara për sëmundje të avancuara ose imunoterapi.

Artikull i ngjashëm:
Mrekullia mjekësore e AI parashikon kancerin e pankreasit

OpenAI, megjithëse nuk i përgjigjet drejtpërdrejt këtij studimi, më parë ka shprehur shqetësime për besueshmërinë e ChatGPT. Kushtet e përdorimit të ChatGPT paralajmërojnë përdoruesit kundër aplikimit të tij për çështje serioze mjekësore, duke theksuar se modelet nuk janë krijuar për të dhënë këshilla mjekësore.