Gabimi nxjerr në pah problemin më të madh të përdorimit të chatbot-eve të AI për të zëvendësuar motorët e kërkimit – ata krijojnë gjëra.
Të hënën, Google njoftoi chatbotin e tij të AI Bard – një rival i ChatGPT të OpenAI që do të bëhet “më gjerësisht i disponueshëm për publikun në javët e ardhshme”. Por roboti nuk ka një fillim të mirë, me ekspertët që vunë në dukje se Bard bëri një gabim faktik në demonstrimin e tij të parë.
Një GIF e shpërndarë nga Google tregon Bard duke iu përgjigjur pyetjes: “Për çfarë zbulimesh të reja nga teleskopi hapësinor James Webb mund t’i tregoj 9-vjeçarit tim?” Bard ofron në këmbim tre pika plumbash, duke përfshirë një që thotë se teleskopi “krijoi fotografitë e para të një planeti jashtë sistemit tonë diellor”.
Megjithatë, një numër astronomësh në Twitter theksuan se kjo është e pasaktë dhe se imazhi i parë i një ekzoplaneti është marrë në vitin 2004 – siç thuhet këtu në faqen e internetit të NASA-s.
“Për të mos qenë një ~pus, në fakt~ hov, dhe jam i sigurt që Bard do të jetë mbresëlënës, por për rekord: JWST nuk mori ‘imazhin e parë të një planeti jashtë sistemit tonë diellor’,” shkroi astrofizikani Grant Tremblay. .
Not to be a ~well, actually~ jerk, and I'm sure Bard will be impressive, but for the record: JWST did not take "the very first image of a planet outside our solar system".
— Grant Tremblay (@astrogrant) February 7, 2023
the first image was instead done by Chauvin et al. (2004) with the VLT/NACO using adaptive optics. https://t.co/bSBb5TOeUW pic.twitter.com/KnrZ1SSz7h
Bruce Macintosh, drejtor i Observatorëve të Universitetit të Kalifornisë në UC Santa Cruz, gjithashtu vuri në dukje gabimin. “Duke folur si dikush që ka imazhuar një ekzoplanet 14 vjet përpara se të lëshohej JWST, të duket sikur duhet të gjesh një shembull më të mirë?” postoi ai në Twitter.
(Gabimi dhe kundërshtimet e ekspertëve u vunë re fillimisht nga Reuters dhe New Scientist.)
Në një postim vijues në Twitter, Tremblay shtoi: “Më pëlqen dhe vlerësoj që një nga kompanitë më të fuqishme në planet po përdor një kërkim JWST për të reklamuar LLM-në e tyre. Mbresëlënës! Por ChatGPT etj., megjithëse drithërues mbresëlënës, shpesh gabojnë *me shumë besim*. Do të jetë interesante të shohim një të ardhme ku kontrollojnë vetë gabimet e LLM-ve.”
Shënimet Tremblay, një problem i madh për chatbotët e AI si ChatGPT dhe Bard është tendenca e tyre për të deklaruar me siguri informacionin e pasaktë si fakt. Sistemet shpesh “halucinojnë” – domethënë, përbëjnë informacion – sepse ato janë në thelb sisteme automatike.
Në vend që të kërkojnë një bazë të dhënash të fakteve të vërtetuara për t’iu përgjigjur pyetjeve, ata janë trajnuar në korpuse të mëdha teksti dhe analizojnë modele për të përcaktuar se cila fjalë pason tjetrën në çdo fjali të caktuar. Me fjalë të tjera, ata janë probabilistë, jo deterministë – një tipar që ka bërë që një profesor i shquar i AI t’i etiketojë ata “gjenerues budallallëku”.
Sigurisht, interneti tashmë është plot me informacione të rreme dhe mashtruese, por çështja është e komplikuar nga dëshira e Microsoft dhe Google për t’i përdorur këto mjete si motorë kërkimi. Atje, përgjigjet e chatbots marrin autoritetin e një makinerie që mund të dijë gjithçka.
Microsoft, i cili demonstroi motorin e tij të ri të kërkimit Bing të fuqizuar nga AI dje, është përpjekur t’i parandalojë këto çështje duke vendosur përgjegjësi mbi përdoruesin. “Bing mundësohet nga AI, kështu që surprizat dhe gabimet janë të mundshme”, thuhet në mohimin e kompanisë. “Sigurohuni që të kontrolloni faktet dhe të ndani komente që të mund të mësojmë dhe përmirësohemi!”
Një zëdhënëse e Google, Jane Park, i dha The Verge këtë deklaratë: “Kjo nënvizon rëndësinë e një procesi rigoroz testimi, diçka që ne po e nisim këtë javë me programin tonë Testues të Besuar. Ne do të kombinojmë reagimet e jashtme me testimin tonë të brendshëm për t’u siguruar që përgjigjet e Bard përmbushin një shirit të lartë për cilësinë, sigurinë dhe bazën në informacionin e botës reale.”
