“Kumbari i AI-së” thotë se AI mund të “dalë nga kontrolli” duke rishkruar kodin e vet

Geoffrey Hinton, shkencëtari kompjuterik i njohur si “Kumbari i IA-së”, thotë se makinat e përmirësuara nga inteligjenca artificiale “mund të marrin kontrollin” nëse njerëzit nuk janë të kujdesshëm.

Teknologjitë e IA-së që po përparojnë me shpejtësi mund të fitojnë aftësinë për t’i tejkaluar njerëzit “brenda pesë vjetësh”, tha Hinton, 75 vjeç, në një intervistë të së dielës në “60 Minutes” të CBS. Nëse kjo ndodh, IA mund të evoluojë përtej aftësisë së njerëzve për ta kontrolluar atë, shtoi ai.

“Një nga mënyrat se si këto sisteme mund t’i shpëtojnë kontrollit është duke shkruar kodin e tyre kompjuterik për të modifikuar veten”, tha Hinton. “Dhe kjo është diçka për të cilën duhet të shqetësohemi seriozisht.”

Hinton fitoi Çmimin Turing 2018 për dekadat e tij të punës pioniere në IA dhe të mësuarit e thellë. Ai dha dorëheqjen nga puna e tij si nënkryetar dhe bashkëpunëtor inxhinierie në Google në maj, pas një dekade me kompaninë, në mënyrë që të mund të fliste lirisht për rreziqet që paraqet IA.

Njerëzit, përfshirë shkencëtarët si ai vetë, të cilët ndihmuan në ndërtimin e sistemeve të sotme të IA-së, ende nuk e kuptojnë plotësisht se si funksionon dhe evoluon teknologjia, tha Hinton. Shumë studiues të IA-së e pranojnë hapur këtë mungesë të të kuptuarit: Në prill, CEO i Google, Sundar Pichai, e quajti atë problemin e “kutisë së zezë” të IA-së.

Siç e përshkroi Hinton, shkencëtarët hartojnë algoritme për sistemet e IA-së për të nxjerrë informacion nga grupe të dhënash, si interneti. “Kur ky algoritëm mësimor bashkëvepron me të dhënat, ai prodhon rrjete nervore të ndërlikuara që janë të mira në kryerjen e gjërave,” tha ai. “Por ne nuk e kuptojmë saktësisht se si i bëjnë ato këto gjëra.”

Pichai dhe ekspertë të tjerë të IA-së nuk duken aq të shqetësuar sa Hinton për humbjen e kontrollit nga njerëzit. Yann LeCun, një tjetër fitues i Çmimit Turing, i cili konsiderohet gjithashtu një “baba i IA-së”, i ka quajtur çdo paralajmërim se IA mund të zëvendësojë njerëzimin “jashtëzakonisht qesharak” – sepse njerëzit gjithmonë mund t’i japin fund çdo teknologjie që bëhet shumë e rrezikshme.