Teknologjia është krijuar për të na bërë jetën më të lehtë. Nga makinat që drejtohen vetë, te algoritmet që marrin vendime në sekonda, sistemet inteligjente po hyjnë gjithnjë e më shumë në jetën tonë.

Por çfarë ndodh kur teknologjia gabon?

Një gabim i vogël në një kod, një algoritëm i trajnuar keq ose një sensor që nuk funksionon siç duhet mund të shkaktojë pasoja reale.

Ja 10 raste kur teknologjia nuk funksionoi siç pritej.

1. Makina autonome që nuk dalloi këmbësorin

Në vitin 2018, një automjet testues autonom i kompanisë Uber goditi një këmbësor në Arizona të SHBA-së.

Sistemi kishte kamera dhe sensorë për të analizuar rrugën, por inteligjenca artificiale nuk arriti të klasifikonte siç duhet personin që po kalonte rrugën.

Rasti ngriti pyetje të mëdha:

A jemi gati t’ia besojmë makinerive vendime jetësh dhe vdekjeje?

2. Algoritmi i fytyrave që ngatërronte njerëzit

Sistemet e njohjes së fytyrës janë përdorur për siguri, pagesa dhe identifikim.

Por disa algoritme kanë treguar rezultate më të dobëta kur analizojnë persona me karakteristika të ndryshme fizike.

Gabimet në identifikim kanë shkaktuar raste ku njerëz janë lidhur gabimisht me persona të tjerë ose janë ndaluar për shkak të një përputhjeje të gabuar.

3. Chatbot-i që dha informacione të gabuara

Inteligjenca artificiale gjeneruese ka sjellë revolucion në mënyrën si kërkojmë informacion.

Por AI mund të prodhojë edhe përgjigje të pasakta, të njohura si “halucinacione”.

Në disa raste, chatbot-et kanë krijuar:

❌ burime që nuk ekzistojnë;
❌ citime false;
❌ këshilla të gabuara.

Problemi është se përgjigjet shpesh duken shumë bindëse.

4. Sistemi i rekrutimit që diskriminonte kandidatët

Një kompani e madhe teknologjie krijoi një sistem AI për të ndihmuar në përzgjedhjen e kandidatëve për punë.

Por algoritmi mësoi nga të dhënat historike dhe filloi të favorizonte modele të vjetra punësimi, duke penalizuar disa kandidatë.

Mësimi?

Një algoritëm nuk është gjithmonë neutral. Ai mund të trashëgojë gabimet e të dhënave me të cilat trajnohet.

5. Fluturimet e Boeing 737 MAX dhe sistemi automatik

Një nga rastet më të njohura të dështimit teknologjik ishte sistemi MCAS në avionët Boeing 737 MAX.

Një sistem automatik i krijuar për të ndihmuar pilotët mori sinjale të gabuara nga sensorët dhe kontribuoi në dy aksidente tragjike.

Rasti tregoi se edhe teknologjia më e avancuar duhet të ketë kontrolle dhe mbikëqyrje njerëzore.

6. Rrjetet sociale që rekomandojnë përmbajtje të dëmshme

Algoritmet e platformave sociale janë krijuar për të na treguar përmbajtjen që na intereson.

Por në përpjekje për të rritur kohën që përdoruesit kalojnë online, disa algoritme kanë promovuar edhe:

• dezinformim;
• përmbajtje ekstreme;
• lajme false.

Një sistem i krijuar për angazhim mund të krijojë pasoja të padëshiruara.

7. Robotët dhe gabimet në magazina automatike

Kompanitë përdorin robotë për të lëvizur produkte dhe për të automatizuar punën.

Por edhe robotët mund të gabojnë.

Ka pasur raste kur:

🤖 sensorët kanë dështuar;
🤖 robotët janë përplasur me pengesa;
🤖 sistemet kanë ndaluar operacionet.

Një makinë që nuk kupton situatën mund të krijojë kaos në vend që të sjellë efikasitet.

8. Telefonat që identifikuan gabimisht njerëzit

Funksionet e zhbllokimit me fytyrë janë të zakonshme në telefonat modernë.

Por në disa raste, teknologjia është mashtruar ose ka dështuar të dallojë persona të ndryshëm, veçanërisht kur kushtet e dritës, këndi ose cilësia e imazhit ndryshojnë.

Siguria biometrike është e fuqishme, por nuk është perfekte.

9. Sistemet automatike financiare që shkaktuan humbje

Tregjet financiare përdorin algoritme që blejnë dhe shesin aksione në milisekonda.

Por gabimet në kod mund të shkaktojnë humbje të mëdha.

Një shembull i njohur është “Flash Crash” i vitit 2010, kur tregjet amerikane pësuan një rënie të menjëhershme për shkak të një kombinimi faktorësh dhe tregtimit automatik.

---

10. Pajisjet smart që ndalojnë së funksionuari

Edhe teknologjia e përditshme mund të dështojë.

Një frigorifer smart, kamerë sigurie ose bravë elektronike mund të bëhet problem nëse:

• humbet lidhjen me internetin;
• ka një gabim software;
• serveri i kompanisë mbyllet.

Një shtëpi më inteligjente kërkon edhe një plan rezervë.

Teknologjia nuk është perfekte, sepse është krijuar nga njerëzit

Këto raste nuk tregojnë se teknologjia është e rrezikshme. Përkundrazi, ato tregojnë një realitet të rëndësishëm:

Sa më shumë fuqi t’i japim sistemeve inteligjente, aq më shumë duhet të kontrollojmë mënyrën si funksionojnë.

E ardhmja do të jetë gjithnjë e më automatike. Por pyetja më e madhe nuk është vetëm:

“Çfarë mund të bëjë teknologjia?”

Është:

“Çfarë ndodh kur teknologjia gabon?”