Rizici umjetne inteligencije koje ne smijemo ignorirati

Što podrazumijevamo pod rizicima AI-a

Kad govorimo o rizicima umjetne inteligencije, ne mislimo na scenarije iz filmova u kojima roboti preuzimaju svijet. Stvarni rizici su mnogo suptilniji i već prisutni u svakodnevnom životu. Radi se o sustavima koji donose odluke o kreditima, zapošljavanju, zdravstvenoj skrbi i pravosudnim presudama, često bez dovoljne transparentnosti ili nadzora.

Ključno je razumjeti da AI sam po sebi nije ni dobar ni loš. Rizici nastaju iz načina na koji se AI sustavi projektiraju, treniraju i implementiraju. Podatci na kojima sustav uči, odluke koje donosimo o njegovoj primjeni i razina ljudskog nadzora određuju hoće li AI biti koristan alat ili izvor problema.

Pristranost i diskriminacija algoritama

Jedan od najkonkretnijih rizika AI-a je pristranost (eng. bias). AI sustav uči iz podataka koje mu dajemo, a ako ti podatci sadrže povijesne nejednakosti, sustav ih reproducira i pojačava. Ovo nije teorijski problem. Dokumentirani slučajevi uključuju:

• Sustavi za zapošljavanje koji su diskriminirali ženske kandidate jer su trenirani na povijesnim podatcima s muškom dominacijom
• Algoritmi za procjenu kreditnog rizika koji su sustavno penalizirali pripadnike manjinskih zajednica
• Sustavi prepoznavanja lica s višestruko većom stopom pogrešaka kod tamnoputih osoba
• Zdravstveni algoritmi koji su nedovoljno prioritizirali određene etničke grupe za liječenje

Problem s pristranošću je što se odvija nevidljivo. Korisnik koji ne dobije kredit ili posao često nema uvid u to da je AI sustav sudjelovao u odluci, niti razloge zašto. Više o ovome pokriva naš vodič o etici umjetne inteligencije.

Gubitak radnih mjesta i automatizacija

Automatizacija radnih mjesta nije nov fenomen, ali AI značajno ubrzava taj proces. Za razliku od prethodnih valova automatizacije koji su uglavnom pogađali fizičke poslove, AI prijeti i intelektualnim zadatcima. Sektori koji su najugroženiji uključuju:

• Administrativni poslovi poput unosa podataka, obrade dokumenata i osnovne korisničke podrške
• Prevoditeljski i redaktorski rad gdje ChatGPT i slični alati već proizvode upotrebljiv sadržaj
• Osnovni programerski zadatci koje AI alati za programiranje mogu obaviti brže
• Rutinski financijski poslovi poput knjigovodstva, analize izvještaja i procjene rizika

Istovremeno, AI stvara nove poslove u području podatkovne znanosti, AI inženjeringa i etike. Pitanje je hoće li tranzicija biti dovoljno brza i pravedna. Za širi kontekst pogledaj članak može li AI zamijeniti ljude.

Sigurnosni rizici i zloupotreba

AI tehnologija može služiti i u svrhe koje nisu u interesu javnosti. Sigurnosni rizici uključuju:

• Autonomno oružje koje može djelovati bez ljudske kontrole ili nadzora
• AI potpomognuti kibernetički napadi koji se prilagođavaju obranama u stvarnom vremenu
• Phishing napadi generirani AI-em koji su gotovo neprepoznatljivi od legitimnih poruka
• Socijalni inženjering uz AI generiranje glasova i video zapisa stvarnih osoba

Gubitak privatnosti

AI sustavi zahtijevaju ogromne količine podataka za funkcioniranje, a ti podatci često uključuju osobne informacije korisnika. Problem nije samo u prikupljanju, već i u sposobnosti AI-a da iz naizgled bezopasnih podataka izvuče osjetljive informacije.

• Prepoznavanje lica na javnim mjestima bez pristanka građana
• Praćenje online ponašanja za kreiranje detaljnih profila korisnika
• Predviđanje osobnih uvjerenja, zdravstvenog stanja i financijske situacije iz meta podataka

Za detaljniji pregled pogledaj naš vodič o umjetnoj inteligenciji i privatnosti.

Dezinformacije i deepfake

Generativni AI modeli otvaraju potpuno novo poglavlje u širenju dezinformacija. Mogućnost generiranja uvjerljivog teksta, slika, audio i video sadržaja koji izgleda autentično predstavlja ozbiljnu prijetnju povjerenju u informacije.

• Deepfake videi političara i javnih osoba koji šire lažne izjave
• AI generirani članci i vijesti koji oponašaju legitimne medije
• Lažni audio zapisi koji imitiraju glasove stvarnih osoba za prijevare
• Automatsko generiranje propagandnog sadržaja na društvenim mrežama u velikim količinama

Alati poput AI detektora pokušavaju prepoznati AI generirani sadržaj, ali utrka između generatora i detektora se nastavlja.

Ovisnost o AI sustavima

Što više delegiramo odluke AI sustavima, to postajemo ovisniji o njihovom funkcioniranju. Rizici uključuju:

• Gubitak ljudskih vještina koje AI zamjenjuje (navigacija, računanje, kritičko razmišljanje)
• Nedovoljna provjera AI odgovora jer korisnici razvijaju slijepo povjerenje u sustav
• Kaskadni kvarovi kada AI sustav zakaže u kritičnoj infrastrukturi

Koncentracija moći

Razvoj naprednog AI-a zahtijeva ogromna ulaganja u računalne resurse, podatke i talente. Ovo stvara situaciju u kojoj nekolicina tehnoloških kompanija ima nerazmjerno velik utjecaj na razvoj tehnologije koja oblikuje cijelo društvo. Manje tvrtke, zemlje u razvoju i akademske institucije teško mogu konkurirati resursima potrebnim za treniranje najnaprednijih AI modela.

Kako minimizirati rizike

Rizici AI-a ne znače da bismo trebali zaustaviti razvoj tehnologije. Cilj je razvijati AI odgovorno, uz konkretne mjere za smanjenje rizika:

• Regulativa poput EU AI Acta koja klasificira sustave prema razini rizika
• Obavezno testiranje AI sustava na pristranost prije implementacije
• Transparentnost u vezi korištenja AI-a u procesima odlučivanja
• Educiranje korisnika o mogućnostima i ograničenjima AI alata
• Zadržavanje ljudskog nadzora u kritičnim odlukama (zdravstvo, pravosuđe, financije)

Zaključak

Rizici umjetne inteligencije su stvarni, dokumentirani i zaslužuju ozbiljnu pažnju. No, problem nije u samoj tehnologiji, već u načinu na koji je koristimo. Sustavi bez nadzora, s pristrano treniranim modelima i bez jasnih pravila odgovornosti, predstavljaju veći rizik nego AI kao koncept.

Razumijevanje ovih rizika prvi je korak prema odgovornom korištenju. Ako te zanima širi kontekst, pogledaj naš vodič o budućnosti umjetne inteligencije, kao i pregled AI alata koji su već dio svakodnevice.

Često postavljana pitanja