Aplikacije zasnovane na upotrebi umjetne inteligencije povećat će izloženost kompanija kibernetičkim napadima i tehničkim kvarovima, što će dovesti do gubitaka i poremećaja velikih razmjera.

Chatbotovi, samovozeća vozila i međusobno povezani strojevi u digitalnim tvornicama predstavljaju sliku nadolazeće budućnosti: široka primjena umjetne inteligencije kompanijama će donijeti mnoge prednosti, npr. veću učinkovitost, manje repetitivnih poslova i bolje iskustvo za klijente. Međutim, ako se tehnologija nađe u krivim rukama, potencijalne prijetnje vrlo bi lako mogle umanjiti ove značajne koristi. Izloženost zlonamjernim kibernetičkim napadima i tehničkim kvarovima povećat će se, a jačanjem povezanosti između društava i gospodarstava porast će i mogućnost nastupa poremećaja velikih razmjera i iznimnih financijskih gubitaka. Kompanije će također biti suočene s novim rizičnim scenarijima zbog prijenosa odgovornosti s čovjeka na stroj i njegovog proizvođača.

U novom izvještaju pod naslovom „Uspon umjetne inteligencije: izgledi za budućnost i novi rizici” Allianz Global Corporate & Specialty (AGCS) ističe prednosti i rizike u nastajanju vezane uz rastuću implementaciju umjetne inteligencije u društvu i industriji, uključujući osigurateljni sektor. Umjetna inteligencija, također poznata pod nazivom „strojno učenje”, u suštini je softver koji može razmišljati i učiti poput ljudskog bića.

„Umjetna inteligencija u mnoga će područja donijeti potencijalne koristi i rizike: ekonomiju, politiku, mobilnost, zdravstvo, obranu i okoliš. Aktivne strategije za upravljanje rizicima potrebne su kako bi se maksimalno iskoristile prednosti potpunog uvođenja napredne primjene umjetne inteligencije u društvo,” tvrdi Michael Bruch, voditelj novih trendova u AGCS-u.

„Slabi” ili bazični oblici umjetne inteligencije već su danas u stanju obavljati specifične zadatke, no buduće generacije tzv. „jake” umjetne inteligencije moći će rješavati teške zadatke i obavljati složene transakcije.  Umjetna inteligencija sve više nalazi korisnike u gotovo svakoj industriji, od chatbotova koji nude financijske savjete do onih koji liječnicima pomažu u dijagnozi karcinoma. Ista se tehnologija koristi za samovozeće automobile, izradu boljih vremenskih prognoza, obradu financijskih transakcija te nadzor i upravljanje industrijskim strojevima. Accenture tvrdi kako bi umjetna inteligencija mogla udvostručiti godišnje stope gospodarskog rasta u12 razvijenih gospodarstava do 2035.

Međutim, s ovim mogućim koristima dolaze i određeni rizici. Kibernetički rizici među najznačajnijim su rizicima za kompanije prema Allianzovom barometru rizika za 2018., no ujedno simboliziraju dvojako lice novih tehnologija kao što je umjetna inteligencija. Softver pogonjen umjetnom inteligencijom mogao bi doprinijeti smanjivanju kibernetičkog rizika za kompanije tako što bi bolje detektirao napade, no istovremeno bi mogao i povećati rizik ako zlonamjerni hakeri uspiju preuzeti kontrolu nad sustavima, strojevima ili vozilima. Umjetna inteligencija mogla bi omogućiti provođenje ozbiljnijih i preciznijih kibernetičkih napada tako što bi snizila trošak njihovog organiziranja. Isti hakerski napadi – ili greške u programu – mogli bi se replicirati na velikom broju uređaja. Postojeća predviđanja tvrde kako bi globalni kibernetički napad većih razmjera potencijalno mogao dovesti do više od 50 milijardi dolara gubitaka2 , no čak i poludnevni nestanak struje na lokaciji pružatelja cloud usluga mogao bi uzrokovati oko 850 milijuna dolara gubitaka3.

Novi rizici vezani uz umjetnu inteligenciju nastupaju u pet područja

Kako bi prepoznao rizike u nastajanju vezane uz umjetnu inteligenciju, AGCS se usmjerio na pet područja: pristupačnost softvera, sigurnost, odgovornost, obaveze i etiku. „Odgovoran razvoj i uvođenje umjetne inteligencije bit će manja prijetnja društvu ako se na svako od navedenih područja obrati pažnja. Ključne su preventivne mjere za smanjivanje rizika od neželjenih posljedica,” izjavio je Bruch. Po pitanju sigurnosti, primjerice, natjecanje u uvođenju sustava baziranih na umjetnoj inteligenciji na tržište moglo bi dovesti do nedovoljnih ili nemarnih aktivnosti vrednovanja, koje su neophodne kako bi se osiguralo da su plasirani strojevi pogonjeni umjetnom inteligencijom sigurni, funkcionalni i kibernetički zaštićeni. To bi, pak, moglo rezultirati većim brojem proizvoda s greškom, odnosno većim brojem povlačenja.

Što se tiče obaveza, strojevi pogonjeni umjetnim inteligencijom mogu u budućnosti od ljudi preuzeti donošenje mnogih odluka, no ne mogu biti smatrani zakonski odgovornima za njih. U pravilu je za greške koje su uzrokovale štetu korisnicima odgovoran proizvođač ili programer koji je izradio softver koji koriste strojevi pogonjeni umjetnom inteligencijom. Međutim, prema postojećim pravnim propisima, za odluke umjetne inteligencije koje nisu izravno vezane uz njihov dizajn ili proizvodnju i koje je stroj poduzeo zbog vlastitog tumačenja stvarnosti ne postoji odgovorna strana. „Prepuštanje odluka sudovima moglo bi postati skupo i neučinkovito ako bi broj slučaja štete uzrokovanih umjetnom inteligencijom počeo rasti,” kaže Bruch. „Rješenje za nedostatak zakonske odgovornosti bilo bi uspostavljanje stručnih agencija ili tijela koji bi razvili okvir odgovornosti prema kojem bi se na dizajnere, proizvođače ili distributere proizvoda koji koriste umjetnu inteligenciju primjenjivala ograničena odgovornost za štetu.”

Osiguravatelji će u međuvremenu odigrati ključnu ulogu u svođenju na minimum, upravljanju i prijenosu novih rizika s primjene umjetne inteligencije. Bit će neophodno prilagoditi tradicionalna osigurateljna pokrića kako bi se zaštitili potrošači i kompanije. Osiguranje će morati posvetiti veću pažnju određenim rizicima kojima se izlažu kompanije, npr. kibernetičkim napadima, prekidu poslovanja, povlačenju proizvoda i šteti koja se odražava na ugled. Vjerojatno će se usvojiti novi modeli osiguranja od odgovornosti – u području samovozećih vozila, primjerice – kojima će se povećati pritisak na proizvođače i distributere softvera te smanjiti objektivnu odgovornost potrošača.

Osiguravatelji rano počinju s primjenom umjetne inteligencije

Budući da se bavi velikim količinama podataka i repetitivnim procesima, osigurateljni sektor rano je usvojio strojno učenje. „Umjetna inteligencija posjeduje velik potencijal za poboljšavanje vrijednosnog lanca u osiguranju. U početku će pomoći automatizaciji procesa kako bi se našim klijentima osiguralo kvalitetnije pružanje usluga. Police će se moći sklapati i zahtjevi obrađivati na brži i učinkovitiji način,” objašnjava Bruch. Jačanjem umjetne inteligencije u području analize podataka osiguravateljima i njihovim klijentima omogućit će se bolji uvid u rizike kako bi se isti mogli učinkovitije smanjiti, kao i razvijanje novih osiguravateljskih rješenja. Primjerice, analitika pogonjena umjetnom inteligencijom mogla bi pomoći kompanijama da bolje razumiju kibernetičke rizike i poboljšaju sigurnost. Ista bi tehnologija mogla pomoći osiguravateljima u detekciji mjesta na kojima postoji veća kibernetička izloženost. Konačno, umjetna inteligencija izmijenit će način  interakcije osiguravatelja i klijenata te omogućiti pružanje usluga 24 sata dnevno, 7 dana u tjednu.