Veštačka inteligencija u osiguranju više nije ograničena na četbotove. Koristi se za trijažu prijava, čitanje dokumentacije, prepoznavanje prevare, procenu fotografija oštećenja i pripremu odluke o naknadi. Zato je najnovije upozorenje evropskog nadzornog organa važno i za firme iz Srbije: EIOPA je 16. septembra 2026. ukazala da oslanjanje finansijskog sektora na mali broj dobavljača AI modela i infrastrukture može pojačati operativne i sistemske rizike.
Poslovno pitanje više nije samo da li AI ubrzava obradu štete. Treba utvrditi ko odgovara kada je podatak pogrešan, algoritam daje diskriminatoran rezultat ili zaposleni samo formalno potvrdi mašinsku preporuku.
Zašto je AI u osiguranju postao privrednopravna tema
EIOPA istraživanje objavljeno krajem 2025. pokazalo je da 65% anketiranih evropskih osiguravača već koristi generativnu AI, dok još 23% razvija rešenja. Među postojećim primenama, upravljanje štetama je zastupljeno kod 49% ispitanika. To je važan podatak jer se upravo u postupku rešavanja odštetnog zahteva ukrštaju ugovorna prava, podaci o ličnosti, procena prevare i pravo klijenta da dobije obrazloženu odluku.
Rizik ne nastaje samo u modelu. Može poticati od spoljnog dobavljača, servisa u oblaku, netačne baze podataka ili loše postavljenog poslovnog pravila. Ako više osiguravača koristi isti model ili istu infrastrukturu, jedna greška može istovremeno zahvatiti veliki broj predmeta.
Zato ugovor sa AI dobavljačem nije obična nabavka softvera. Potrebno je urediti pristup podacima, podizvođače, verzije modela, testiranje, prijavu incidenta, reviziju, čuvanje tragova i odgovornost za pogrešan rezultat. Sličan problem sa dozvolama i tragom rada postoji i kod autonomnijih sistema, o čemu smo pisali u tekstu AI agent je zaobišao pravila: šta to znači za firme i građane u Srbiji.
Gde AI može pogrešiti u obradi štete
AI može da pročita prijavu, izdvoji ključne podatke, uporedi dokumenta i označi predmet kao sumnjiv. Svaki od tih koraka može ubrzati postupak, ali i preneti grešku na konačnu odluku.
Tipični sporovi mogu nastati kada sistem:
- pogrešno pročita medicinski nalaz, policijski zapisnik ili račun;
- potceni oštećenje sa fotografije;
- označi legitimni zahtev kao prevaru zbog neobičnog obrasca;
- koristi zastarele ili netačne podatke o klijentu;
- automatski usmeri određene predmete u sporiju ili strožu kontrolu;
- ne ostavi dovoljno podataka da se odluka naknadno proveri.
Formalno prisustvo zaposlenog nije dovoljno ako on nema ovlašćenje, vreme ili podatke da promeni preporuku. Stvarna ljudska kontrola podrazumeva mogućnost da se razumeju ključni razlozi, provere ulazni podaci i donese drugačija odluka.
Diskriminacija algoritama ne mora biti očigledna
Model ne mora direktno koristiti podatak o polu, invaliditetu, zdravstvenom stanju ili etničkom poreklu da bi proizveo nejednak rezultat. Mesto stanovanja, obrazac kupovine, vrsta uređaja, istorija komunikacije ili drugi posredni pokazatelji mogu biti povezani sa zaštićenim ličnim svojstvima.
Posledica može biti viša premija, dodatni uslov, odbijanje osiguranja, niža procena štete ili sporija obrada. Problem je ozbiljniji kada firma ne testira rezultate po relevantnim grupama i ne zna koje promenljive najviše utiču na odluku.
Isti princip se vidi kod AI alata za izbor kandidata. U tekstu AI u zapošljavanju posle avgusta 2026 objašnjeno je zašto naizgled neutralni kriterijumi mogu proizvesti diskriminatoran efekat. U osiguranju je dodatni rizik to što odluka može neposredno uticati na finansijsku zaštitu, zdravlje ili mogućnost da osoba nadoknadi pretrpljenu štetu.
Šta EU AI Act znači za osiguranje
EU AI Act izričito svrstava među visokorizične određene AI sisteme koji se koriste za procenu rizika i određivanje cena u životnom i zdravstvenom osiguranju fizičkih lica. To ne znači da je svaka automatizacija u osiguranju automatski visokorizična. Sistem za obradu imovinske štete mora se posebno klasifikovati prema nameni i stvarnom uticaju.
Posle izmena iz jula 2026, ključne obaveze za samostalne visokorizične sisteme iz Aneksa III primenjuju se od 2. decembra 2027. Opšti početak primene većeg dela AI Act-a, 2. avgust 2026, zato ne treba pogrešno tumačiti kao isti rok za sve obaveze.
Odlaganje ne znači da firme mogu čekati. Dokumentovanje podataka, ljudski nadzor, tačnost, sajberbezbednost i mogućnost revizije ne mogu se kvalitetno uvesti nekoliko nedelja pre roka. EIOPA je u svom mišljenju o upravljanju AI rizicima već izdvojila pravičnost i etiku, upravljanje podacima, dokumentaciju, transparentnost, ljudski nadzor, tačnost, otpornost i sajberbezbednost kao ključne elemente kontrole.
Za firmu iz Srbije direktna primena AI Act-a zavisi od njene uloge, tržišta i mesta na kojem se rezultat sistema koristi. Poseban oprez potreban je kada srpska kompanija pruža AI uslugu osiguravaču u EU, koristi sistem u evropskom poslovanju ili je deo lanca dobavljača.
Koje obaveze u Srbiji postoje već sada
Čak i kada EU AI Act nije neposredno primenljiv, domaći propisi ne ostavljaju pravni vakuum.
Zakon o zaštiti podataka o ličnosti ograničava odluke zasnovane isključivo na automatizovanoj obradi, uključujući profilisanje, kada takva odluka proizvodi pravne posledice ili značajno utiče na lice. Potrebno je utvrditi pravni osnov i svrhu obrade, koristiti samo potrebne podatke, obezbediti njihovu tačnost, zaštitu i odgovarajuće informacije licu. Kada obrada verovatno stvara visok rizik po prava i slobode, mora se razmotriti procena uticaja na zaštitu podataka.
Pravila zabrane diskriminacije ostaju relevantna bez obzira na to da li je spornu razliku napravio zaposleni ili algoritam. Firma ne može preneti pravnu odgovornost na dobavljača uz objašnjenje da ne poznaje način rada modela.
Korisnik usluge osiguranja u Srbiji može podneti prigovor društvu za osiguranje, a zatim, pod propisanim uslovima, pritužbu Narodnoj banci Srbije ili predlog za posredovanje. Zbog toga osiguravač mora imati dovoljno sačuvanih podataka da objasni tok konkretnog predmeta. Bez evidencije ulaza, verzije sistema, preporuke i ljudske intervencije, odbrana odluke postaje znatno teža.
Rizik postoji i za firme koje nisu osiguravači
Privredno društvo može biti korisnik korporativnog osiguranja, posrednik, IT dobavljač ili obrađivač podataka. Ako AI pogrešno odbije ili umanji veliku štetu, posledice mogu pogoditi likvidnost, nastavak poslovanja i odnose sa poveriocima.
Ugovarač osiguranja zato treba da proveri:
- da li polisa i uslovi predviđaju digitalnu ili automatizovanu obradu;
- kako se osporava procena i traži ljudska revizija;
- koji dokazi se prihvataju i koliko dugo se čuvaju;
- da li dobavljač obrađuje podatke van Srbije;
- da li ugovor ograničava odgovornost za grešku AI sistema;
- kako se prijavljuje sajber incident ili curenje podataka.
Ovo je deo šireg upravljanja usklađenošću. Kao što se nove poreske i računovodstvene obaveze planiraju unapred, što je obrađeno u vodiču Nove obaveze u SEF od 2027: šta firme treba da pripreme sada, tako i AI sistemi treba da uđu u pravni i operativni kalendar firme.
Kontrolna lista pre nabavke ili puštanja AI sistema
- Mapirajte odluke. Utvrdite gde AI samo pomaže, a gde utiče na cenu, pokriće, sumnju na prevaru ili visinu naknade.
- Mapirajte podatke. Zabeležite izvor, svrhu, rok čuvanja, primaoce i prenos podataka.
- Klasifikujte sistem. Proverite da li konkretna namena ulazi u visokorizičnu kategoriju i koja je uloga firme u lancu.
- Testirajte diskriminatorne efekte. Ne proveravajte samo prosečnu tačnost. Analizirajte greške po relevantnim grupama i vrstama predmeta.
- Ugovorite prava kontrole. Obezbedite dokumentaciju, reviziju, obaveštenje o promeni modela, prijavu incidenta i pravila o podizvođačima.
- Uvedite stvarni ljudski nadzor. Odredite ko može zaustaviti postupak, ispraviti podatak i promeniti preporuku.
- Čuvajte trag odlučivanja. Evidentirajte verziju sistema, ključne ulaze, rezultat, intervenciju zaposlenog i konačnu odluku.
- Pripremite prigovor i incident plan. Klijent mora imati jasan kanal, a firma proceduru za brzo očuvanje dokaza i procenu štete.
Kada je potrebna pravna provera
Pravna provera je najkorisnija pre nabavke sistema, potpisivanja ugovora sa dobavljačem, promene modela ili prenosa podataka u novu infrastrukturu. Posebno je važna kada AI utiče na cenu polise, prihvatanje rizika, visinu naknade ili označavanje prevare.
Ako uvodite AI u osiguranje, razvijate rešenje za osiguravača ili želite da osporite automatizovanu odluku o šteti, prvo pogledajte koje tragove, dozvole i kontrole treba sačuvati u vodiču o pravnim rizicima AI agenata, a zatim pošaljite konkretan upit advokatskoj kancelariji putem kontakt forme na početnoj stranici.
Tekst je opšte informativne prirode. Pravna procena zavisi od konkretnog sistema, ugovora, podataka i tržišta na kojem se koristi.
