Veštačka inteligencija postaje neizostavni deo savremenog poslovanja, ali sa sobom donosi i nove pravne i tehničke rizike. Jedan od najpoznatijih fenomena u radu AI sistema jeste pojava takozvanih halucinacija, odnosno situacija u kojoj sistem samouvereno generiše netačne, izmišljene ili nelogične informacije, predstavljajući ih kao tačne.

Halucinacije se ne javljaju zbog namere ili svesti algoritma, već kao posledica načina na koji AI modeli funkcionišu. AI modeli ne znaju činjenice, već predviđaju najverovatniji niz reči na osnovu prethodnih obrazaca. U praksi, to može dovesti do ozbiljnih posledica. Primera radi, advokati u SAD su, oslanjajući se na AI alat, podneli sudu podneske sa pozivanjem na nepostojeće presude, što je dovelo do disciplinskih postupaka i narušavanja profesionalnog ugleda.

Pravni okvir i priroda odgovornosti

Halucinacija AI sistema nije svesna prevara, ali može prouzrokovati štetu korisniku koji se oslanja na netačan rezultat. Postavlja se pitanje: ko snosi odgovornost?

U zavisnosti od ugovornog odnosa, moguća su tri pristupa:

• Ugovorna odgovornost pružaoca usluge, ako sistem ne ispunjava očekivane tehničke i profesionalne standarde.
• Deliktna odgovornost, ukoliko se šteta prouzrokuje nemarom u razvoju, testiranju ili upotrebi sistema.
• Ograničena odgovornost korisnika, u slučajevima kada je pružalac jasno upozorio na rizike, a korisnik se na rezultat bez provere oslonio kao na konačnu informaciju.

Većina komercijalnih AI platformi u svojim uslovima korišćenja izričito isključuje odgovornost za tačnost generisanih informacija. Ipak, takve klauzule ne oslobađaju pružaoca usluge u potpunosti  naročito ako je svesno prikazao sistem kao pouzdaniji nego što zaista jeste ili nije omogućio adekvatna upozorenja korisniku.

EU AI Act – novi standard odgovornosti

Evropska unija je donela AI Act, koji je stupio na snagu 1. avgusta 2024. godine, čime je postala prva jurisdikcija na svetu sa sveobuhvatnim zakonskim okvirom za veštačku inteligenciju.

Propis uvodi regulatorni pristup zasnovan na proceni i stepenu rizika, prema kojem se od pružalaca usluga AI sistema, posebno onih visokog rizika, zahteva da obezbede sledljivost podataka, testiranje, nadzor i jasna upozorenja o mogućim greškama.

• Zabranjene prakse se primenjuju od februara 2025. godine;
• Pravila za general-purpose AI su stupile na snagu u avgustu 2025. godine;
• Pravila za high-risk sisteme primenjiva su od avgusta 2027. godine;

Ovaj zakon značajno utiče i na ugovorne odnose između AI kompanija i korisnika, jer uspostavlja minimalne standarde transparentnosti i pažnje koje se očekuju od pružalaca usluga.

Ugovorni aspekt i praksa 

Ugovori o korišćenju AI sistema danas sve češće sadrže posebne odredbe o:

• ograničenju odgovornosti pružaoca za netačne rezultate (halucinacije),
• obavezi korisnika da verifikuje generisane podatke,
• standardima tačnosti i etičkim pravilima,
• postupku za naknadu štete ili ispravku grešaka.

Za advokate i kompanije koje integrišu AI u svoj rad, ključno je da se ove klauzule jasno formulišu i prilagode svrsi sistema. Posebna pažnja potrebna je kod usluga koje mogu izazvati visoku materijalnu ili reputacionu štetu, poput pravnog savetovanja, medicinske dijagnostike ili finansijskog odlučivanja.

Zaključak

Halucinacije AI sistema ne znače da je tehnologija neupotrebljiva, već da se mora koristiti odgovorno i sa razumevanjem njenih ograničenja. Pružalac AI usluge ne može se u potpunosti osloboditi odgovornosti jednostavnom klauzulom o isključenju rizika, već mora dokazati da je primenio razumne mere pažnje i obezbedio transparentnost rada sistema.

U eri kada mašine pišu, analiziraju i predlažu odluke, pravo mora obezbediti balans između inovacije i odgovornosti. Pouzdan AI sistem nije onaj koji nikada ne greši, već onaj koji zna da upozori kada može da pogreši.

Ovaj članak je isključivo informativne prirode i ne predstavlja pravni savet. Ukoliko su Vam potrebne dodatne informacije, budite slobodni da nas kontaktirate.