Prieš kelis mėnesius kalbėjausi su draugu, kuris dirba teisininku vienoje didesnėje įmonėje. Jis pasakojo situaciją – klientas naudojo dirbtinio intelekto įrankį sutarčių analizei, sistema praleido kritinę sąlygą, ir įmonė patyrė nemenkus nuostolius. Klausimas, kuris kilo iš karto: kas dabar kaltas? Programuotojai, sukūrę algoritmą? Įmonė, kuri jį pardavė? Ar galbūt darbuotojas, kuris aklai pasitikėjo mašinos sprendimu? Atsakymo nebuvo. Ir tiesą sakant, šiandien jo dar nėra niekur – nei teisiniuose kodeksuose, nei technologinėje bendruomenėje.
Ši tema tampa vis aktualesnė, nes AI įrankiai jau nebe eksperimentas – jie integruoti į medicinos diagnostiką, finansų sprendimus, autonominį transportą, teisinę praktiką. Kai algoritmas priima sprendimą, kuris paveikia žmogaus gyvybę ar turtą, atsakomybės klausimas nustoja būti akademiniu ir tampa praktiniu, dažnai net egzistenciniu.
Kodėl tradicinė atsakomybės samprata čia netinka
Teisė ilgai rėmėsi paprasta logika – yra veiksmas, yra veikėjas, yra pasekmė. Jei vairuotojas sukelia avariją, atsakomybė aiški. Jei gydytojas suklysta diagnozuodamas, egzistuoja profesinės atsakomybės mechanizmai. Tačiau kai sprendimą priima neuroninis tinklas, apmokytas ant milijonų duomenų taškų, kurio veikimo logikos iki galo nesupranta net jį sukūrę inžinieriai – visa ši struktūra pradeda byrėti.
Problema slypi tame, kad AI sistemos, ypač gilaus mokymosi modeliai, veikia kaip „juodoji dėžė“. Įvestis žinoma, išvestis žinoma, bet tarpiniai sprendimo priėmimo žingsniai lieka neaiškūs net specialistams. Kai negalima paaiškinti, kodėl sistema priėmė būtent tokį sprendimą, sunku priskirti ir kaltę konkrečiam veikėjui. Tai vadinama „atsakomybės spraga“ (angl. accountability gap) – terminas, kurį vis dažniau vartoja teisės mokslininkai ir technologijų etikos specialistai.
Kūrėjai, tiekėjai ir naudotojai – kas iš tikrųjų atsakingas
Praktikoje atsakomybė paprastai dalinama tarp kelių šalių, ir kiekviena situacija reikalauja individualaus vertinimo. Pabandykime išskaidyti šiuos vaidmenis konkrečiau.
Kūrėjai ir programuotojai atsakingi už algoritmo kokybę, testavimą ir žinomų trūkumų dokumentavimą. Jei modelis buvo apmokytas ant šališkų duomenų arba nebuvo tinkamai testuotas prieš išleidimą, dalis atsakomybės natūraliai krenta ant kūrimo komandos. Tačiau čia iškyla įdomus niuansas – kuo sudėtingesnis modelis, tuo sunkiau iš anksto numatyti visus galimus scenarijus. Programuotojas negali garantuoti šimtaprocentinio tikslumo sistemai, kuri savarankiškai mokosi iš naujų duomenų.
Įmonės, diegiančios AI sprendimus – dažnai jos yra ta grandis, kuri turėtų prisiimti daugiausiai atsakomybės, nes būtent jos sprendžia, kur ir kaip technologiją naudoti. Jei banko sistema atmeta paskolos paraišką dėl algoritmo klaidos, atsakomybė paprastai krenta ant banko, o ne ant AI kūrėjo, nes bankas pasirinko šį įrankį naudoti kritiniams sprendimams be pakankamos žmogaus priežiūros.
Galutiniai naudotojai taip pat neišvengia atsakomybės dalies. Jei gydytojas aklai pasikliauja diagnostikos algoritmu, ignoruodamas savo profesinę patirtį ir akivaizdžius simptomus, sunku visą kaltę suversti technologijai. Panašiai ir su vairuotojais, kurie per daug pasitiki autopiloto funkcijomis, nors gamintojas aiškiai nurodo, kad reikalinga nuolatinė žmogaus priežiūra.
Reguliavimo bandymai – ES AI aktas kaip pavyzdys
Europos Sąjunga vienintelė pasaulyje bando šią chaotišką sritį sudėlioti į sistemą. AI aktas (AI Act), priimtas 2024 metais, klasifikuoja AI sistemas pagal rizikos lygį – nuo minimalios iki nepriimtinos rizikos. Sistemos, naudojamos sveikatos apsaugoje, teisėsaugoje ar kritinėje infrastruktūroje, priskiriamos aukštos rizikos kategorijai ir joms taikomi griežtesni reikalavimai skaidrumui, dokumentacijai ir žmogaus priežiūrai.
Praktiškai tai reiškia, kad įmonės, diegiančios tokias sistemas, privalo turėti aiškius mechanizmus, leidžiančius atsekti sprendimo priėmimo logiką, ir užtikrinti, kad žmogus visada galėtų įsikišti bei koreguoti algoritmo sprendimą. Tai tam tikra prasme perkelia atsakomybę atgal žmogui – jei sistema leidžia žmogaus intervenciją, o žmogus ja nepasinaudoja, kaltė tampa mišri.
Įdomu tai, kad JAV ir Azijos šalys renkasi kitokį kelią – daugiau pasitikima savireguliacija ir rinkos mechanizmais, o ne griežtu įstatyminiu reguliavimu. Tai kuria papildomą sudėtingumą tarptautinėms kompanijoms, kurios dirba keliose jurisdikcijose vienu metu ir turi laikytis skirtingų standartų.
Kai algoritmas klysta medicinoje – atvejo analizė
Sveikatos apsaugos sritis yra viena jautriausių, nes čia klaidos kaina – žmogaus gyvybė. Yra žinomų atvejų, kai vaizdų analizės algoritmai, naudojami vėžio diagnostikai, praleido ankstyvos stadijos naviką, nes buvo apmokyti daugiausia ant tam tikros demografinės grupės duomenų ir prasčiau veikė su kitokiais pacientais.
Tokiose situacijose atsakomybė dalinasi tarp kelių lygmenų. Ligoninė, kuri diegė sistemą, turėjo įvertinti, ar algoritmas buvo tinkamai validuotas jos pacientų populiacijai. Gamintojas turėjo aiškiai nurodyti apribojimus ir duomenų šaltinius, ant kurių modelis buvo treniruotas. O gydytojas, priėmęs galutinį sprendimą, teisiškai vis tiek išlieka atsakingas už paciento gydymą – AI čia veikia kaip pagalbinis įrankis, ne kaip galutinis sprendėjas.
Ši situacija parodo svarbią tendenciją – kuo aukštesnė rizika, tuo daugiau atsakomybės perkeliama žmogui priežiūros forma, net jei technologija veikia savarankiškai didžiąją laiko dalį.
Autonominiai automobiliai – testas, kurio niekas nesitikėjo
Autonominio transporto sritis galbūt geriausiai iliustruoja, kaip sudėtinga nustatyti atsakomybę realiuose scenarijuose. Kai savivaldis automobilis pateko į avariją, klausimai apie kaltę tapo tikru teisiniu galvosūkiu – ar kaltas gamintojas, programinės įrangos kūrėjas, jutiklių tiekėjas, ar žmogus, sėdėjęs vairuotojo vietoje, bet nevairavęs?
Skirtingos šalys šį klausimą sprendžia skirtingai. Vokietija, pavyzdžiui, priėmė įstatymus, kurie reikalauja „juodosios dėžės“ tipo įrašymo sistemos kiekviename autonominiame automobilyje – panašiai kaip lėktuvuose. Tai leidžia po incidento tiksliai nustatyti, ar sprendimą priėmė žmogus, ar sistema, ir kokiu momentu kontrolė buvo perduota.
Šis pavyzdys parodo praktinį sprendimo būdą kitoms sritims – techninis skaidrumas ir įrašų saugojimas gali tapti pagrindiniu įrankiu nustatant atsakomybę, kai patys sprendimo priėmimo procesai lieka neaiškūs.
Ką realiai galima padaryti – praktiniai patarimai
Jei dirbate su AI sistemomis, ar tai būtų kūrimas, diegimas, ar tiesiog kasdienis naudojimas darbe, keletas dalykų gali apsaugoti jus nuo nemalonių situacijų.
Pirma, visada reikalaukite dokumentacijos. Jei jūsų įmonė diegia AI sprendimą, paprašykite gamintojo pateikti informaciją apie treniravimo duomenis, žinomus apribojimus ir testavimo rezultatus. Tai ne tik teisinė apsauga, bet ir praktinis būdas suprasti, kur sistema gali klysti.
Antra, niekada nepasikliaukite AI sprendimu be žmogaus patikros kritinėse srityse. Net jei sistema veikia 99% atvejų teisingai, tas vienas procentas gali būti būtent jūsų atvejis. Palikite vietos savo profesiniam sprendimui, ypač jei kažkas atrodo neįprasta.
Trečia, jei kuriate AI produktus, investuokite į paaiškinamumo (explainability) technologijas. Yra vis daugiau įrankių, leidžiančių bent iš dalies atskleisti, kodėl modelis priėmė konkretų sprendimą. Tai ne tik teisinė apsauga ateičiai, bet ir būdas anksčiau pastebėti sistemines klaidas.
Ketvirta, sekite reguliavimo pokyčius savo šalyje ir sektoriuje. Situacija keičiasi greitai, ir tai, kas šiandien yra pilka zona, rytoj gali tapti aiškiu teisiniu reikalavimu su baudomis už nesilaikymą.
Vietoje pabaigos – kas laukia toliau
Atsakomybės už AI klaidas klausimas tikriausiai neišsispręs greitai ir vienareikšmiškai – per daug interesų grupių, per daug skirtingų technologijų tipų, per daug jurisdikcijų su savo požiūriais. Bet viena aišku – laikas, kai galima buvo tiesiog pasakyti „taip nusprendė algoritmas“ ir tuo baigti diskusiją, jau praeityje.
Ateityje tikriausiai matysime vis daugiau hibridinių atsakomybės modelių, kur kaltė dalinama proporcingai pagal kiekvienos šalies indėlį – panašiai kaip šiandien veikia bendra kaltė eismo įvykiuose. Techninis skaidrumas taps ne prabanga, o būtinybe, ypač aukštos rizikos srityse. Įmonės, kurios investuos į paaiškinamą AI ir aiškią dokumentaciją šiandien, rytoj turės didelį pranašumą, kai teisinės sistemos galutinai apibrėš „žaidimo taisykles“.
O kol kas geriausia strategija – nei aklai pasitikėti technologija, nei jos bijoti, bet suprasti, kad kiekvienas AI sprendimas, kurį naudojate ar diegiate, atneša ne tik naudą, bet ir dalį atsakomybės, kurios negalima tiesiog perduoti mašinai. Galų gale, už mygtuko paspaudimą visada atsako tas, kas jį paspaudė – net jei sprendimą už jį priėmė algoritmas.
