Kai organizacijos pradeda diegti dirbtinį intelektą – nesvarbu, ar tai būtų paprastas chatbot klientų aptarnavimui, ar sudėtingas modelis, priimantis sprendimus dėl paskolų suteikimo – anksčiau ar vėliau iškyla klausimas: o kas gi atsakingas, kai kas nors nutinka ne taip? Būtent čia į žaidimą įsijungia AI valdysena (angl. AI governance), ir tiesą sakant, dauguma įmonių Lietuvoje šitą temą vis dar traktuoja kaip antraeilę, kol neatsitrenkia į realią problemą – nuo GDPR pažeidimo iki modelio, kuris pradėjo diskriminuoti tam tikras klientų grupes.
Šiame straipsnyje panagrinėsiu, kas iš tikrųjų yra AI valdysena praktikoje, kodėl tai nėra tik teisininkų ar atitikties skyriaus reikalas, ir kaip organizacija gali susidėlioti procesus taip, kad AI diegimas neatneštų daugiau galvos skausmo nei naudos.
Kodėl AI valdysena tapo būtinybe, o ne prabanga
Prieš kelerius metus dirbtinis intelektas organizacijose dažniausiai apsiribodavo atskirais pilotiniais projektais – kažkas IT skyriuje pabandė ChatGPT integraciją, kažkas rinkodaroje naudojo AI turinio generavimui. Rizika buvo ribota, nes ir naudojimas buvo ribotas. Šiandien situacija kardinaliai kitokia: AI sprendimai integruoti į kredito vertinimą, personalo atranką, medicininę diagnostiką, saugumo sistemas. Kai modelis pradeda priimti ar padėti priimti sprendimus, turinčius realų poveikį žmonėms, atsakomybės klausimas tampa nebe teorinis.
Pridėkime prie to reguliavimo aspektą – ES dirbtinio intelekto aktas (AI Act) jau įsigaliojo ir palaipsniui pradeda veikti visu pajėgumu. Organizacijos, kurios naudoja arba kuria „didelės rizikos” AI sistemas, privalės atitikti gana griežtus reikalavimus: dokumentuoti duomenų šaltinius, užtikrinti žmogaus priežiūrą, atlikti rizikos vertinimus. Tie, kurie manė, kad tai liečia tik dideles technologijų korporacijas, gali nustebti – reikalavimai taikomi ir vidutinio dydžio įmonėms, kurios tiesiog naudoja trečiųjų šalių AI sprendimus savo veikloje.
Kas iš tikrųjų yra AI valdysena – ne tik popierizmas
Daugelis, išgirdę žodį „valdysena”, įsivaizduoja krūvą politikų dokumentų, kurie guli stalčiuje ir niekam nerūpi. Tai klaidingas įsivaizdavimas. AI valdysena – tai realus organizacinis rėmas, apibrėžiantis:
- kas gali diegti ir naudoti AI sprendimus organizacijoje;
- kokie duomenys gali būti naudojami modelių treniravimui ar užklausoms;
- kaip vertinama ir stebima modelių kokybė bei šalutiniai efektai;
- kas priima galutinį sprendimą, kai AI rekomendacija prieštarauja žmogaus intuicijai ar patirčiai;
- kaip elgiamasi, kai atrandama klaida ar šališkumas jau veikiančioje sistemoje.
Praktiškai tai reiškia, kad kiekvienas naujas AI projektas organizacijoje turėtų pereiti panašų kelią kaip ir bet kuris kitas rizikingas IT projektas – nuo idėjos iki gamybos, su aiškiais tikrinimo taškais. Skirtumas tas, kad AI sistemos elgesys gali keistis laikui bėgant (ypač jei modelis periodiškai perkalibruojamas ar naudoja naujus duomenis), todėl vienkartinis patikrinimas prieš paleidimą tiesiog nepakanka.
Kur dažniausiai suklystama – realūs pavyzdžiai iš praktikos
Dirbant su organizacijomis, kurios bando susitvarkyti savo AI valdyseną, pastebimi keli pasikartojantys modeliai. Pirma, „šešėlinis AI” – darbuotojai patys, be jokio IT skyriaus žinios, naudoja viešai prieinamus AI įrankius darbo užduotims, įklijuodami į juos konfidencialius duomenis. Tai nutinka dažniau, nei norėtųsi pripažinti – žmonės tiesiog nori dirbti greičiau ir nesulaukia oficialaus, patogaus sprendimo iš įmonės vidaus.
Antra, atsakomybės išsisklaidymas. Kai AI projektą inicijuoja verslo padalinys, jį techniškai įgyvendina IT komanda, o duomenis tiekia trečia šalis, dažnai niekas galiausiai nesijaučia atsakingas už galutinį rezultatą. Kai kažkas nutinka – modelis pradeda generuoti klaidingas rekomendacijas ar diskriminuoti tam tikrą klientų segmentą – prasideda ieškojimas, kas kaltas, o tai brangiai kainuoja laiko ir reputacijos požiūriu.
Trečia, per didelis pasitikėjimas „juoda dėže”. Daugelis komandų diegia sudėtingus modelius (ypač didelius kalbos modelius), nesuprasdami, kaip jie priima sprendimus, ir neturėdami plano, kaip elgtis, jei modelis pradeda „haliucinuoti” ar generuoti netikslią informaciją. Tai ypač pavojinga sektoriuose, kur sprendimai turi teisinę ar finansinę reikšmę.
Praktiniai valdysenos statybos blokai
Jei organizacija tik pradeda formuoti savo AI valdysenos struktūrą, verta pradėti nuo kelių konkrečių žingsnių, o ne bandyti iškart sukurti idealią sistemą popieriuje.
AI inventorizacija. Pirmiausia reikia žinoti, kokie AI sprendimai apskritai naudojami organizacijoje – įskaitant tuos, kuriuos darbuotojai naudoja savarankiškai. Be šio žingsnio bet koks valdysenos bandymas liks teorinis, nes negalima valdyti to, ko nematai.
Rizikos klasifikavimas. Ne visi AI naudojimo atvejai vienodai rizikingi. Vidinis įrankis, padedantis susisteminti susirinkimų protokolus, ir modelis, vertinantis darbuotojų kandidatūras, reikalauja skirtingo priežiūros lygio. Verta priimti paprastą trijų lygių sistemą – žema, vidutinė, aukšta rizika – ir kiekvienam priskirti atitinkamas peržiūros procedūras.
Aiškūs vaidmenys. Turi būti konkretus žmogus ar komanda, atsakinga už kiekvieną AI sistemą – ne teoriškai, o realiai, su vardu ir pavarde. Daugelis organizacijų sukuria „AI valdysenos komitetą”, tačiau jis veiks tik tada, jei jame dalyvaus žmonės, turintys realią galią priimti sprendimus, o ne tik stebėtojo statusą.
Dokumentavimas iš anksto, ne po fakto. Kiekvienam vidutinės ar aukštos rizikos projektui verta nuo pat pradžių fiksuoti, kokie duomenys naudojami, kaip modelis testuotas, kokie apribojimai žinomi. Tai ne biurokratija dėl biurokratijos – kai po metų kils klausimas „kodėl modelis taip nusprendė”, šis dokumentas bus vienintelis būdas atsekti loginę grandinę.
Žmogus grandinėje – kodėl automatizacija neturi reikšti savarankiškumo
Vienas dažniausių nesusipratimų – manymas, kad kuo labiau AI sistema autonomiška, tuo ji vertingesnė. Praktikoje kritinėse srityse (finansai, sveikatos priežiūra, personalo sprendimai) būtent žmogaus dalyvavimas sprendimų grandinėje (angl. human-in-the-loop) yra tai, kas apsaugo organizaciją nuo didžiausių nesėkmių.
Tai nereiškia, kad kiekvieną AI generuotą atsakymą turi peržiūrėti žmogus – tai tiesiog sugriautų visą efektyvumo naudą. Tačiau aukštos rizikos sprendimuose (pvz., atsisakymas suteikti paslaugą klientui, darbuotojo atleidimo rekomendacija) turėtų būti aiškus taškas, kur žmogus gali ir privalo peržiūrėti bei, jei reikia, pakeisti AI rekomendaciją. Svarbu ir tai, kad šis žmogus turėtų pakankamai laiko ir informacijos priimti pagrįstą sprendimą, o ne tiesiog „štampuoti” AI pasiūlymus, nes tai iliuzinis kontrolės mechanizmas.
Duomenų valdymas kaip AI valdysenos pamatas
Neįmanoma kalbėti apie AI valdyseną, neaptariant duomenų kokybės ir kilmės. Modelis yra tik toks geras, kokie duomenys jį maitina – ir jei organizacija neturi aiškios duomenų valdysenos (kas turi teisę naudoti kuriuos duomenis, kokia jų kilmė, ar jie atitinka privatumo reikalavimus), AI valdysena statoma ant smėlio.
Praktinis patarimas – prieš diegiant bet kokį AI sprendimą, kuris naudoja vidinius organizacijos duomenis, atlikti trumpą duomenų audito procedūrą: iš kur duomenys, ar yra sutikimai jų naudojimui šiuo tikslu, ar duomenys nėra pasenę ar tendencingi tam tikros grupės atžvilgiu. Tai ypač aktualu, kai kalbame apie istorinius duomenis – jei praeityje organizacija turėjo šališkumo problemų (pvz., diskriminavo tam tikrą amžiaus grupę priimant į darbą), modelis, treniruotas šiais duomenimis, tiesiog automatizuos tą patį šališkumą, tik jau greičiau ir masiškiau.
Kultūra ir mokymai – dažnai pamirštas elementas
Techniniai procesai ir politikos dokumentai neveiks, jei organizacijos kultūra nepalaiko atsakingo AI naudojimo. Darbuotojai turi suprasti ne tik taisykles, bet ir priežastis, kodėl jos egzistuoja. Vietoj sauso mokymo apie „ką galima ir ko negalima” verta rodyti konkrečius pavyzdžius – realius atvejus (net ir iš kitų organizacijų), kai netinkamas AI naudojimas sukėlė problemų.
Taip pat verta sukurti aiškų, paprastą kanalą, kuriuo darbuotojai galėtų pranešti apie įtartiną AI elgesį ar problemas – be baimės būti apkaltintiems. Jei darbuotojas pastebi, kad chatbot generuoja klaidingą informaciją klientams, jis turi žinoti, kur ir kam apie tai pranešti, ir tikėti, kad į tai bus sureaguota, o ne ignoruota.
Vietoj išvadų: ką daryti pirmadienį ryte
Jei visa tai skamba kaip didelis, sunkiai apčiuopiamas projektas – tiesa yra ta, kad taip ir yra, bet pradėti galima nuo mažų, konkrečių žingsnių. Štai keletas dalykų, kuriuos organizacija gali pradėti daryti jau šią savaitę, nelaukdama, kol bus paruoštas visas 40 puslapių valdysenos dokumentas.
Pirma, surašykite sąrašą – tiesiog paprastą lentelę – visų AI įrankių, kurie šiuo metu naudojami organizacijoje, įskaitant tuos, kuriuos darbuotojai naudoja savarankiškai. Paklauskite komandų tiesiogiai, be baimės keliančio tono – tikslas ne bausti, o suprasti realią padėtį.
Antra, paskirkite vieną žmogų ar mažą komandą, kuri taps atsakinga už AI klausimų koordinavimą. Nebūtinai reikia naujo etato – gali būti esamas IT saugumo ar atitikties specialistas, kuriam priskiriama ši papildoma atsakomybė, bent jau pradiniame etape.
Trečia, nustatykite paprastą taisyklę: joks AI sprendimas, turintis realų poveikį klientams ar darbuotojams, negali būti paleistas be bent minimalios peržiūros – net jei tai reiškia vieną susitikimą, kuriame kas nors užduoda nepatogius klausimus apie duomenis ir riziką.
Ketvirta, sekite reguliavimo pokyčius. AI Act reikalavimai įsigalioja etapais, ir tai, kas šiandien atrodo tolima ateitis, po metų taps privaloma praktika. Geriau pasiruošti iš anksto nei skubotai lopyti procesus paskutinę minutę.
Galiausiai, nepamirškite, kad AI valdysena – tai ne vienkartinis projektas, o nuolatinis procesas. Modeliai keičiasi, duomenys keičiasi, rizikos kraštovaizdis keičiasi. Organizacijos, kurios sugebės įsidiegti šią mąstyseną kaip kasdienę praktiką, o ne kaip vienkartinį atitikties patikrinimą, turės realų pranašumą – ne tik teisine, bet ir verslo prasme, nes klientai ir partneriai vis dažniau klausia, kaip organizacija valdo savo AI riziką, dar prieš pasirašydami sutartį.
