Dirbtinis intelektas nebėra ateities technologija – jis veikia tavo telefone, banko programėlėje, darbo vietoje ir net šaldytuve, jei tas šaldytuvas pakankamai „protingas”. Bet kartu su patogumu atėjo ir visa krūva problemų, kurių dauguma žmonių tiesiog nepastebi, kol jos netampa asmenine bėda. Pakalbėkime atvirai – ne apie robotų sukilimą filmų stiliumi, o apie realias grėsmes, kurios jau egzistuoja arba formuojasi mūsų akyse.
Kai algoritmas žino apie tave daugiau nei tu pats
Duomenų privatumas – tai sritis, kurioje AI sistemos jau seniai pasiekė tokį lygį, kad net specialistai kartais nustemba. Modeliai treniruojami milijardais duomenų taškų, o dalis tų duomenų – tavo Facebook įrašai, paieškos istorija, pirkinių krepšelis internetinėje parduotuvėje. Problema ne tai, kad kompanijos renka duomenis (tai vyko ir prieš AI erą), bet tai, kaip greitai ir tiksliai algoritmai gali sujungti fragmentus į vientisą profilį.
Praktinis pavyzdys: reklamos algoritmas gali nuspėti, kad moteris yra nėščia, remdamasis vos keliais pirkiniais parduotuvėje, dar prieš pačiai apsvarsčius apie tai pasakyti šeimai. Tai nebe fantastika – tokie atvejai jau buvo dokumentuoti su Target ir panašiomis kompanijomis dar prieš dešimtmetį, o šiuolaikiniai modeliai daro tai su dar didesniu tikslumu.
Kas čia realiai gali nutikti tau asmeniškai? Draudimo kompanija gali atsisakyti sveikatos draudimo remdamasi elgesio duomenimis. Darbdavys gali atmesti kandidatūrą pagal socialinių tinklų analizę. Bankas gali sumažinti kredito limitą, nes algoritmas „nuspėjo” finansinį nestabilumą pagal pirkinių pobūdį.
Deepfake’ai ir dezinformacijos banga
Šitas skyrius man asmeniškai kelia daugiausiai nerimo, nes technologija tobulėja greičiau nei visuomenės gebėjimas ją atpažinti. Prieš kelis metus deepfake vaizdo įrašą buvo galima atskirti pagal keistą mirksėjimą ar akių judesius. Šiandien geriausi modeliai generuoja vaizdą, kurio nuo tikro neatskirtų net dalis ekspertų.
Politinėje arenoje tai reiškia galimybę sukurti fiktyvų kalbėtojo pasisakymą prieš rinkimus. Verslo pasaulyje – sukčiavimo schemas, kai generuojamas vadovo balsas skambučiui finansų departamentui su prašymu pervesti pinigus. Toks atvejis jau realiai nutiko Honkonge, kur finansininkas pervedė apie 25 milijonus dolerių, patikėjęs vaizdo skambučiu, kuriame „dalyvavo” jo vadovai – visi jie buvo deepfake generuoti.
Kas svarbu suprasti: problema ne technologija pati savaime, o tai, kaip greitai ji tampa prieinama masėms. Prieš kelerius metus deepfake kūrimui reikėjo rimtų techninių žinių ir galingos technikos. Dabar egzistuoja programos, kurioms pakanka vieno nuotraukos ir kelių minučių, kad sukurtų įtikinamą vaizdo įrašą.
- Visada tikrink informacijos šaltinį prieš dalinantis emociškai stipria naujiena
- Ieškok tos pačios informacijos keliuose nepriklausomuose šaltiniuose
- Atkreipk dėmesį į neįprastą kūno kalbą ar šviesos šešėlius vaizdo įrašuose
- Nepasitikėk balso pranešimais be papildomo patvirtinimo, ypač finansiniais klausimais
Kai AI tampa įrankiu kibernetiniams nusikaltėliams
Kibernetinis saugumas visada buvo kova tarp gynybos ir atakos, bet AI iš esmės pakeitė žaidimo taisykles abiem pusėms. Nusikaltėliai naudoja kalbos modelius kurti įtikinamesnius phishing laiškus – be gramatinių klaidų, pritaikytus konkrečiam asmeniui, imituojančius realius kolegų rašymo stilius.
Egzistuoja net specializuoti „juodojo rinkos” modeliai, tokiu kaip WormGPT ar FraudGPT, kurie neturi etinių apribojimų, būdingų komerciniams produktams. Jie gali generuoti kenkėjišką kodą, kurti sukčiavimo scenarijus arba automatizuoti masinius atakos bandymus prieš tūkstančius potencialių aukų vienu metu.
Kita rimta problema – AI naudojamas ieškant pažeidžiamumų programinėje įrangoje greičiau, nei žmogus fiziškai spėtų. Tai reiškia, kad zero-day pažeidžiamumai gali būti aptikti ir išnaudoti per valandas, ne mėnesius, kaip būdavo anksčiau.
Gera žinia – ta pati technologija naudojama ir gynybai. Anomalijų aptikimo sistemos, elgesio analizė, automatinis grėsmių identifikavimas – visa tai tapo daug efektyvesnis dėl AI. Klausimas tik, kuri pusė šiuo metu sparčiau tobulėja.
Automatizacija ir darbo rinkos pokyčiai
Šioje temoje visada norisi vengti panikos, nes istoriškai technologijos naikino senas profesijas ir sukurdavo naujas. Bet šįkart tempas ir apimtis kelia skirtingą nerimą. Anksčiau automatizacija paveikė daugiausiai fizinį, pasikartojantį darbą. Šiandien AI įsiveržia į sritis, kurios buvo laikomos „saugiomis” – teisininkų dokumentų analizę, žurnalistiką, programavimą, net dalį medicininės diagnostikos.
Realybė yra sudėtingesnė nei „AI pakeis visus darbus”. Dažniau nutiks taip: viena AI pagalbą naudojanti komanda atliks darbą, kurį anksčiau atlikdavo dešimt žmonių. Tai vis tiek reiškia devynis netekusius darbo, net jei „darbų” formaliai neišnyko.
Kai kurios sritys jau jaučia spaudimą realiai: turinio kūrimas, klientų aptarnavimo centrai, pradinio lygio kodavimo užduotys, vertimai. Įdomu tai, kad kūrybinės profesijos, kurios anksčiau buvo laikomos „AI atsparios”, iš tikrųjų buvo tarp pirmųjų paveiktų – nes generatyvūs modeliai geriausiai veikia tekste ir vaizde.
Paslėpti šališkumai kode
Ši grėsmė mažiau matoma, bet ne mažiau pavojinga. AI modeliai mokosi iš duomenų, kuriuos sukūrė žmonės su savo istoriniais šališkumais. Rezultatas – algoritmai, kurie atkartoja ir sustiprina esamą diskriminaciją, tik dabar tai vyksta automatizuotai, milijonais atvejų per sekundę, be žmogaus sprendimo galimybės įsikišti.
Klasikinis pavyzdys – Amazon įdarbinimo algoritmas, kuris buvo apmokytas ant istorinių įdarbinimo duomenų ir „išmoko” diskriminuoti moteris, nes praeityje kompanijoje dominavo vyriška darbo jėga. Panašūs atvejai nustatyti veido atpažinimo sistemose, kurios rodo prastesnį tikslumą tamsesnės odos spalvos žmonėms, arba kreditų vertinimo algoritmuose, kurie netiesiogiai diskriminuoja pagal rasę ar gyvenamąją vietą.
Problema sudėtinga tuo, kad šališkumas dažnai nėra akivaizdus kūrėjams. Modelis gali atrodyti „objektyvus”, nes jis nenaudoja tiesiogiai lyties ar rasės kaip duomenų taško, bet naudoja koreliuojančius kintamuosius – pašto kodą, mokyklos pavadinimą, net rašymo stilių – kurie netiesiogiai atspindi tas pačias grupes.
Kas atsitiks, kai sistemos veiks savarankiškai
Autonominės sistemos – savivaldūs automobiliai, karinės dronų sistemos, prekybos algoritmai finansų rinkose – kelia visiškai kitokio tipo klausimus. Kai sprendimą priima ne žmogus, o algoritmas per milisekundes, kas atsakingas, jei nutinka klaida?
Finansų rinkose šis klausimas jau realiai kėlė problemų. 2010 metų „Flash Crash” įvykis, kai per kelias minutes rinka prarado ir vėl atgavo trilijonus dolerių vertės, iš dalies buvo susijęs su automatizuotomis prekybos sistemomis, kurios reagavo vienos į kitas grandininiu būdu, greičiau nei žmogus galėjo suprasti, kas vyksta.
Kalbant apie ilgesnės perspektyvos riziką – vadinamąją egzistencinę AI riziką – čia nuomonės tarp ekspertų smarkiai skiriasi. Vieni mano, kad tai tolimos ateities scenarijus, primenantis mokslinę fantastiką. Kiti, tarp jų ir tokie žmonės kaip Geoffrey Hinton, vienas iš giluminio mokymosi pradininkų, viešai perspėja, kad kontrolės praradimo rizika yra realesnė, nei visuomenė supranta. Tiesa slypi kažkur per vidurį – tai nėra rytojaus problema, bet ignoruoti ją būtų neatsakinga.
Reguliavimo vėžlio žingsniai vs technologijos šuoliai
Įstatymų leidėjai visame pasaulyje bando pagauti technologiją, kuri kas kelis mėnesius peršoka į naują lygį. Europos Sąjungos AI Act – vienas ambicingiausių bandymų sukurti sisteminį reguliavimą, klasifikuojant AI sistemas pagal rizikos lygį. Tai žingsnis teisinga kryptimi, bet įgyvendinimas visada atsilieka nuo teorijos.
Problema tokia: reguliavimas kuriamas remiantis šiandienos technologija, o kol jis pradeda veikti realiai, technologija jau pasikeičia. Tai nereiškia, kad reguliavimas nenaudingas – be jo situacija būtų dar chaotiškesnė. Tačiau reikia realistiškai suprasti, kad įstatymai visada bus reaktyvūs, ne proaktyvūs šioje srityje.
Kompanijų savireguliacija taip pat turi ribas. Kai konkurencija tarp AI laboratorijų tokia intensyvi, saugumo protokolai kartais tampa antraeiliu prioritetu greičio atžvilgiu. Tai nėra kritika konkrečiai kompanijai – tai struktūrinė problema visoje industrijoje.
Ką daryti realiai, ne tik skaityti apie problemas
Jei perskaitei visą šį straipsnį ir jauti nerimą – tai normalu, bet nerimas be veiksmo niekam nepadeda. Todėl pabaigai – konkretūs žingsniai, kuriuos gali padaryti pats, nepriklausomai nuo to, ar esi paprastas naudotojas, ar dirbi technologijų srityje.
Asmeniniame lygyje: peržiūrėk privatumo nustatymus programose, kurias naudoji kasdien. Nesutik automatiškai su visais duomenų rinkimo susitarimais – skaityk, ką realiai leidžia kompanija su tavo duomenimis. Naudok skirtingus slaptažodžius ir dviejų faktorių autentifikaciją, nes AI sustiprintos phishing atakos tampa vis sunkiau atpažįstamos.
Jei dirbi organizacijoje, kuri integruoja AI sprendimus – reikalauk skaidrumo apie tai, kaip modeliai apmokyti ir kokie duomenys naudojami. Prašyk audito šališkumo atžvilgiu, ypač jei sistema naudojama žmonių vertinimui – įdarbinimui, kreditų suteikimui, medicininei diagnostikai.
Tėvams – pokalbis su vaikais apie deepfake technologiją ir kritinį mąstymą internete tampa tokia pačia būtinybe, kokia anksčiau buvo pokalbis apie svetimų žmonių pavojų gatvėje. Jaunoji generacija auga aplinkoje, kur vaizdas ir garsas nebe automatiškai lygu tiesai.
Ir galiausiai – nebūk nei technofobas, nei naivus optimistas. Dirbtinis intelektas nėra nei demonas, nei mesijas. Jis yra įrankis, galingas ir dviprasmiškas kaip ir dauguma žmonijos sukurtų technologijų, nuo branduolinės energijos iki interneto paties. Klausimas visada buvo ir bus tas pats: kas kontroliuoja įrankį, kokiu tikslu ir kokia atskaitomybe. Technologija pati savaime neturi moralinės krypties – tą kryptį jai duoda žmonės, kurie ją kuria, reguliuoja ir naudoja. Būdamas informuotas, kritiškai mąstantis naudotojas – tai pirmas ir svarbiausias žingsnis, kurį gali padaryti pats, nepriklausomai nuo to, kaip greitai keisis pasaulis aplink.
