Kas iš tikrųjų slepiasi už deepfake technologijos
Deepfake – tai ne koks nors ateities scenarijus iš mokslinės fantastikos filmo. Tai čia ir dabar, ir greičiausiai jau esate susidūrę su tokiu turiniu, net to nesuvokdami. Terminas kilęs iš dviejų žodžių: „deep learning” (giluminis mokymasis) ir „fake” (suklastota). Techniškai kalbant, deepfake remiasi neuroniniais tinklais – konkrečiau, generatyviniais priešiškais tinklais (GAN), kurie mokosi iš didelių duomenų rinkinių ir sugeba sukurti itin realistiškus vaizdo ar garso įrašus, kuriuose žmonės daro ar sako tai, ko niekada nedarė ir nesakė.
Pirmieji deepfake’ai pasirodė apie 2017 metus ir iš pradžių buvo gana lengvai atpažįstami – nenatūralus mirksėjimas, keistas veido apšvietimas, neryškios kraštinės. Tačiau technologija tobulėja eksponentiškai. Šiandien kai kurie deepfake’ai yra tokie kokybiški, kad net ekspertai turi naudoti specializuotus įrankius, kad juos atskirtų nuo tikrų įrašų. Ir tai kelia rimtų problemų – tiek asmeniniame, tiek politiniame, tiek verslo kontekste.
Vizualiniai požymiai, kuriuos galima pastebėti plika akimi
Prieš griebiantis sudėtingų įrankių, verta žinoti, ko ieškoti žiūrint įtartiną vaizdo įrašą. Žmogaus akis yra puiki, kai žino, į ką atkreipti dėmesį.
Akys ir mirksėjimas – tai vienas pirmųjų dalykų, kuriuos reikia tikrinti. Ankstyvieji deepfake’ai beveik nemirkčiojo, nes mokymo duomenyse buvo mažai nuotraukų su užmerktomis akimis. Dabar ši problema iš dalies išspręsta, bet vis tiek galite pastebėti nenatūralų mirksėjimo ritmą arba akis, kurios atrodo lyg „stiklinės” – be gyvumo, be to subtilaus blizgesio, kurį turi tikros akys.
Veido kraštai ir plaukai – deepfake algoritmai dažnai turi problemų su smulkiomis detalėmis. Plaukai, ypač trumpi ar garbanoti, dažnai atrodo nenatūraliai – per lygūs arba, priešingai, tarsi „ištirpę” fone. Ausys taip pat dažnai būna problematiška zona – netaisyklingos formos, asimetriškos arba neaiškiai apibrėžtos.
Odos tekstūra – per daug lygi oda yra klasikinis požymis. Tikra oda turi poras, raukšles, nedidelius netobulumus. Deepfake’uose oda dažnai atrodo kaip plastiko paviršius – per tobula, kad būtų tikra. Taip pat atkreipkite dėmesį į apšvietimą – ar šviesos šaltinis ant veido atitinka aplinkos apšvietimą? Deepfake’uose šešėliai dažnai nesutampa su logika.
Burnos ir dantų zona – kalbant apie lūpų judesius, deepfake’ai kartais neatitinka garso. Tai ypač pastebima greitai kalbant arba tarinat sudėtingus garsus. Dantys taip pat dažnai būna neaiškūs arba atrodo kaip vienas vienalytis baltas paviršius, o ne atskiri dantys.
Garso deepfake’ai – pavojingesnė grėsmė
Jei manote, kad deepfake’ai – tai tik vaizdo problema, labai klystate. Garso deepfake’ai, dar vadinami „voice cloning” arba „audio deepfake”, šiuo metu yra kur kas lengviau sukuriami ir sunkiau atpažįstami. Kai kuriems įrankiams sukurti įtikinamą balso kloną pakanka vos kelių minučių originalaus garso įrašo.
Garso deepfake’ų atpažinimas reikalauja kitokių įgūdžių. Štai keletas požymių:
- Nenatūralios pauzės – žmonės kalbėdami daro pauzes tam tikrose vietose, kvėpuoja, kartais suklumpa. Dirbtinai sukurtas balsas dažnai skamba per sklandžiai arba, priešingai, daro pauzes netinkamose vietose.
- Emocijų stoka – net geriausi balso klonavimo įrankiai vis dar sunkiai perteikia subtilias emocines niuansas. Balsas gali skambėti „teisingai”, bet kažkaip tuščiai.
- Foniniai garsai – tikruose įrašuose paprastai yra natūralių foninių garsų. Jei garsas skamba per „švariai” arba fono triukšmas atrodo dirbtinis, tai gali būti požymis.
- Kvėpavimas – natūralus kvėpavimas kalbant yra labai specifinis. Dirbtiniai balsai dažnai arba visai nekvėpuoja, arba kvėpuoja per reguliariai.
Ypač pavojingi yra vadinamieji „vishing” atvejai – kai sukčiai naudoja balso deepfake’us telefonu, apsimesdami vadovais ar artimaisiais ir prašydami pervesti pinigus arba atskleisti slaptą informaciją. Tokių atvejų skaičius per pastaruosius dvejus metus išaugo keliais šimtais procentų.
Techniniai įrankiai deepfake’ų aptikimui
Plika akimi ne visada pakanka, todėl verta žinoti, kokie techniniai sprendimai egzistuoja. Kai kurie iš jų yra nemokamos priemonės, kiti – profesionalūs sprendimai organizacijoms.
Microsoft Video Authenticator – šis įrankis analizuoja vaizdo įrašus ir nuotraukas, ieškodamas subtilių požymių, kurie atsiranda dėl deepfake generavimo proceso. Jis ypač efektyvus aptinkant GAN sukurtą turinį ir pateikia tikimybės įvertinimą.
Deepware Scanner – nemokamas online įrankis, leidžiantis įkelti vaizdo įrašą ir gauti analizės rezultatą. Tinka kasdieniam naudojimui, nors profesionaliam lygiui gali nepakakti.
FakeCatcher (Intel) – vienas pažangiausių sprendimų, kuris analizuoja kraujotakos signalus veide (rPPG technologija). Tikruose žmonėse oda subtiliai keičia spalvą dėl kraujotakos – deepfake’ai šio efekto negali tiksliai atkartoti. Teigiama, kad šis įrankis pasiekia iki 96% tikslumą.
Sensity AI – profesionali platforma, skirta organizacijoms. Analizuoja tiek vaizdo, tiek garso turinį ir integruojasi į esamas sistemas per API.
Praktinis patarimas: naudokite kelis įrankius vienu metu. Joks vienas sprendimas nėra 100% tikslus, todėl jei vienas įrankis sako „deepfake”, o kitas – „tikra”, situacija reikalauja papildomos analizės.
Metaduomenys ir kontekstas – dažnai pamirštamas aspektas
Techninis turinys yra tik viena medalio pusė. Labai dažnai deepfake’ą galima atpažinti ne iš paties vaizdo, o iš konteksto ir metaduomenų.
Pirmiausia – metaduomenys. Kiekvienas skaitmeninis failas turi metaduomenis: kada sukurtas, kokia programa, kokiu įrenginiu. Jei vaizdo įrašo metaduomenyse nurodyta, kad jis sukurtas vaizdo generavimo programine įranga, tai jau yra aiškus ženklas. Metaduomenų peržiūrai galite naudoti tokius įrankius kaip ExifTool (nemokamas, komandinės eilutės įrankis) arba online alternatyvas kaip Jeffrey’s Exif Viewer.
Antra – atvirkštinė vaizdo paieška. Google Images, TinEye arba Yandex Images leidžia įkelti kadro ekrano kopiją ir patikrinti, ar tas vaizdas jau buvo kur nors publikuotas anksčiau. Jei „naujiena” su vaizdo įrašu pasirodė vakar, bet pats kadras internete egzistuoja jau kelerius metus – tai rimtas įspėjamasis signalas.
Trečia – šaltinio patikimumas. Iš kur atėjo šis vaizdo įrašas? Ar šaltinis turi istoriją? Ar kiti patikimi šaltiniai patvirtina tą pačią informaciją? Deepfake’ai dažnai platinami per anoniminius kanalus, mažai žinomus tinklalapius arba socialinių tinklų paskyras be ilgesnės istorijos.
Ketvirta – loginis turinys. Ar tai, ką sako ar daro žmogus vaizdo įraše, atitinka jo žinomus įsitikinimus, elgesio modelius, kalbos stilių? Jei politikas vaizdo įraše sako kažką radikaliai prieštaraujančio visiems jo ankstesniems pasisakymams – tai verta patikrinti dvigubai.
Deepfake’ų grėsmė organizacijoms ir kaip su tuo kovoti
Individualūs vartotojai yra viena problema, bet organizacijos susiduria su kur kas rimtesniais iššūkiais. Verslo aplinkoje deepfake’ai gali būti naudojami socialinės inžinerijos atakoms, finansiniam sukčiavimui ir reputacijos žalojimui.
Vienas garsiausių atvejų – 2020 metais Honkongo banko darbuotojas pervedė 35 milijonus dolerių sukčiams, kurie naudojo balso deepfake’ą, apsimesdami banko direktoriumi. Tai ne išskirtinis atvejis – panašių incidentų kasmet daugėja.
Ką turėtų daryti organizacijos:
- Įdiegti daugiapakopį autentifikavimą finansinėms operacijoms – joks sprendimas neturėtų būti priimamas remiantis vien tik telefono skambučiu ar vaizdo konferencija, ypač jei prašoma atlikti neįprastą veiksmą.
- Mokyti darbuotojus – reguliarūs mokymai apie deepfake’us ir socialinę inžineriją yra būtinybė. Darbuotojai turi žinoti, kad tokia grėsmė egzistuoja ir kaip ją atpažinti.
- Sukurti verifikavimo protokolus – jei vadovas skambina ir prašo kažko neįprasto, turėtų būti aiškus protokolas: perskambinti oficialiu numeriu, patvirtinti el. paštu arba per kitą komunikacijos kanalą.
- Naudoti deepfake aptikimo sprendimus – automatizuoti įrankiai, integruoti į komunikacijos sistemas, gali realiuoju laiku analizuoti vaizdo konferencijas ir įspėti apie galimas manipuliacijas.
- Stebėti internete – reguliariai tikrinti, ar organizacijos vadovų vaizdas ar balsas nėra naudojamas klastotėms sukurti.
Teisinė ir etinė pusė – kur esame dabar
Deepfake’ų teisinė reguliacija skirtingose šalyse yra labai nevienoda, o kai kur jos praktiškai nėra. Europos Sąjungoje AI Act, kuris pradėtas taikyti 2024 metais, numato tam tikrus reikalavimus – visų pirma, kad dirbtinai sukurtas turinys turi būti aiškiai pažymėtas. Tačiau praktinis šio reikalavimo įgyvendinimas ir kontrolė vis dar yra diskusijų objektas.
JAV kelios valstijos priėmė įstatymus, draudžiančius deepfake’ų naudojimą politinėje reklamoje ir pornografiniame turinyje be asmens sutikimo. Tačiau federalinio lygmens reguliacijos vis dar nėra.
Etinė pusė yra dar sudėtingesnė. Deepfake technologija pati savaime nėra blogis – ji naudojama filmų industrijoje, kūrybiniuose projektuose, net medicinoje (pvz., atkuriant kalbą žmonėms, praradusiems balsą). Problema yra piktnaudžiavimas. Ir čia susiduriame su klasikine dilema: kaip reguliuoti technologiją, neprarandant jos teigiamų pritaikymų?
Praktiškai tai reiškia, kad kiekvienas iš mūsų turi prisiimti asmeninę atsakomybę – ne tik mokėti atpažinti deepfake’us, bet ir neskleisti nepatikrinto turinio, net jei jis atrodo įtikinamas ir atitinka mūsų įsitikinimus.
Skaitmeninis raštingumas kaip geriausias ginklas
Galų gale, visi techniniai įrankiai ir reguliacijos yra tik pagalbinės priemonės. Pagrindinis gynybos mechanizmas yra kritinis mąstymas ir skaitmeninis raštingumas. Ir čia nėra jokio trumpo kelio.
Deepfake’ų atpažinimas – tai ne vienkartinis įgūdis, kurį įgyji ir pamiršti. Technologija tobulėja, metodai keičiasi, ir tai, kas veikė prieš metus, gali nebeveikti šiandien. Todėl svarbu nuolat sekti naujausias tendencijas, eksperimentuoti su aptikimo įrankiais ir, svarbiausia, ugdyti įprotį sustoti ir pagalvoti prieš patikint tuo, ką matai ekrane.
Keletas konkrečių kasdienių praktikų, kurios tikrai padeda:
- Prieš dalindamiesi vaizdo įrašu, skirkite 60 sekundžių jo patikrinimui – atvirkštinė paieška ir šaltinio patikrinimas dažnai atskleidžia viską, ką reikia žinoti.
- Jei kažkas sukelia stiprią emocinę reakciją – pyktį, pasipiktinimą, šoką – tai yra signalas sustoti ir patikrinti dvigubai. Deepfake’ai dažnai kuriami būtent tam, kad sukeltų stiprias emocijas ir išjungtų kritinį mąstymą.
- Mokykite savo artimuosius, ypač vyresnio amžiaus žmones, kurie dažnai yra lengvesni taikiniai.
- Sekite tokius šaltinius kaip MIT Media Lab, Sensity AI blog arba Bellingcat – jie reguliariai publikuoja naujausius tyrimus ir praktines rekomendacijas.
Deepfake’ų era nesibaigs – ji tik gilės. Bet tai nereiškia, kad esame bejėgiai. Kuo daugiau žmonių supranta, kaip ši technologija veikia ir kaip ją atpažinti, tuo sunkiau ja piktnaudžiauti. Ir galiausiai tai yra ne tik technologinis, bet ir visuomeninis iššūkis – klausimas, kaip mes, kaip kolektyvas, nusprendžiame elgtis su informacija, kurią gauname, ir kokią atsakomybę prisiimame už tai, ką platinome.
