Prieš kokius penkerius metus deepfake vaizdai buvo daugiau kuriozas – kažkas sukeisdavo Nicolas Cage veidą į kiekvieną filmą ir dalindavosi tuo Reddite juokui. Šiandien situacija visai kitokia. Vaizdo ir garso sintezė pasiekė tokį lygį, kad atskirti tikrą pokalbį nuo sugeneruoto tapo iššūkiu net specialistams, o ką jau kalbėti apie eilinį naujienų portalo skaitytoją. Ir čia jau ne apie pramogą – tai apie informacinį saugumą, rinkimų sąžiningumą, verslo reputaciją ir net asmeninę finansinę saugą.
Kas iš tikrųjų vyksta po gaubtu
Deepfake terminas kilęs iš „deep learning” ir „fake” sujungimo, ir tai nėra atsitiktinumas – be gilaus mokymosi architektūrų šitos technologijos tiesiog neegzistuotų. Klasikinis metodas remiasi generatyviniais priešpriešiniais tinklais (GAN), kuriuose du neuroniniai tinklai – generatorius ir diskriminatorius – nuolat „kaunasi” tarpusavyje. Generatorius bando sukurti kuo tikroviškesnį vaizdą, o diskriminatorius bando atskirti, ar tai tikras, ar sintetinis turinys. Po tūkstančių iteracijų generatorius tampa tiek geras, kad diskriminatorius nebesugeba jo apgaudinėti atskirti.
Pastaruoju metu populiarumo sulaukė diffusion modeliai – tie patys, kurie stovi už Midjourney ar Stable Diffusion. Jie veikia kitaip: pradedama nuo triukšmo ir palaipsniui, žingsnis po žingsnio, „išvaloma” vaizdas, kol gaunamas norimas rezultatas. Tokie modeliai duoda dar didesnę kontrolę ir mažiau artefaktų, palyginti su senesniais GAN sprendimais.
Balso klonavimui naudojami autoencoder tipo tinklai arba transformerių architektūros, kurioms pakanka vos kelių minučių garso įrašo, kad sukurtų įtikinamą balso kloną. ElevenLabs ir panašūs įrankiai iš pradžių buvo skirti podcast’ų kūrėjams ir žaidimų industrijai, tačiau greitai tapo įrankiu sukčiams.
Kodėl būtent dabar tapo taip lengva
Prieš dešimtmetį, norint sukurti bent kiek patikimą veido pakeitimą vaizdo įraše, reikėjo galingos darbo stoties, techninių žinių ir savaičių darbo. Šiandien tam pakanka nešiojamo kompiuterio su vidutine GPU arba net telefono aplikacijos. Priežastys kelios:
- Atviro kodo modeliai – DeepFaceLab, FaceSwap ir panašūs projektai padarė technologiją prieinamą kiekvienam, kas moka paleisti Python skriptą.
- Debesijos skaičiavimo galia atpigo – nebereikia savo GPU fermos, pakanka nuomotis skaičiavimo laiką AWS ar RunPod.
- Duomenų kiekis internete – kuo daugiau nuotraukų ir vaizdo įrašų viešai prieinama (o socialiniai tinklai jų pilni), tuo lengviau apmokyti modelį konkrečiam asmeniui.
- Komerciniai produktai – atsirado ir legalūs, ir pilkosios zonos verslai, siūlantys „face swap kaip paslauga” be jokių klausimų apie tikslą.
Rezultatas – slenkstis įėjimui į šitą „rinką” nukrito beveik iki nulio, o tai reiškia, kad grėsmė nebėra tik valstybinių žvalgybų ar didelių organizacijų rankose.
Dezinformacijos mechanika: kodėl deepfake tokie efektyvūs
Čia verta suprasti vieną dalyką – deepfake pats savaime dažnai net nėra pagrindinis dezinformacijos ginklas. Jis dažniausiai veikia kaip katalizatorius platesnėje ekosistemoje. Klasikinė schema atrodo taip: sukuriamas sensacingas turinys (pavyzdžiui, politiko „prisipažinimas” arba vadovo „pareiškimas” apie bankroto), jis paleidžiamas per botų tinklus socialiniuose tinkluose, o algoritmai (kurie optimizuoti įsitraukimui, ne tiesai) padaro likusį darbą – turinys plinta greičiau nei bet koks faktų tikrinimas spėja jį pasivyti.
Yra ir subtilesnis efektas, vadinamas „liar’s dividend” (melagio dividendas) – kai visuomenė žino, kad deepfake egzistuoja, tikri kompromituojantys įrašai gali būti lengvai atmetami kaip „tikriausiai sufabrikuoti”. Tai reiškia, kad ši technologija kenkia net nebūdama tiesiogiai panaudota – pati jos egzistavimo galimybė ardo pasitikėjimą bet kokiu skaitmeniniu įrodymu.
Praktikoje matėme įvairių scenarijų: klonuoti balsai, imituojantys generalinius direktorius ir prašantys buhalterijos skyriaus skubiai pervesti pinigus (vadinamasis CEO fraud jau seniai vyksta ir be AI, bet balso klonavimas jį padarė žymiai įtikinamesnį); sufabrikuoti politikų pasisakymai prieš rinkimus; net sukčiavimo schemos, kai skambinama tėvams, imituojant vaiko balsą ir teigiant, kad jis pagrobtas ar susižeidęs.
Kaip technologija atrodo praktikoje – konkretūs pavyzdžiai
2024 metais Honkonge finansų bendrovės darbuotojas pervedė apie 25 milijonus dolerių po to, kai dalyvavo vaizdo skambutyje, kuriame „dalyvavo” jo finansų direktorius ir keli kolegos – visi jie buvo deepfake. Įdomu tai, kad tai nebuvo vienas suklastotas kadras, o realaus laiko vaizdo skambutis su keliais sintetiniais dalyviais vienu metu, kas rodo, jog technologija jau pasiekė interaktyvų lygį.
Kitas atvejis – Slovakijos parlamento rinkimai 2023 metais, kai prieš pat balsavimą paplito garso įrašas, tariamai užfiksavęs vieno kandidato pokalbį apie rinkimų klastojimą. Įrašas pasirodė esantis sintetinis, tačiau paplito tokiu momentu, kai jokia faktų tikrinimo institucija nebespėjo reaguoti prieš balsavimo dieną.
Verta paminėti ir mažiau dramatiškus, bet plačiau paplitusius atvejus – sintetiniai „reklaminiai” vaizdo įrašai su žinomais žmonėmis, reklamuojančiais kriptovaliutų investicijas ar abejotinus sveikatos produktus. Tokie klipai plinta per YouTube reklamas ir Facebook grupes, dažnai naudojant tikrų žinomų verslo asmenų (pavyzdžiui, technologijų sektoriaus lyderių) veidus ir balsus.
Kaip atpažinti – ar tikrai dar įmanoma?
Gera žinia – kol kas dar yra požymių, į kuriuos galima kreipti dėmesį, nors su kiekvienu metu jų mažėja. Vaizdo įrašuose ieškokite:
- Neįprasto mirksėjimo dažnio arba visiško jo trūkumo – ankstyvieji modeliai buvo apmokomi ant nuotraukų, kur žmonės retai mirksi.
- Nenuoseklaus apšvietimo tarp veido ir aplinkos, ypač atspindžių akyse ar dantyse.
- Krašto artefaktų aplink veidą, plaukų liniją ar ausis – vietas, kur „lipdomas” sintetinis sluoksnis susijungia su originaliu vaizdu.
- Lūpų sinchronizacijos nesutapimo su garsu, ypač priebalsiais kaip „p”, „b”, „m”.
Garso atveju klausykite nenatūralaus tempo, per tolygaus tono be emocinių svyravimų, keistų pauzių arba metalinio, „robotiško” prieskonio fone. Tačiau atvirai kalbant, naujausi modeliai jau apeina daugumą šitų požymių, todėl vien akies ar ausies nebeužtenka – reikia technologinių priemonių.
Techniniai gynybos įrankiai
Detection modeliai patys yra neuroniniai tinklai, apmokyti atskirti sintetinį turinį nuo tikro – šiek tiek panašiai kaip GAN diskriminatorius, tik atskirai, ne kaip konkurencinės sistemos dalis. Microsoft turi Video Authenticator įrankį, Intel pasiūlė FakeCatcher, kuris analizuoja kraujo pulsavimo požymius odoje (technika vadinama photoplethysmography) – realiame vaizde galima aptikti mikroskopinius spalvos pokyčius, susijusius su širdies plakimu, o sintetiniuose vaizduose šito nėra arba yra nenuosekliai.
Kita kryptis – ne aptikimas po fakto, o autentifikavimas nuo pat turinio sukūrimo momento. C2PA standartas (Coalition for Content Provenance and Authenticity), kurį remia Adobe, Microsoft, BBC ir kiti, siūlo įterpti kriptografiškai pasirašytus metaduomenis tiesiai į failą kamerose ir redagavimo programose. Tai savotiškas skaitmeninis „kilmės pasas” – kiekvienas failo pakeitimas paliekamas registruotas, ir galima atsekti visą istoriją nuo nufotografavimo momento iki galutinio paskelbimo.
Platformos irgi bando prisidėti – YouTube, TikTok ir Meta reikalauja žymėti AI generuotą turinį, tačiau, tiesą pasakius, vykdymo mechanizmas kol kas gana silpnas ir remiasi daugiausia geranoriškumu.
Įmonių ir organizacijų atsakomybė
Jei dirbate finansų, teisės ar viešojo administravimo srityje, verta įsivesti procedūrinius patikrinimus, kurie nepriklauso nuo technologijos atpažinimo. Praktiškai tai reiškia: bet koks neįprastas mokėjimo prašymas per vaizdo skambutį ar balso žinutę turi būti patvirtintas per antrą, nepriklausomą kanalą – paskambinkite atgal iš anksto žinomu numeriu, o ne tuo, iš kurio skambino. Nustatykite kodinį žodį, žinomą tik komandos nariams asmeniniams pokalbiams patvirtinti – tai skamba senamadiškai, bet veikia geriau nei bet koks AI detektorius.
Įmonėms, kurios turi viešai matomus vadovus (interviu, konferencijos), verta stebėti, ar internete neatsiranda įtartinų klipų su jų vaizdu, naudojant reguliarų paiešką arba specializuotas stebėjimo paslaugas, orientuotas į prekės ženklo apsaugą.
Vietoj apibendrinimo: ką realiai daryti jau šiandien
Nesitikėkite, kad kažkokia viena technologija ar įstatymas išspręs šitą problemą per naktį – reguliavimas visada vėluoja paskui technologiją, ir taip bus dar ilgai. Bet keletas praktinių dalykų realiai sumažina riziką jums asmeniškai ar jūsų organizacijai:
- Įsiveskite „dviejų kanalų taisyklę” bet kokiems finansiniams ar jautriems prašymams, gautiems balsu ar vaizdo skambučiu – patvirtinimas turi ateiti kitu, iš anksto žinomu keliu.
- Naudokitės sveiku skepticizmu prie emocingo turinio – jei vaizdo įrašas ar garso klipas sukelia stiprų pyktį ar pasipiktinimą per sekundę, tai ženklas sustoti ir patikrinti šaltinį, o ne dalintis toliau.
- Tikrinkite šaltinį, ne tik turinį – ar tas pats klipas rodomas patikimuose naujienų portaluose, ar tik anoniminėse paskyrose.
- Sekite C2PA ir Content Credentials plėtrą – artimiausiais metais vis daugiau kamerų ir redagavimo programų integruos šią autentifikacijos infrastruktūrą, ir verta žinoti, kaip ją patikrinti nuotraukoje ar vaizdo įraše.
- Mokykite komandas ir šeimą – ypač vyresnio amžiaus artimuosius, kurie dažniausiai tampa balso klonavimo sukčiavimo taikiniu per „vaiko nelaimės” schemas.
Technologija, kuri sukuria sintetinį turinį, ir technologija, kuri jį aptinka, vysto lenktynes be aiškios pabaigos – tai primena antivirusinių programų ir kenkėjiškų programų istoriją, kur nė viena pusė niekada galutinai nelaimi. Vienintelis realus skirtumas – šįkart statymai yra ne tik jūsų kompiuteris, o tai, kuo galite pasitikėti apie tai, ką matote ir girdite. Ir būtent todėl kritinis mąstymas tampa tiek pat svarbiu įrankiu, kiek bet koks technologinis detektorius.
