Prieš porą metų vandenženkliai skaitmeniniame turinyje buvo daugiau techninė smulkmena – kažkas, ką naudojo fotografų agentūros ar filmų studijos, saugodamos autorines teises. Šiandien tai tapo viena karščiausių temų dirbtinio intelekto pasaulyje, nes DALL-E, Midjourney, Sora, ChatGPT ir dešimtys kitų įrankių generuoja tiek turinio, kad atskirti realų nuo sintetinio darosi vis sunkiau. Ir čia jau kalbame ne tik apie meną ar pramogas – dezinformacija, klastojimai, deepfake vaizdo įrašai politikoje jau kelia realią grėsmę.
Tad kaip technologijų industrija bando spręsti šitą problemą? Trumpai – žymėjimu ir vandenženkliais. Bet realybėje viskas kur kas painiau, nei atrodo iš pirmo žvilgsnio.
Kodėl staiga visi kalba apie AI turinio žymėjimą
Generatyvinio AI proveržis 2022-2023 metais pakeitė žaidimo taisykles. Kai vaizdo ar teksto generavimas kainuoja centus, o rezultatas praktiškai neatskiriamas nuo žmogaus sukurto turinio, atsiranda visai naujas mastas problemų. Rinkimų dezinformacija, sukčiavimo schemos su balso klonavimu, netikros nuotraukos socialiniuose tinkluose – visa tai jau nebe teorija, o kasdienybė.
Todėl technologijų kompanijos, reguliuotojai ir net atskiros valstybės pradėjo reikalauti mechanizmų, leidžiančių atsekti, ar konkretus turinys buvo sugeneruotas mašinos, ar sukurtas žmogaus. Tai nėra vien etinis klausimas – tai tampa teisiniu reikalavimu. Europos Sąjungos AI aktas (AI Act) tiesiogiai numato pareigą žymėti dirbtinio intelekto sugeneruotą turinį, o panašūs reikalavimai formuojasi ir JAV bei Kinijoje.
Metaduomenys vs. vandenženkliai: du skirtingi požiūriai
Verta iš karto atskirti du principiškai skirtingus mechanizmus, nes žmonės juos dažnai supainioja.
Metaduomenų žymėjimas – tai informacija, pridedama prie failo, bet neįterpta į patį turinį. Panašiai kaip EXIF duomenys nuotraukoje, kurie nurodo, kokiu fotoaparatu darytas kadras. Toks žymėjimas paprastas įgyvendinti, bet turi vieną didelį trūkumą – jį lengva pašalinti. Užtenka padaryti ekrano nuotrauką arba konvertuoti failo formatą, ir metaduomenys dingsta.
Vandenženkliai (angl. watermarking) veikia kitaip – informacija įterpiama į patį turinį taip, kad ją būtų sunku pašalinti nepakeitus paties failo iš esmės. Vaizduose tai gali būti nedideli pikselių lygio pokyčiai, kurie žmogaus akiai nematomi, bet algoritmas juos gali atpažinti. Garso failuose – dažnio moduliacijos, kurios klausantis nepastebimos, bet aptinkamos analizuojant spektrogramą.
Skirtumas praktikoje esminis: metaduomenys pasako „šis failas buvo pažymėtas”, o vandenženklis pasako „šis turinys buvo sukurtas taip ir taip”, net jei failas praėjo per kelis konvertavimus ar redagavimus.
C2PA – bandymas sukurti bendrą standartą
Vienas įdomiausių dalykų šioje srityje – Content Provenance and Authenticity koalicija (C2PA), kurią įkūrė Adobe, Microsoft, Intel, BBC ir kitos didelės kompanijos. Idėja paprasta: sukurti universalų standartą, leidžiantį failui „nešti” savo istoriją – kas jį sukūrė, kokiais įrankiais, ar buvo redaguotas ir kaip.
Technine prasme tai vadinama „content credentials” – kriptografiškai pasirašyti metaduomenys, prie kurių pridedamas skaitmeninis parašas. Jei kas nors bando pakeisti turinį nepažymėdamas šio fakto, parašas tampa nebegaliojantis, ir sistema tai gali aptikti. Panašus principas, kaip su SSL sertifikatais – nepasitiki pačiu turiniu, o tikrini, ar grandinė iki šaltinio nepertraukta.
Problema ta, kad standartas veikia tik tada, kai jį palaiko visa ekosistema – nuo fotoaparato ar generavimo įrankio iki peržiūros platformos. Jei bent viena grandis nepalaiko C2PA, informacija tiesiog dingsta. Šiuo metu Adobe Photoshop, Leica fotoaparatai, kai kurie naujienų portalai jau integruoja šį standartą, tačiau iki visuotinio priėmimo dar toli.
Kaip realiai veikia vandenženkliai vaizduose ir tekste
Google’o SynthID greičiausiai yra plačiausiai naudojamas pavyzdys šiuo metu. Jis integruotas į Imagen ir kitus Google generatyvinius modelius ir veikia gana elegantiškai – įterpia statistinį šabloną tiesiai į pikselių struktūrą generavimo metu. Šis šablonas nepastebimas žmogaus akiai, atsparus tam tikram apkirpimui, suspaudimui ar spalvų korekcijai, bet pakankamai stiprus, kad specialus detektorius galėtų jį atpažinti net po nemažų modifikacijų.
Su tekstu situacija kur kas sudėtingesnė. Kalbos modeliai generuoja žodžius vieną po kito, remdamiesi tikimybėmis – ir būtent čia atsiranda erdvė vandenženkliui. Idėja tokia: modelis šiek tiek pakeičia, kuriuos žodžius „mėgsta” rinktis konkrečiose pozicijose, sukurdamas statistinį šabloną, kurio žmogui neįmanoma pastebėti skaitant, bet kurį galima aptikti analizuojant tekstą algoritmiškai.
Deja, teksto vandenženkliai kur kas trapesni nei vaizdo. Pakanka perfrazuoti sakinį, išversti į kitą kalbą ir atgal, arba tiesiog perrašyti tekstą kitu modeliu – ir šablonas dingsta. Kadangi teksto informacijos „talpa” žymiai mažesnė nei vaizdo ar garso, čia tiesiog fiziškai sunkiau paslėpti patikimą signalą.
Kodėl visa tai vis dar nesuveikia taip, kaip norėtųsi
Būkime sąžiningi – dabartinė situacija toli gražu netobula. Yra keletas rimtų priežasčių, kodėl vandenženkliai neišsprendžia problemos iki galo:
- Atvirojo kodo modeliai. Kompanija gali įdiegti vandenženklį savo uždaroje sistemoje, bet Stable Diffusion ar Llama variantai, kuriuos žmonės paleidžia lokaliai, dažnai apskritai neturi jokio žymėjimo mechanizmo – ir niekas negali priversti kiekvieno vartotojo jo įdiegti.
- Adversarial atakos. Yra jau paskelbtų tyrimų, kaip specialiai apmokytas modelis gali „nuvalyti” vandenženklį nepablogindamas vaizdo kokybės. Tai nuolatinis ginklavimosi žaidimas tarp tų, kas žymi, ir tų, kas bando pašalinti žymes.
- False positives ir false negatives. Detektoriai ne visada tikslūs – realaus žmogaus nupieštas paveikslas kartais gali būti klaidingai pažymėtas kaip AI generuotas, ir atvirkščiai.
- Konvertavimo problema. Ekrano nuotrauka, PDF eksportas, socialinių tinklų suspaudimo algoritmai – visa tai gali sunaikinti subtilius vandenženklio žymenis.
Kitaip tariant, vandenženkliai šiandien veikia gerai prieš atsitiktinį, neplanuotą turinio pasiskirstymą, bet praktiškai bejėgiai prieš ką nors, kas sąmoningai nori žymę pašalinti.
Reguliavimas: nuo rekomendacijų prie įpareigojimų
ES AI aktas įtvirtina konkrečius reikalavimus – nuo 2026 metų dirbtinio intelekto sistemų kūrėjai privalės užtikrinti, kad generuojamas sintetinis turinys būtų pažymėtas mašinai skaitomu būdu, leidžiančiu identifikuoti, jog turinys buvo dirbtinai sukurtas ar manipuliuotas. Tai apima ir deepfake vaizdo įrašus, ir dirbtiniu intelektu sukurtus tekstus, publikuojamus viešojo intereso temomis.
JAV situacija fragmentiškesnė – yra federalinių iniciatyvų, bet realus reguliavimas dažniau vyksta valstijų lygmeniu. Kinija savo ruožtu jau įgyvendino gan griežtas taisykles, reikalaujančias aiškaus, matomo žymėjimo generatyviniam turiniui, publikuojamam viešai.
Įdomu tai, kad reguliavimas verčia industriją bendradarbiauti ten, kur konkurencija būtų natūralesnė. C2PA koalicijoje kartu dirba tiesioginiai konkurentai – Adobe, Microsoft, Google – nes visi supranta, kad fragmentuotas standartas niekam nenaudingas.
Praktiniai patarimai – ką su tuo daryti dabar
Jei kuriate turinį, dirbate su AI įrankiais ar tiesiog norite apsisaugoti nuo dezinformacijos, štai keletas konkrečių dalykų, kuriuos verta žinoti:
- Tikrinkite šaltinį, ne tik turinį. Jei matote patrauklią, bet abejotiną nuotrauką ar vaizdo įrašą, ieškokite, ar C2PA content credentials informacija prieinama – Adobe ir kai kurios naujienų platformos jau leidžia peržiūrėti šią istoriją per specialius įrankius (pvz., Content Credentials Verify).
- Nepasitikėkite vien vizualiu vertinimu. Modernūs generatyviniai modeliai jau nebedaro klasikinių klaidų (papildomi pirštai, iškraipytas tekstas), todėl akimi atskirti tapo daug sunkiau nei prieš metus.
- Jei publikuojate AI turinį – žymėkite jį sąžiningai. Tai ne tik etinė pareiga, bet vis dažniau ir teisinis reikalavimas, ypač jei turinys susijęs su politika, sveikata ar finansais.
- Naudokite kelis patikros įrankius. Nė vienas detektorius nėra 100% tikslus. Hive Moderation, Google’s About This Image, ar C2PA verifikavimo įrankiai gali duoti skirtingus rezultatus – geriau lyginti keletą šaltinių.
- Kūrėjams – integruokite žymėjimą iš karto, ne vėliau. Jei kuriate produktą su generatyviniu AI komponentu, C2PA standarto integracija projektavimo etape kainuoja žymiai mažiau nei bandymas pridėti ją po to, kai sistema jau veikia.
Vietoj išvados: skaitmeninė pasitikėjimo infrastruktūra dar statoma
Jei reikėtų apibendrinti visą šitą temą vienu vaizdiniu, sakyčiau taip: mes šiuo metu esame situacijoje, panašioje į interneto ankstyvąsias dienas prieš HTTPS tapdant standartu. Tuomet niekas neabejojo, kad reikia šifruoti duomenų srautą, bet infrastruktūra, kuri tai leistų padaryti paprastai ir visuotinai, formavosi metų metais.
Su AI turinio žymėjimu vyksta tas pats. Technologija jau egzistuoja, standartai kuriami, reguliavimas atsiranda – bet trūksta to lipnaus visuotinio priėmimo, kuris paverstų žymėjimą tokia pat savaime suprantama dalimi, kaip šiandien yra saugus HTTPS ryšys naršyklėje.
Realistiškai žiūrint, tobulo sprendimo greičiausiai niekada nebus – kiekvieną apsaugos mechanizmą anksčiau ar vėliau kas nors išmoks apeiti. Bet tai nereiškia, kad vandenženkliai ir žymėjimo standartai beprasmiai. Jie pakelia kartelę – padaro manipuliavimą brangesniu, sudėtingesniu, reikalaujančiu daugiau techninių žinių. O tai jau savaime sumažina masinės dezinformacijos mastą, net jei nepašalina jos visai.
Kitas dešimtmetis šioje srityje bus įdomus stebėti – tikriausiai matysime, kaip vandenženkliai taps standartine kamerų, telefonų ir generatyvinių įrankių dalimi, panašiai kaip šiandien niekas nesistebi, kad naršyklė automatiškai tikrina svetainės sertifikatą. Klausimas tik, kiek laiko užtruks, kol visa ekosistema – nuo kūrėjo iki platformos – prisijungs prie to paties standarto kalbos.
