Prisimenu, kaip prieš kelerius metus stebėjau diskusiją Reddit forume apie tai, kodėl vienas komentaras buvo ištrintas, o kitas, dar aštresnis, liko kaboti savo vietoje. Tuomet pirmą kartą suvokiau, kad turinio moderavimas — tai ne tik mygtukas „ištrinti“, o visa ekosistema su savo logika, klaidomis ir, tiesą sakant, gana keista biurokratija. Kai kalbame apie IT sferą, moderavimas tapo vienu iš tų klausimų, kurie liečia kiekvieną — nuo paauglio, rašančio TikTok komentarą, iki žurnalisto, bandančio publikuoti tyrimą apie korupciją.
Kai algoritmas tampa cenzoriumi
Didžiosios platformos — Meta, YouTube, X (buvęs Twitter) — kasdien apdoroja milijardus įrašų. Žmogus fiziškai negalėtų peržiūrėti visko rankomis, tad didžioji dalis darbo atitenka algoritmams. Ir čia prasideda įdomiausia dalis: algoritmas nesupranta konteksto taip, kaip supranta žmogus. Jis mato raktinius žodžius, vaizdo analizę, metaduomenis, bet nesupranta ironijos, satyros ar kultūrinio konteksto.
Pavyzdžiui, istorinė nuotrauka iš karo gali būti automatiškai pažymėta kaip smurtinis turinys, nors ji turi didžiulę edukacinę vertę. Arba, priešingai — tikrai pavojingas turinys gali likti neatpažintas, nes jis užkoduotas emoji ar slengu, kurio algoritmas dar „neišmoko“. Tai nėra vienkartinė problema — tai nuolatinis lenktyniavimas tarp tų, kurie kuria turinį, siekdami apeiti filtrus, ir tų, kurie tuos filtrus tobulina.
Kaip veikia moderavimo sistemos iš vidaus
Realybėje moderavimas dažniausiai vyksta trimis lygiais:
- Automatinis filtravimas — mašininio mokymosi modeliai, kurie skenuoja tekstą, vaizdą ir garsą dar prieš publikavimą arba iškart po jo.
- Žmogiškoji peržiūra — dažnai tai outsourcinamos komandos, dirbančios Filipinuose, Indijoje ar Rytų Europoje, kurios per dieną peržiūri tūkstančius pranešimų, gaudamos vos kelias sekundes vienam sprendimui priimti.
- Bendruomenės pranešimai — vartotojai patys žymi netinkamą turinį, o sistema prioretizuoja, ką peržiūrėti pirmiausia pagal pranešimų skaičių ir potencialią žalą.
Įdomu tai, kad būtent antrasis lygis — žmogiškoji peržiūra — dažnai sukelia daugiausiai kritikos. Moderatoriai dirba spaudžiami laiko, be aiškių gairių sudėtingiems atvejams, ir psichologiškai sunkiomis sąlygomis, nes nuolat mato traumuojantį turinį. Ne veltui pastaraisiais metais pasirodė ne viena investigacinė žurnalistika apie moderatorių psichinę sveikatą.
Dirbtinis intelektas moderavime — palaima ar prakeiksmas
Didieji kalbos modeliai pakeitė žaidimo taisykles. Šiandien AI gali analizuoti tekstą kontekstualiai daug geriau nei prieš penkerius metus — jis atskiria satyrą nuo grasinimo, supranta idiomas, gali įvertinti toną. Bet čia slypi ir pavojus: sprendimus, kurie turėtų priklausyti nuo žmogaus vertinimo (pavyzdžiui, ar konkretus politinis komentaras yra dezinformacija, ar tiesiog nepopuliari nuomonė), vis dažniau priima juodoji dėžė.
Problema ta, kad AI modeliai mokosi iš duomenų, kuriuose jau yra istorinių šališkumų. Jei mokymo duomenyse tam tikros grupės kalba dažniau pažymima kaip „toksiška“, sistema tą šališkumą perima ir kartoja masiniu mastu. Tai nėra teorinis pavojus — MIT ir Stanfordo tyrimai jau ne kartą parodė, kad automatinio moderavimo įrankiai nevienodai vertina identišką turinį priklausomai nuo autoriaus tarmės ar rašymo stiliaus.
Kita vertus, be AI moderavimas tiesiog neįmanomas tokiu mastu, koks reikalingas šiandieninėms platformoms. Klausimas nebe „naudoti ar ne“, o „kaip padaryti sistemą skaidresnę ir teisingesnę“.
Teisinis labirintas: DSA, Section 230 ir kitos raidės
Europoje šiuo metu didžiausią įtaką turi Skaitmeninių paslaugų aktas (Digital Services Act, DSA), kuris įsigaliojo palaipsniui nuo 2023-2024 metų. Jis įpareigoja dideles platformas skaidriai atskleisti, kaip veikia jų moderavimo algoritmai, leidžia vartotojams apskųsti sprendimus ir reikalauja greitai reaguoti į neteisėtą turinį.
JAV situacija visiškai kitokia — ten galioja garsusis Section 230, kuris platformas apsaugo nuo atsakomybės už vartotojų sukurtą turinį. Būtent šis įstatymas leido internetui apskritai egzistuoti tokia forma, kokia mes jį pažįstame, tačiau šiandien jis kritikuojamas iš abiejų politinių stovyklų — vieni sako, kad platformos per daug cenzūruoja, kiti — kad per mažai kovoja su dezinformacija.
Lietuvoje, kaip ES narei, DSA reikalavimai jau taikomi tiesiogiai, bet praktikoje didžiausią įtaką vis tiek turi ne nacionaliniai įstatymai, o pačių platformų vidinės taisyklės — Community Guidelines, Terms of Service ir panašūs dokumentai, kurių dauguma vartotojų niekada iki galo neperskaito.
Kai vartotojai patys tampa teisėjais
Įdomi tendencija — decentralizuotas moderavimas. Mastodon, kaip alternatyva centralizuotoms platformoms, veikia per atskirus serverius (instancijas), kurių kiekvienas turi savo administraciją ir savo taisykles. Reddit subreddituose moderatoriai — dažniausiai savanoriai — patys sprendžia, kas leidžiama jų bendruomenėje.
Toks modelis turi privalumų: taisyklės labiau atitinka konkrečios bendruomenės vertybes, sprendimai priimami greičiau ir su geresniu konteksto supratimu. Bet yra ir minusų — nevienodas taikymas, galios koncentracija nedidelės grupės rankose, o kartais ir toksiškos „echo chamber“ kultūros formavimasis, kai bendruomenė tampa savotišku uždaru burbulu.
Man asmeniškai šis modelis atrodo įdomiausias eksperimentas, nes jis iš esmės klausia: ar moderavimas turi būti centralizuotas sprendimas iš viršaus, ar organiškas procesas, kurį formuoja pati bendruomenė?
Ką daryti, jei tavo turinys buvo pašalintas
Tai praktinis klausimas, su kuriuo susiduria daugybė žmonių — nuo smulkaus verslo, praradusio Instagram paskyrą, iki turinio kūrėjo, kurio YouTube video staiga demonetizuotas. Keletas konkrečių žingsnių, kurie realiai padeda:
- Perskaityk pranešimo priežastį atidžiai — dažnai platformos nurodo konkretų taisyklės punktą, kuris buvo pažeistas, ir tai leidžia suprasti, ar tai algoritmo klaida, ar tikrai pažeidimas.
- Naudokis oficialiu apeliacijos mechanizmu — pagal DSA, ES vartotojai turi teisę į žmogiškąją peržiūrą, jei nesutinka su automatiniu sprendimu. Nepraleisk šios galimybės, net jei procesas atrodo lėtas.
- Dokumentuok viską — ekrano nuotraukos, laiko žymos, originalus turinys prieš pašalinimą. Tai svarbu tiek apeliacijai, tiek galimam teisiniam ginčui.
- Vengti masinio „mass reporting“ atsakymo — kai kurie kūrėjai bando organizuoti savo auditoriją prieš tuos, kurie juos pažymėjo, bet tai dažnai baigiasi dar griežtesnėmis sankcijomis pačiai platformai pastebėjus manipuliaciją.
- Diversifikuok platformas — jei tavo verslas ar kūrybinė veikla priklauso nuo vienos platformos, tu jau esi pažeidžiamas. Turėk atsarginį planą — savo svetainę, el. pašto sąrašą, alternatyvius kanalus.
Pusiausvyros paieškos: ką visa tai reiškia praktiškai
Jei bandytume sudėti visa tai į vieną vaizdą, matytume štai ką: turinio moderavimas niekada nebus tobulas mechanizmas, nes jis bando suderinti dvi iš esmės prieštaringas vertybes — saugumą ir laisvę. Kuo griežtesnė moderavimo sistema, tuo mažiau erdvės klysti, bet tuo daugiau erdvės nesąžiningam cenzūravimui. Kuo laisvesnė sistema, tuo daugiau erdvės kūrybai ir nepopuliarioms nuomonėms, bet tuo lengviau paplinta dezinformacija ir tikra žala.
Kaip vartotojui, verta suprasti keletą dalykų. Pirma, platformos taisyklės nėra konstitucija — jos keičiasi, dažnai be didelio įspėjimo, ir prisitaiko prie reguliacinio spaudimo, reklamdavių reikalavimų ar viešosios nuomonės. Antra, algoritminis moderavimas visada turės klaidų — tiek false positive (teisėtas turinys pašalinamas), tiek false negative (žalingas turinys lieka). Trečia, teisinė bazė, ypač Europoje su DSA, palaipsniui suteikia vartotojams realius įrankius kovoti su neteisingais sprendimais, ir verta jais naudotis, o ne tiesiog nusiminti ir palikti platformą tyliai.
Ateityje, manau, matysime dar didesnę AI integraciją moderavime, bet kartu ir didesnį skaidrumo reikalavimą — vartotojai nebenorės tiesiog priimti „tavo turinys pažeidžia taisykles“ be konkretaus paaiškinimo. Taip pat tikėtina, kad decentralizuoti modeliai, panašūs į Mastodon, augs kaip alternatyva didiesiems žaidėjams, nors masinio pritraukimo jie kol kas nepasiekia. Galiausiai, svarbiausia žinutė paprasta: turinio moderavimas nėra techninė detalė, paslėpta kažkur serverio gilumoje — tai kasdien veikianti sistema, kuri formuoja, ką matome, ką galime pasakyti, ir kas apskritai patenka į viešą diskursą. Verta ją suprasti, o ne tiesiog priimti kaip savaime suprantamą duotybę.
