Kai kas nors paklausia, ar ChatGPT yra „tikras” dirbtinis intelektas, atsakymas priklauso nuo to, ką tas žmogus turi omenyje sakydamas „tikras”. Ir čia iškyla visa problema – IT bendruomenėje, filosofijoje ir populiariojoje kultūroje terminas „dirbtinis intelektas” naudojamas taip plačiai, kad jis prarado bet kokią aiškią reikšmę. Tam, kad diskusija turėtų prasmę, reikia bent minimaliai atskirti du visiškai skirtingus dalykus: silpnąjį DI (weak AI, arba narrow AI) ir stiprųjį DI (strong AI, arba AGI – artificial general intelligence). Skirtumas tarp jų nėra vien akademinis kabinetinis ginčas – jis nulemia, ką iš tikrųjų galima tikėtis iš šiandieninių technologijų ir kur baigiasi realybė, o pradeda mokslinė fantastika.
Silpnasis DI – įrankis, kuris apsimeta protingu
Silpnasis DI yra viskas, su kuo mes dabar susiduriame praktiškai: paieškos sistemų algoritmai, veido atpažinimo funkcijos telefonuose, kalbos modeliai, rekomendacijų sistemos Netflix ar Spotify platformose, net ir šachmatų programos, kurios sumuša didmeistrius. Visi šie sprendimai yra nepaprastai galingi savo srityje, bet jie neturi jokio bendro supratimo apie pasaulį. GPT tipo modelis gali rašyti eilėraščius, generuoti kodą ir aiškinti fiziką, tačiau viskas, ką jis daro, yra statistinis sekos prognozavimas, paremtas milijardais parametrų. Jis „nesupranta” fizikos taip, kaip supranta žmogus – jis tiesiog labai tiksliai atspėja, kokia sekanti simbolių seka statistiškai labiausiai tikėtina pagal treniruotę.
Svarbiausia savybė, kuri apibrėžia silpnąjį DI, yra siaurumas. Sistema, sukurta atpažinti vėžį rentgeno nuotraukose, negali savarankiškai išmokti groti šachmatais, net jei ji „protingesnė” už žmogų savo srityje. Perkelti tos pačios sistemos gebėjimus į kitą sritį reikia iš esmės naujo modelio, naujų duomenų ir naujo treniravimo ciklo. Tai iš esmės skiriasi nuo to, kaip veikia žmogaus intelektas – vaikas, išmokęs žaisti šaškėmis, gali panaudoti panašią logiką mokydamasis šachmatų be papildomo „pertreniravimo” nuo nulio.
Stiprusis DI – sąvoka, kuri egzistuoja daugiau teorijoje nei praktikoje
Stiprusis DI, arba AGI, reiškia sistemą, kuri turėtų bendrą, lankstų intelektą, prilygstantį ar pranokstantį žmogaus gebėjimus visose intelektinėse užduotyse – nuo abstraktaus mąstymo iki emocinio intelekto, kūrybiškumo ir savarankiško problemų sprendimo naujose, nematytose situacijose. Skirtingai nei silpnasis DI, AGI nebūtų priklausomas nuo konkrečios užduoties – jis galėtų perkelti žinias iš vienos srities į kitą taip, kaip tai daro žmogus.
Kol kas jokia egzistuojanti sistema net nėra arti šio slenksčio, nepaisant to, kad marketingo kalba mums nuolat bandoma įpiršti kitokį įspūdį. Yra tokia sąvoka kaip emergent behavior – kai didesni kalbos modeliai netikėtai pademonstruoja gebėjimus, kurių jų kūrėjai net nesitikėjo (pavyzdžiui, matematinį samprotavimą ar programavimo užduotis, kurių tiesiogiai nebuvo mokoma). Tai skamba įspūdingai, ir kai kas šiuos požymius interpretuoja kaip AGI pradmenis. Tačiau kritinis skirtumas tas, kad tie modeliai vis tiek neturi vidinio pasaulio modelio, tikslų, sąmonės ar supratimo priežastinio ryšio prasme – jie tiesiog pasidaro geresni koreliacijų ieškotojai, kai jiems duodama daugiau duomenų ir parametrų.
Turingo testas – kodėl jis nebeatspindi tikrovės
Ilgą laiką Turingo testas buvo laikomas kone šventuoju gralio pakaitalu, matuojant, ar mašina „protinga”. Idėja paprasta: jei žmogus, bendraudamas su mašina tekstu, negali atskirti jos nuo tikro žmogaus, mašina laikoma pademonstravusia intelektą. Problema ta, kad šis testas matuoja imitaciją, o ne supratimą. Šiuolaikiniai kalbos modeliai puikiai praeitų daugumą Turingo testo variantų – jie geba kurti natūralius, koherentiškus, emociškai patikimus atsakymus. Bet tai neturi nieko bendra su tuo, ar sistema „supranta”, ką sako.
Filosofas John Searle šiam paradoksui pateikė garsų minčių eksperimentą – „Kinų kambarį”. Įsivaizduokime žmogų, esantį kambaryje, kuris nemoka kinų kalbos, bet turi didžiulę instrukcijų knygą, nurodančią, kaip į gaunamus kinų rašmenis atsakyti tam tikrais kitais rašmenimis. Iš išorės atrodo, kad kambarys „supranta” kinų kalbą, nes atsakymai yra tinkami. Tačiau žmogus viduje jokios kalbos nesupranta – jis tik seka taisykles. Argumentas taikomas ir šiandieniniams kalbos modeliams: jie labai gerai seka statistines „taisykles”, bet tai nereiškia semantinio supratimo egzistavimo.
Kodėl riba vis labiau ištrinama – ir kodėl tai pavojinga marketingo požiūriu
Praktiškai kiekviena didesnė technologijų kompanija dabar savo produktus vadina „AI powered”, nepriklausomai nuo to, kiek toli jie yra nuo tikro bendro intelekto. Tai kuria įspūdį, kad esame arčiau AGI, nei realiai esame. Kai OpenAI, Google DeepMind ar Anthropic paskelbia naują modelį, žiniasklaida dažnai naudoja terminus tarsi tos sistemos „mąsto” ar „supranta”, kai iš tikrųjų kalbame apie labai sudėtingas, bet vis tiek siauras statistines sistemas.
Šis kalbos netikslumas turi realių pasekmių. Investuotojai, politikai formuojantys reguliavimą, net paprasti vartotojai pradeda tikėtis dalykų, kurių dabartinės technologijos tiesiog negali pateikti. Kai kalbame apie DI reguliavimą, svarbu skirti riziką, kylančią iš galingo, bet siauro įrankio (pvz., dezinformacijos generavimo mastelyje), nuo hipotetinės rizikos, kylančios iš savarankiško, bendro intelekto, kuris galėtų turėti savo tikslus, nesutampančius su žmonijos interesais. Šie du rizikos tipai reikalauja skirtingų atsakymų, ir juos supainiojus, reguliavimas tampa arba nepakankamas, arba absurdiškai perteklinis.
Techninės kliūtys keliui į AGI
Yra keletas fundamentalių priežasčių, kodėl perėjimas nuo silpnojo prie stipriojo DI nėra tiesiog „daugiau parametrų, daugiau duomenų” klausimas:
- Priežastinis samprotavimas. Dabartiniai modeliai puikiai atpažįsta koreliacijas, bet sunkiai geba tikrą priežastinį mąstymą – supratimą, kad A sukelia B, o ne tik dažnai su juo pasitaiko.
- Transfer learning ribotumas. Žmogus, išmokęs vairuoti dviratį, per kelias minutes gali pritaikyti panašius pusiausvyros principus motoroleriui. Modeliai, kad ir kokie galingi, tokio lankstaus žinių perkėlimo dar nesugeba be papildomo apmokymo.
- Fizinis pasaulio supratimas (embodiment). Nemažai tyrėjų, tarp jų ir robotikos specialistai, teigia, kad tikras intelektas negali atsirasti vien tekstiniuose ar vizualiniuose duomenyse – jam reikia fizinės sąveikos su pasauliu, kad susiformuotų intuityvus supratimas apie priežastingumą, erdvę ir laiką.
- Energetinis ir skaičiavimo kaštas. Žmogaus smegenys sunaudoja apie 20 vatų energijos. Didieji kalbos modeliai treniruojami sunaudojant milijonus dolerių skaičiavimo resursų. Jei kelias į AGI reikalauja tiesiog skaičiavimo galios mastelio didinimo (scaling), fizinės ir ekonominės ribos gali sustabdyti šį procesą anksčiau, nei bus pasiektas rezultatas.
Ką iš tikrųjų turėtų reikšti „DI” jūsų versle ar projekte
Jei dirbate IT srityje ir jums reikia priimti sprendimą, ar integruoti „DI sprendimą” į produktą, pirmiausia svarbu suprasti, kad iš tikrųjų 99,9% visų dabar rinkoje esančių „AI” produktų yra silpnasis DI. Tai nėra trūkumas – tai tiesiog realybė, su kuria reikia dirbti protingai. Klientams ar vadovybei pristatydami sprendimą, verta iš anksto apibrėžti, ką sistema tikrai gali ir ko negali padaryti, kad išvengtumėte lūkesčių, kurie neatitinka technologijos brandos lygio.
Praktiškai tai reiškia:
- Testuokite modelio ribas prieš diegimą – ieškokite atvejų, kur jis „haliucinuoja” ar duoda įtikinamus, bet klaidingus atsakymus.
- Nenaudokite kalbos modelio kaip vienintelio sprendimų priėmimo šaltinio kritinėse srityse (medicina, teisė, finansai) – naudokite jį kaip pagalbinį įrankį su žmogaus priežiūra.
- Skirkite laiko duomenų kokybei, ne tik modelio dydžiui – siauras, gerai apmokytas modelis konkrečiai užduočiai dažnai pranoksta bendrą, didelį modelį, jei kalbama apie kaštų ir tikslumo balansą.
- Būkite atsargūs su terminija komunikuojant su ne technine auditorija – žodis „intelektas” kuria klaidingus lūkesčius apie sistemos savarankiškumą.
Vietoj apibendrinimo: kur tikrai stovime šiandien
Tiesa yra ta, kad mes gyvename labai keblu momentu technologijų istorijoje – silpnasis DI tapo tiek įtikinamas, kad kasdien maišome jį su kažkuo daugiau. Kalbos modeliai rašo taip natūraliai, atsako taip greitai ir taikliai, kad emocinis mūsų smegenų atsakas verčia priskirti jiems supratimą, kurio jie neturi. Tai nėra kaltinimas nei modeliams, nei jų kūrėjams – tai tiesiog žmogaus psichologijos ypatybė: mes evoliuciniai sukurti priskirti agentiškumą ir sąmonę viskam, kas atrodo ir „kalba” panašiai į mus.
Praktinis patarimas visiems, dirbantiems ar besidomintiems šia sritimi: laikykitės aiškaus skirtumo tarp „sistema imituoja intelektą labai gerai konkrečioje srityje” ir „sistema turi bendrą supratimą apie pasaulį”. Kai kitą kartą skaitysite pranešimą, kad naujas modelis „priartėjo prie AGI”, paklauskite savęs – ar tai reiškia, kad sistema tapo lankstesnė ir gali perkelti žinias tarp visiškai nesusijusių sričių savarankiškai, ar tai tiesiog reiškia, kad ji tapo geresnė esamoje, jau žinomoje benchmark užduotyje? Šis paprastas klausimas apsaugo nuo daugumos šiandieninio DI diskurso triukšmo.
Stiprusis DI galbūt atsiras po dešimtmečio, galbūt po penkiasdešimties metų, o galbūt niekada – niekas iš tikrųjų nežino, nes net nesutariame, kokie tiksliai kriterijai turėtų jį apibrėžti. Bet vienas dalykas aiškus: kol tos ribos neturime, protingiausia strategija yra vertinti kiekvieną DI sprendimą pagal tai, ką jis faktiškai daro, o ne pagal tai, kaip jis pavadintas rinkodaros medžiagoje.
