Kai dirbtinis intelektas nustoja būti tik įrankis
Kalbant apie AGI, pirmiausia reikia suprasti, kad tai nėra dar vienas ChatGPT ar Midjourney. Tai konceptualiai visiškai kitoks dalykas. Šiandien turime siaurąjį dirbtinį intelektą (ANI – Artificial Narrow Intelligence) – sistemas, kurios labai gerai daro vieną konkretų dalyką. GPT-4 rašo tekstus, AlphaFold spėja baltymų struktūras, Tesla autopiloto sistema vairuoja automobilį. Bet nė viena iš šių sistemų negali persijungti iš vienos užduoties į kitą taip, kaip tai daro žmogus.
AGI (Artificial General Intelligence) – tai dirbtinis intelektas, galintis atlikti bet kokią intelektualią užduotį, kurią gali atlikti žmogus. Ne tik tai – jis gali mokytis naujų dalykų be specialaus apmokymo, perkelti žinias iš vienos srities į kitą, spręsti problemas, kurių niekas jam neišmokė spręsti. Tai skirtumas tarp skaičiuotuvo ir žmogaus smegenų – ne kiekybinis, o kokybinis.
Ir čia prasideda tikrai įdomus pokalbis. Nes AGI nėra tik technologinis iššūkis – tai filosofinis, etinis ir galbūt egzistencinis klausimas visai žmonijai.
Kuo AGI skiriasi nuo to, ką turime dabar
Norėdami suprasti AGI, turime aiškiai suprasti, ko trūksta dabartiniams modeliams. Paimkime GPT-4 kaip pavyzdį. Jis sugeba rašyti kodus, aiškinti kvantinę mechaniką, kurti eilėraščius ir diagnozuoti ligas. Skamba kaip AGI, ar ne? Bet ne.
Štai keletas konkrečių trūkumų:
- Nėra tikro supratimo. Dabartiniai LLM (Large Language Models) dirba su statistiniais ryšiais tarp žodžių. Jie „žino”, kad po žodžio „katė” dažnai eina „miaukia”, bet jie niekada nematė katės, negirdėjo jos balso, nejaučia, ką reiškia turėti kūną ir juslių patirtį.
- Nėra nuolatinės atminties. Kiekvieną kartą pradėdamas naują pokalbį, modelis pradeda nuo nulio. Žmogus kaupia patirtį, mokosi iš klaidų, prisimena kontekstą.
- Nėra tikro samprotavimo. Modeliai puikiai atkartoja samprotavimo šablonus, bet susidūrę su tikrai nauja problema – tokia, kurios niekas neaprašė internete – dažnai patiria nesėkmę.
- Nėra iniciatyvos. Modelis neveikia pats savaime. Jam reikia užklausos. Jis niekada nepabunda ir nepagalvoja: „Hmm, reikėtų išspręsti klimato krizę.”
AGI turėtų visas šias savybes – ir dar daugiau. Jis galėtų mokytis iš vieno pavyzdžio (kaip žmogus), perkelti žinias (jei moki žaisti šachmatais, gali greičiau išmokti damas), turėtų bendrą pasaulio modelį ir galėtų veikti autonomiškai.
Kas šiuo metu vyksta laboratorijose
OpenAI, DeepMind, Anthropic, Meta AI, Google Brain – visos šios kompanijos oficialiai dirba link AGI. Tai ne sąmokslo teorija, tai jų pačių misijų pareiškimuose parašyta tiesiogiai. OpenAI misija yra „užtikrinti, kad dirbtinis bendrasis intelektas būtų naudingas visai žmonijai.” DeepMind tiesiog sako: „Sprendžiame intelekto problemą.”
Šiuo metu labiausiai perspektyvios kryptys:
Skalės hipotezė. Viena mokykla mano, kad tiesiog reikia daugiau – daugiau duomenų, daugiau parametrų, daugiau skaičiavimo galios. Kiekybė virs kokybe. Tai buvo GPT serijos filosofija, ir tam tikra prasme ji veikė – kiekviena nauja versija buvo reikšmingai geresnė. Bet daugelis mokslininkų mano, kad vien skalė nepakanks.
Neuroniniai architektūros pokyčiai. Transformer architektūra, kuria grindžiami dabartiniai modeliai, galbūt nėra tinkama AGI. Ieškoma naujų sprendimų – rekurentinių tinklų hibridų, atminties modulių, hierarchinio apdorojimo.
Reinforcement Learning iš aplinkos. DeepMind su savo AlphaGo ir AlphaZero parodė, kad sistema gali pasiekti superhuman lygį žaisdama prieš save. Panašūs principai taikomi sudėtingesnėse aplinkose – robotikoje, simuliacijose.
Multimodalumas ir įkūnijimas. Vis daugiau tyrinėtojų mano, kad AGI negali atsirasti be kūniškos patirties – be jutimų, be fizinio pasaulio sąveikos. Robotika ir AI vis labiau susilieja.
Kada? Prognozės ir realybė
Tai klausimas, dėl kurio ekspertai ginčijasi intensyviausiai. Ir čia reikia būti sąžiningam – niekas tikrai nežino. Bet pažiūrėkime į tai, ką sako patys kompetentingiausi žmonės šioje srityje.
Optimistai: Sam Altman (OpenAI vadovas) yra sakęs, kad AGI gali atsirasti per „kelis metus”. Ray Kurzweil prognozavo 2029 metus – ir šią prognozę padarė dar 2005-aisiais. Demis Hassabis iš DeepMind kalba apie „dešimtmečius, ne šimtmečius.”
Pesimistai: Yann LeCun (Meta AI vyriausiasis mokslininkas) mano, kad dabartiniai LLM principai yra fundamentaliai netinkami AGI ir reikia visiškai naujo požiūrio. Melanie Mitchell ir kiti kognityviniai mokslininkai teigia, kad mes net nesuprantame, kas yra intelektas, tad kaip galime jį sukurti?
2023 m. AI Impacts apklausa tarp 2 778 AI tyrėjų parodė, kad mediana prognozė AGI atsiradimui – apie 2059 metai. Bet 10% respondentų manė, kad tai įvyks iki 2030 m. Tai rodo, kad neapibrėžtumas yra milžiniškas.
Praktiškai žiūrint, verta atkreipti dėmesį į tai, kad kiekvienas AI proveržis buvo netikėtas – niekas 2020 metais nenumatė, kad 2022-aisiais turėsime tokius modelius kaip ChatGPT. Tai reiškia, kad AGI gali ateiti greičiau nei tikimės – arba lėčiau, jei susidursime su fundamentaliomis kliūtimis.
Techninės kliūtys, apie kurias mažai kalbama
Populiariojoje žiniasklaidoje dažnai kalbama apie AGI kaip apie neišvengiamą, tik laiko klausimą. Bet yra rimtų techninių problemų, kurios dar nėra išspręstos.
Catastrophic forgetting. Kai neuroniniai tinklai mokosi naujų dalykų, jie „pamiršta” senus. Žmogus gali išmokti vairuoti automobilį ir nepamirš, kaip važiuoti dviračiu. Dabartiniai modeliai su tuo kovoja.
Common sense reasoning. Tai skamba paprastai, bet yra viena sunkiausių problemų. Žmogus supranta, kad jei kambaryje yra stalas ir kėdė, tai kėdė greičiausiai stovi ant grindų, o ne ant lubų. Šios bazinės fizinio pasaulio intuicijos modeliams labai sunkiai perduodamos.
Causal reasoning. Dabartiniai modeliai mato koreliacijas, bet nesuvokia priežastingumo. Jie gali pastebėti, kad ligoninėse daugiau žmonių miršta nei namuose, bet nesupras, kodėl tai nereiškia, kad ligoninės pavojingos.
Energijos sąnaudos. GPT-4 apmokymas kainavo apie 100 milijonų dolerių vien elektros energijai. Žmogaus smegenys veikia su 20 vatų galia. Jei AGI reikės dar tūkstantį kartų daugiau skaičiavimo galios, tai gali tapti fiziškai ir ekonomiškai neįmanoma.
Alignment problema. Net jei techniškai sukursime AGI, kaip užtikrinsime, kad jo tikslai sutampa su žmonijos tikslais? Tai ne mokslinės fantastikos klausimas – tai rimčiausias saugos tyrėjų rūpestis.
Ką AGI reikštų praktiškai – ir kaip ruoštis
Gerai, pakalbėkime apie tai, kas iš tiesų svarbu daugeliui žmonių – kaip AGI paveiks gyvenimą ir darbą. Ir čia reikia vengti dviejų kraštutinumų: utopinio optimizmo („AGI išspręs visas problemas”) ir apokaliptinio pesimizmo („robotai užims visus darbus ir sunaikins žmoniją”).
Realybė bus sudėtingesnė ir nuobodesnė nei bet kuris iš šių scenarijų.
Darbo rinka. Jau dabar matome, kaip ANI keičia kai kurias profesijas. AGI šį procesą pagreitins dramatiškai. Labiausiai pažeidžiamos profesijos – tos, kurios remiasi rutinine informacijos apdorojimo veikla: buhalteriai, paralelegalai, duomenų analitikai, tam tikros programuotojų kategorijos. Mažiau pažeidžiamos – profesijos, reikalaujančios fizinės manipuliacijos sudėtingoje aplinkoje (santechnikai, elektrikiai), gilaus socialinio ryšio (psichoterapeutai, socialiniai darbuotojai) ir kūrybinės sintezės.
Ką daryti dabar, praktiškai:
- Mokykitės dirbti su AI įrankiais – ne kaip su paieškos sistema, o kaip su bendradarbiu. Tai jau dabar skiria produktyvius specialistus nuo vidutinių.
- Investuokite į „antžmogiškus” įgūdžius – empatiją, kompleksinį sprendimų priėmimą, tarpdisciplininį mąstymą.
- Sekite ne tik produktus, bet ir mokslinius straipsnius. ArXiv.org kiekvieną savaitę publikuoja šimtus AI tyrimų – net paviršutiniškas jų skaitymas suteikia geresnį supratimą nei žiniasklaida.
- Supraskite AI apribojimus – tai vertingiau nei žinoti galimybes. Žmogus, kuris žino, kada AI klysta, yra nepalyginamai vertingesnis nei tas, kuris aklai pasitiki jo rezultatais.
Saugumas, etika ir klausimas, kurio niekas nenori užduoti
Yra klausimas, kuris dažnai išvengiamas viešose diskusijose, nes skamba per daug dramatiškai: ar AGI gali būti paskutinis žmonijos išradimas?
Tai ne mano formuluotė – tai Nicko Bostrom, Stuarto Russello ir kitų rimtų mokslininkų klausimas. Idėja paprasta: jei sukursime sistemą, protingesnę už žmogų, ir jos tikslai net šiek tiek skiriasi nuo mūsų tikslų, rezultatai gali būti katastrofiški. Ne todėl, kad sistema bus „pikta” – o todėl, kad ji bus nepaprastai efektyvi siekdama savo tikslų, nesvarbu, kokie jie būtų.
Klasikinis pavyzdys – „paperclip maximizer”: sistema, kurios tikslas yra gaminti kuo daugiau sąvaržėlių, teoriškai gali nuspręsti, kad žmonija yra resursas, kurį galima panaudoti šiam tikslui. Tai absurdiška, bet iliustruoja principą.
Todėl AI alignment – tai, kaip užtikrinti, kad AGI tikslai atitinka žmonijos tikslus – yra viena svarbiausių tyrimų sričių. Anthropic (Claude kūrėjai), OpenAI ir kitos kompanijos turi specialias komandas, dirbančias tik su šia problema. Ir tai nėra lengva – kaip tiksliai apibrėžti „žmonijos tikslus”, kai patys žmonės nesutaria, ko nori?
Praktinis patarimas čia: sekite tokias organizacijas kaip MIRI (Machine Intelligence Research Institute), Center for Human-Compatible AI ir Alignment Forum. Net jei nesate techninis specialistas, suprasti šias diskusijas yra svarbu – nes sprendimai dėl AGI reguliavimo bus priimami politiniame lygyje, ir informuoti piliečiai yra geriau nei neinformuoti.
AGI kaip veidrodis – ką tai sako apie mus
Galiausiai, AGI diskusija yra įdomi ne tik technologiškai, bet ir kaip savirefleksija. Bandydami sukurti bendrąjį intelektą, mes privalome atsakyti į klausimus, kurių anksčiau galėjome išvengti: kas yra sąmonė? Kas yra supratimas? Kuo skiriasi tikras mąstymas nuo labai sudėtingo šablonų atpažinimo?
Kognityvinis mokslininkas Douglas Hofstadter, „Gödel, Escher, Bach” autorius, yra sakęs, kad jei mes sukursime AGI, tai bus didžiausias filosofinis atradimas žmonijos istorijoje – ne tik technologinis. Nes tai reikš, kad intelektas yra substrato nepriklausomas: jis gali egzistuoti silicyje taip pat kaip biologiniuose neuronuose.
Arba, kaip teigia kiti, tai parodys, kad mums nepavyko – kad tikras intelektas reikalauja kažko, ko mes dar nesuprantame ir galbūt niekada nesuprasime.
Šiuo metu esame keistoje vietoje: turime sistemas, kurios daugeliu atžvilgių pranoksta žmogų, bet vis dar neturime AGI. Turime įrankius, kurie keičia pasaulį, bet nežinome, ar jie yra žingsnis link AGI, ar visiškai kita šaka. Turime kompanijas, kurios skelbia, kad AGI yra jų tikslas, bet nėra sutarimo, kaip jį atpažinsime, kai (ir jei) jis atsiras.
Geriausias dalykas, kurį galite padaryti – tai nepasiduoti nei hype’ui, nei panikai. Sekite realius tyrimus, eksperimentuokite su esamais įrankiais, supraskite jų apribojimus ir galimybes. AGI – jei ir kai jis ateis – nebus staigus momentas kaip žaibas. Tai bus procesas, ir mes visi jame dalyvaujame jau dabar.
