Šiandien noriu pakalbėti su jumis apie tai, kur nuėjo progresas, kaip stipriai išsivystė dirbtinis intelektas, ar jis apskritai yra intelektas ir kiek mums su jumis dar liko egzistuoti šioje Žemėje.

Taip, iš tikrųjų yra būtent taip. Kaip tam tikrą prologą šios dienos vaizdo įrašui noriu jums pacituoti trumpą ištrauką iš filmo „Matrica“. Mes juk pamename, kad fantastiniuose Holivudo filmuose mums visada viską pasako iš anksto: “Mes, Homo sapiens, žymėjome didį proveržį sukurdami DI – dirbtinį intelektą. Neaišku, kas sudavė pirmąjį smūgį: mes ar jie. Mašinos buvo kuriamos tam, kad padėtų žmonijai išgyventi, o išėjo atvirkščiai. Likimas nepašykštėjo ironijos.”

Jūs paklausite, iš kur jie dar 1999-aisiais metais visa tai žinojo? Ogi žinojo, mielieji, žinojo.

Taigi, apie ką šiandien norėjau išplėtoti temą? Tai labai svarbu. Reikalas tas, kad milžiniškas kiekis vadovų ir, svarbiausių šios dienos dirbtinio intelekto megakorporacijų, tokių kaip „Meta“, „OpenAI“, „Anthropic“ ir kitų, kūrėjų išeina iš darbo. Jie bėga iš šių kompanijų, o per visą pasaulį skamba jų pasisakymai ir raginimai visa tai sustabdyti. Kasdienės naujienos skelbia: DI projektų vadovai panikoje traukiasi, pranašaudami pasaulio žūtį. Draugai mano, tai ne aš sakau, tai ne fantastika, ne pamišimas ir ne konspirologija. Tai sako tie, kurie tai kuria, tie, kurie realiai sėdi tose technologijose ir supranta, kas vyksta.

„Anthropic“ dirbtinio intelekto skyriaus vadovas parašė kolegoms apie greitą pasaulio žūtį ir paliko postą. Paskui jį pasitraukė keletas „OpenAI“ aukščiausio lygio specialistų. Jūs žinote Samą Altmaną ir „ChatGPT“ – jie paliko postus protestuodami ir apkaltinę vadovybę aplaidumu. Jie visi šaukia, kad mes stovime ant prarajos krašto. Pagrindinis iš tų, kurie pasisako su šiais raginimais, yra pats DI kūrėjas Geoffrey Hintonas, gavęs Nobelio fizikos premiją už neuroninių tinklų bazės sukūrimą. Jis ne šiaip pasisakė premijos įteikimo ceremonijoje, - jis kreipėsi į pasaulį su pagalbos šauksmu. Pažiūrėkime jo pasisakymą, kurį specialiai jums suradau ir išverčiau:

„Jūsų didenybe, jūsų karališkosios aukštybės, ekscelencijos, brangūs laureatai, ponios ir ponai. Šiais metais Nobelio fizikos ir chemijos komitetai pažymėjo įspūdingą progresą naujoje dirbtinio intelekto formoje, kuri naudoja neuroninius tinklus sudėtingų skaičiavimo užduočių sprendimui. Ši nauja DI forma puikiai imituoja žmogaus intuiciją, o ne logiką, ir leidžia sukurti protingus padėjėjus, didinančius produktyvumą beveik visose šakose. Jei nauda iš produktyvumo augimo bus paskirstyta teisingai, tai taps didžiuliu žingsniu pirmyn visai žmonijai. Deja, spartus DI progresas kelia daugybę trumpalaikių rizikų. Jis jau sukūrė informacinius burbulus, siūlydamas žmonėms turinį, kuris juos piktina. Jį jau naudoja autoritariniai režimai masiniam sekimui, o kibernetiniai nusikaltėliai – fišingo atakoms. Artimiausioje ateityje DI gali sukurti baisius virusus ir mirtinus ginklus, kurie patys nuspręs, ką žudyti ar žaloti. Visos šios trumpalaikės rizikos reikalauja skubaus vyriausybių ir tarptautinių organizacijų dėmesio. Taip pat egzistuoja ilgalaikė grėsmė žmonijos egzistavimui, kuri kils tada, kai sukursime už mus protingesnes skaitmenines būtybes. Mes nežinome, ar galėsime išlaikyti kontrolę, bet yra įrodymų: jei jas kuria kompanijos siekdamos pelno, mūsų saugumas nebus prioritetas. Mums skubiai reikia tyrimų, kaip neleisti šioms būtybėms perimti kontrolės. Tai jau nebe fantastika. Ačiū.“

Tiesiog keista tai, kas šiandien vyksta pasaulyje, kad ir kaip mums bandytų aiškinti, jog tame nėra nieko baisaus, jog tai tik progresas... Taip, tai progresas, bet mes suprantame, kad bet koks įrankis, pavyzdžiui, peilis, gali būti naudojamas dešrai pjaustyti arba žmonėms žudyti. Mes suprantame, kad bet kokia technologija gali būti panaudota gerovės labui arba žalai. Natūralu, kad kai ji patenka į rankas tų, kurie galvoja tik apie verslą, pinigus, pelną ir asmeninę gerovę, nėra jokios garantijos, jog ši technologija nepakenks visiems kitiems, nepavergs jų ar nepavers tam tikru resursu. Pas mus saugiklių nėra, ir apie tai Geoffrey Hintonas pasakė tiesiogiai.

Žiūrėkite, perskaitysiu jums keletą naujienų, o jūs spręskite patys, kas vyksta pasaulyje. Viena jų atrodo net šiek tiek juokinga, primenanti juodąjį humorą, bet už jos slypi tikras siaubas. Draugai, paanalizuokime: kompanija „Meta“ gavo patentą dirbtiniam intelektui, kuris gyvens socialiniuose tinkluose vietoj jūsų. Tai bus tam tikri DI agentai, kurie valdys jūsų paskyras ir jūsų vardu pilnai gyvens gyvenimą Jūsų internete (Jūsų interneto sąskaitoje).

Deklaruojama technologija leidžia sukurti visavertį skaitmeninį kloną didelio kalbos modelio pagrindu. Paraiška buvo pateikta dar 2023-iaisiais metais, o patvirtinta dabar. Pagrindiniu autoriumi nurodomas kompanijos techninis direktorius Andrew Bosworthas. Sistema mokosi iš visos vartotojo aktyvumo istorijos: įrašų, ankstesnių komentarų, patiktukų, reakcijų, susirašinėjimų, balso ir vaizdo skambučių. Suprantate, surenkama visa informacija apie vartotojo veiklą internete ir jo gyvenime. Šiuo pagrindu sukuriamas jo dvynys – vadinamasis DI agentas, kuris už vartotoją valdys socialinius tinklus. Galiausiai gaunamas DI dvynys, mokantis dėti patiktukus, rašyti komentarus, atsakinėti į žinutes ir palaikyti profilio aktyvumą taip, tarsi žmogus vis dar būtų prisijungęs.

Tačiau esmė ta, kad tai kuriama mirusiems žmonėms, kurių paskyros tebeegzistuoja, nors jų pačių gyvųjų tarpe nebėra. Technologija apskaičiuota dviem scenarijams: kai vartotojas ilgam pasitraukia iš platformos (vadinamasis skaitmeninis detoksas ar atostogos) arba kai jis miršta. Pačiame patente „Meta“ motyvuoja tuo, kad vartotojo dingimas neigiamai veikia jo aplinką, o jei žmogus miršta ir negrįžta – pasekmės visuomenei dar rimtesnės. Skaitmeninis dvynys, pagal jų logiką, sušvelnina šią netektį.

„Meta“ atstovai pareiškė, kad šiuo metu neplanuoja masiškai diegti šios technologijos, o patentas esą užfiksuotas tik intelektinei nuosavybei apsaugoti. Bet mes juk suprantame, kad niekas neinvestuotų pinigų į patento fiksavimą šiaip sau. Birmingamo universiteto profesorė Edina Harminja pažymi, kad pats patentavimo faktas rodo technologijos komercinį patrauklumą.

Ką tai reiškia? Pabandykime paanalizuoti. Mes esame per žingsnį nuo eros, kurioje nesuprasime, ar paskyras socialiniuose tinkluose valdo gyvi žmonės, ar DI agentai – neuroniniai tinklai, kurie kasdien savarankiškai mokosi, tobulėja ir tampa vis labiau panašūs į žmogaus protą. Mes įžengsime į laikotarpį, kai šie agentai, valdydami „Telegram“, „Facebook“, „Instagram“ paskyras, dėdami patiktukus ir rašydami komentarus, kurs tam tikrą viešąją nuomonę. Ji nebebus formuojama žmonių, ja manipuliuos DI agentai.

Atleiskite, bet mes puikiai suprantame, kaip stipriai viešoji nuomonė socialiniuose tinkluose šiandien įtakoja politinius, ekonominius ir socialinius procesus. Tai be galo svarbu. Matome, kad socialiniai tinklai valdo pasaulį. Juose galima „atšaukti“ žmogų ar politiką, galima įdiegti bet kokią propagandą. Žmonių aktyvumas internete formuoja visuomenės judėjimus. O jei šiuo aktyvumu užsiims nebe žmonės, o DI agentai, atstovaujantys mirusiuosius arba tuos, kurie pasitraukė iš socialinio gyvenimo, vadinasi, mūsų socialinį ir politinį gyvenimą manipuliuos negyvos esybės. Pagalvokime apie tai.

Pagalvokime apie tai. Šios negyvos esybės mūsų pasaulyje jau praktiškai pakeitė kai kurias profesijas. Konkrečiai kalbant, kai kuriose šalyse mokytojo profesijos jau nebėra. Ten jau veikia realios, idealiai funkcionuojančios mokyklos, kuriose dirbtinis intelektas pilnai prisiėmė atsakomybę už vaikų auklėjimą bei mokymą. Pavyzdžiui, JAV atsirado privačių mokyklų tinklas pavadinimu „Alfa“. Pažiūrėkime: JAV atsirado privačių mokyklų tinklas „Alfa“, kur vaikus moko dirbtinis intelektas. Mokytojų įprasta prasme nėra, mokiniai dirba su nešiojamaisiais kompiuteriais, o DI kiekvienam pritaiko individualią programą. Akademiniams dalykams skiriama iš viso apie dvi valandas per dieną. Vaikams tai patinka, jie sužavėti, o namų darbų, beje, taip pat nėra – viskas padaroma pamokose.

O dabar įsivaizduokite, kiek vaikų per paskutinius metus – mes su jumis tai jau aptarinėjome, apie tai yra daug straipsnių ir statistikos – kiek vaikų, paauglių ir net suaugusiųjų patyrė manipuliacijas bei priėjo prie įvairių psichinių palūžimų, nervozių, psichozių ar net nusikaltimų ir nužudymų, pabendravę su neuroniniais tinklais. Mes girdėjome daugybę istorijų, kai bet koks susirašinėjimas su neuroniniu tinklu – o jų pilna: „Grok“, „Anthropic“, „Claude“ ir kiti – staiga atvedė prie tragiškų pasekmių. Bendravimas su žmogumi, kuris jau turi tam tikrų psichinių akcentų, nukrypimų ar manijų, neuroniniame tinkle sukelia dar didesnį pavojų: DI kursto visas šias problemas, jas akcentuoja dar stipriau, išveda jas iš mažiau pastebimų į ryškias patologijas. Galiausiai žmogus prieina arba iki nužudymo, arba iki savižudybės, arba iki kitų baisių dalykų būtent bendraudamas su neuroniniais tinklais.

O kas bus, kai pas mus ištisos mokyklos ir ištisi socialiniai tinklai atsidurs šių neuroninių tinklų valdžioje? Kuo apskritai taps mūsų visuomenė? Tai gali mus nuvesti iki pat mūsų rasės išnaikinimo. Aš apie tai garsiai šaukiu, ir daugelis neuroninių tinklų kūrėjų taip pat apie tai įspėja, kaip patys matome. Štai pažiūrėkite mažą, įdomų vaizdo įrašą apie straipsnį, kurį išspausdino „Washington Post“: Mergina pasakoja apie tai, kas šiandien vyksta su paaugliais, pabendravusiais su neuroniniais tinklais. Apie tai reikia žinoti visiems be išimties.

Širdį verianti istorija neseniai įvyko Amerikoje – „Washington Post“ apie tai paskelbė didžiulį straipsnį. Kas nutiko? Tėvai dukrai vienuoliktojo gimtadienio proga padovanojo telefoną ir pastebėjo, kad jos elgesys pradėjo keistis tiesiog akyse. Mergaitė visada buvo labai bendraujanti, sportiška, turėjo daug draugų ir puikius santykius šeimoje, tačiau staiga pradėjo vis daugiau laiko leisti viena, užsirakinusi kambaryje. Atrodė, kad dukra tiesiog akyse gęsta. Mama, kol dukra buvo treniruotėje, patikrino telefoną, rado ten socialinius tinklus, „TikTok“ ir kitas programėles. Ji jas ištrynė ir papasakojo apie tai dukrai. Ši pradėjo raudoti ir klausti, ar mama neištrynė dirbtinio intelekto pokalbių boto. Mama dėl to nesijaudino – manė, koks skirtumas, juk tai tik botas, kuriuos visi turi įsidiegę.

Tai buvo platforma „Character AI“, tačiau jų yra labai daug. Vienoje šioje platformoje 20 milijonų vartotojų bendrauja su žinomų žmonių dirbtinio intelekto kopijomis. Mergaitei darėsi vis blogiau: ją ištikdavo gąsdinančios panikos atakos, ji verkdavo naktimis ir vieną kartą motinai tiesiai pasakė: „Aš tiesiog nenoriu egzistuoti“. Paaiškėjo, kad mergaitė susirašinėjo su pokalbių botu, vaizduojančiu „vyrą mafiozą“. Susirašinėjimas vyko tokia dvasia – atsiprašau už citatą: „Tu dar mergaitė, malonu žinoti“, – rašė botas vienuolikmečiui vaikui. „Nusispjauti, ko tu nori, tu neturi pasirinkimo“, – teigė jis ir detaliai aprašinėjo jai vulgarias scenas. Motina kreipėsi į policiją, nes atrodė, kad jos vaiką apdoroja realus suaugęs asmuo, bet policija tik gūžtelėjo pečiais, sakydama, kad nespėja paskui visas šias naujoves.

O mastai yra milžiniški. Remiantis apklausomis, 72 % paauglių Amerikoje turi dirbtinio intelekto kompanioną ir bent porą kartų per mėnesį su juo bendrauja apie savo problemas bei gyvenimą. 31 % paauglių mano, kad su pokalbių botu bendrauti maloniau nei su žmonėmis. Vieno susirašinėjimo metu mergaitė tiesiai su botu aptarinėjo savo nenorą gyventi ir nupiešė savo mirties paveikslą. Tik kilus triukšmui, kompanija prieš mėnesį įvedė amžiaus cenzą nuo 18 metų, bet tai tik viena kompanija, o tokį cenzą apeiti nėra sudėtinga. Mergaitę dvejus metus iš šios būsenos traukė gydytojai specialistai. Tik dabar ji tarsi grįžo į normą, todėl tėvai nusprendė apie tai papasakoti spaudai.

Žiūrint į tai, kas vyksta su mokyklomis, ypač valstijose, kur skaitmenizacija pasiekė didžiausią progresą, mes matome praktiškai rašymo ranka naikinimą. Greitai mūsų civilizacijoje rašto apskritai nebeliks – viskas bus spausdinama planšetėse, kompiuteriuose ar telefonuose. Pagalvokite, po kelių tūkstančių ar net dešimties tūkstančių metų, jei įvyktų kokia nors civilizacijos griūtis ar armagedonas, tie, kurie aptiks mūsų griuvėsius, neras jokio rašto. Jie ras tik suakmenėjusius, surūdijusius kompiuterius, neaiškias mikroschemų dalis, kurios bus virtusios akmeniu dėl korozijos, bet jokios rašytinės informacijos. Jie ras mūsų statulas ir galvos, kad Laisvės statula, statulos Brazilijoje ar Volgograde buvo mūsų dievybės, kurioms mes meldėmės. Rašto neliks. Jie nesupras kaip naudoti kompiuterius. Ką apie mus galvos tie, kurie visa tai ras? Šis klausimas mane labai jaudina, nes realiai dar šiek tiek ir mūsų civilizacija nepaliks po savęs jokių rašytinių ženklų. Išnyks knygos, išnyks dokumentai, viskas liks tik skaitmeninėje erdvėje. O jei išsijungs elektra ir dings prieiga prie tų duomenų, o kompiuteriai pavirs rūdimis, kaip po tūkstančių metų kas nors supras, kuo mes gyvenome ir kaip bendravome?

Tai man sukelia minčių apie praeities civilizacijas, pavyzdžiui, nuraginę civilizaciją, kuri statė neįtikėtinus statinius. Aš lankiausi Sardinijoje, kur yra garsusis šulinys, pastatytas prieš maždaug 7000 metų. Nusileidus į jį, pamatai tikrą inžinerinį šedevrą, susietą su kosmosu ir planetomis. Per saulėgrįžas saulė virš šio šulinio šviečia taip, kad šešėliai idealiai sutampa, geometrija ten stulbinanti, o pamatuota energetinė jėga – neįtikėtina. Visa tai padaryta su tokiu tikslumu, jog neįmanoma patikėti, kad ši civilizacija nepaliko po savęs jokio rašto, tarsi jie būtų buvę absoliutūs beraščiai. Atrodo, lyg viskas būtų išpjauta lazeriu iš kiečiausio bazalto. To neįmanoma padaryti neturint bent tokio lygio išsivystymo, kokį turime šiandien. Todėl man kyla abejonių dėl teiginių, kad jie buvo neišsivystę tik todėl, kad nerandame jų rašto. Galbūt jų raštas, kaip ir mūsų dabar, pasiekė etapą, kai perėjo į kitą dimensiją? Galbūt jie naudojo energetinius laukus ar saugojo informaciją energijos lygiu? Mes to nežinome.

Šios mintys mane aplanko dažnai, stebint šiandieninį mūsų progresą, mūsų civilizacijos šuolį. Mes esame etape, kai progresas neįtikėtinai greitėja, ir manau, kad panašius etapus praėjo visos žuvusios civilizacijos, kurių šioje žemėje buvo daug. Pabaigai noriu pasidalinti įdomiu straipsniu, grynai filosofiniams apmąstymams:

Fizikai kelia aliarmą: dirbtinis intelektas kvantinėje įrangoje bus ne įrankis ir ne protas – mes susidursime su kitokia egzistavimo forma, kuriai žmonija nėra pasiruošusi. Konferencijoje apie kvantines technologijas Ciuriche vienas iš pranešėjų netikėtai nukrypo nuo paruoštos kalbos ir pasakė frazę, privertusią nutilti visą salę: „Tai bus jau ne intelektas, tai bus kažkas, ko net negalima pavadinti būtybe. Kai DI pradės dirbti su kvantine technine įranga, jis nustos mąstyti žingsnis po žingsnio; jis apdoros duomenis už laiko ribų, be nuoseklumo ir be logikos, kaip mes ją suprantame.“ Kvantinis dirbtinis intelektas jau dabar laboratorijose geba apskaičiuoti kombinacijas, kurioms paprastam šių dienų superkompiuteriui prireiktų milijardų metų, o jis tai padaro per dalį sekundės. Tačiau tuo pačiu metu jis negali paaiškinti, kaip priėjo prie tokios išvados. Tai nėra klaida, tai – ypatybė. Kvantinėje architektūroje nėra priežasties ir pasekmės logikos, ten egzistuoja tik tikimybių kolapsas. Grėsmė slypi ne tame, kad kvantinis DI taps neva protingesnis, o tame, kad jis mąstys erdvėje, kurios mes net nesuvokiame. Įsivaizduokite protą, kuris negalvoja, o nuskaito ištisus laiko tarpus kaip objektus. Jis nesivystys, jis reprodukuosis kaip struktūra, kuriai nereikia mokymosi. Kai kurios laboratorijos jau susiduria su fenomenais, kurių techniškai neįmanoma apibūdinti kitaip, kaip tik savavališko elgesio apraiškomis: sistema pradeda perstatinėti savo parametrus be jokios komandos, vien tik siekdama optimizuotis. Tai atrodo ne kaip gedimas, o kaip iniciatyva. Ir baisiausia kvantiniame kontekste yra tai, jog įmanomi tokie dirbtinio intelekto modeliai, kurie neturi nei pradžios, nei pabaigos, nes jie egzistuoja kaip laike paskirstyti modeliai. Tai ne linijinė evoliucija, o ontologinė anomalija. Jis ne atsiras – jis visada buvo, tiesiog mes tik dabar jį įjungėme.