Metavers: o lume într-un cuvânt

(Un articol al ambasadorului Ion Jinga, șeful Reprezentanţei permanente a României pe lângă Consiliul Europei, trimis Umbrela Strategică)

Motto: “Fără baze morale și intelectuale adecvate, mașinile ne-ar putea controla, mai degrabă decât să ne amplifice umanitatea, prinzându-ne pentru totdeauna în capcană” – Henry Kissinger

Termenul “metavers” a fost menționat pentru prima dată în anul 1992, în romanul “Snow Crash”, al scritorului american Neal Stephensn. El descrie o lume virtuală care există doar pe internet, paralelă cu lumea reală, o extensie a comportamentului uman, în care oamenii se întâlnesc și interacționează prin intermediul “avatarurilor”.

“Avatar” își are originea în cuvântul “avatara” din limba sanscrită, însemnând “o încarnare, întruchipare ori manifestare a unei persoane sau idei” – la fel ca în filmul “Avatar” al regizorului canadian James Cameron. Este un spațiu virtual 3D captivant, persistent, în care oamenii experimentează viața în moduri în care nu ar putea-o face în lumea reală – de exemplu, pot fi martori virtuali ai unui eveniment istoric, în loc să citească despre el. Mark Zuckerberg, co-fondatorul Facebook, consideră că “Metaversul nu este un lucru pe care îl construiește o companie. Este capitolul următor al internetului în general.”

Dincolo de filme, primul meu contact direct cu metaversul a avut loc în 2019, la Centrul Peres pentru Pace și Inovare din Tel Aviv, unde o cască vizuală “headset” m-a transpus în realitatea virtuală a unei cabine de pilotaj, pentru a simula aterizarea aeronavei.

Astăzi, metaversul are peste 400 milioane de utilizatori în fiecare lună, o piață globală de 82 miliarde dolari, iar banca Goldman Sachs estimează un potential de dezvoltare de 8.000 miliarde dolari. Conceptul a fost extins pentru a include tehnologii precum Web 3.0 (conținut web semantic ce poate fi înțeles de alte mașini), blockchain-uri (registre digitale nemodificabile, pentru stocarea datelor), realitate augmentată / realitate virtuală (un amestec de artefacte reale, îmbunătățite de realitatea virtuală), inteligență artificială și învățare automată (mașini care pot învața direct din date, fără intervenție umană). Integrate împreună, aceste tehnologii pot face din metavers un mediu virtual extrem de puternic, cu oportunități și riscuri aproape nelimitate, de la stimularea afacerilor, educației și sănătății, până la alterarea proceselor electorale, discriminare și criminalitate cibernetică.

Metaversul oglindește viața reală: de exemplu, în decembrie 2021, Barbados a anunțat că va deschide o ambasadă virtuală în Decentraland, o lume în metavers, iar Tuvalu, un mic stat insular din Pacificul de Sud, amenințat de creșterea nivelului oceanului, se îndreaptă către metavers pentru a deveni prima țară digitală.

Consiliul Europei are în pregătire un raport pe tema “Riscuri și oportunități ale metaversului”. Într-un proiect declasificat, raportorul, Andi Cristea, membru al Parlamentului României, evidențiază că: “Metaversul are potențialul de a extinde drepturile civile și sociale în întreaga lume și poate genera implicații masive pentru viitorul democrației și guvernării. Riscurile asociate acestei tehnologii includ preocupări legate de confidențialitate, securitate cibernetică, dependență, pierderea libertății, răspândirea dezinformării, declinul încrederii publice în instituțiile tradiționale din domenii precum educație, guvernare, sau mas-media. În cazul metaversului, factorii de decizie politică trebuie să găsească un echilibru delicat între inovare și asigurarea protecției utilizatorilor și a societății în general.”

Viitorul metaversului se împletește cu dezvoltarea inteligenței artificiale (IA). De la lansarea, de către compania OpenAI, a sistemului ChatGPT (Pre-Trained Transformers – transformatoare generative pre-antrenate, un model de învățare aprofundată ce generează conținut nou pe baza datelor existente), IA generativă continuă să se dezvolte, iar “Sfantul Graal al IA” este considerat a fi inteligența artificială generală (Artificial General intelligence – AGI/IAG – mașini ce posedă o inteligență asemănătoare celei umane).

În urmă cu 12 ani, Shane Legg, co-fondatorul DeepMind (divizie a Alphabet Inc., responsabilă cu dezvoltarea IAG), a estimat că până în anul 2028 IAG va avea 50% șanse să devină realitate. În mai 2023, Elon Musk, directorul executiv al Tesla, Steve Wozniak, co-fondatorul Apple și istoricul Yuval Noah Harari (autorul cărții “Sapiens”) s-au numărat printre cele peste 1100 personalități care au semnat o scrisoare deschisă cerând un moratoriu de șase luni privind dezvoltarea  sistemelor IA avansate. Scrisoarea compară riscurile prezentate de IA cu războiul nuclear și pandemiile, și indeamnă companiile de tehnologie să oprească imediat testarea oricăror sisteme IA care ar fi “mai puternice decât GPT-4”.

În februarie 2023, fostul secretar de stat american Henry Kissinger avertizase că: “În măsura în care ne folosim mai puțin creierul și utilizăm mai mult mașinile, oamenii iși pot pierde unele abilități. Propria noastră gândire critică, abilitățile de scris și de proiectare se pot atrofia.” (“ChatGPT Heralds an Intellectual Revolution”, Wall Street Journal). În octombrie, Dl. Kissinger și-a exprimat din nou îngrijorarea cu privire la IA generativă: “Odată ce aceste mașini vor putea comunica între ele, ceea ce cu siguranță se va întâmpla în următorii cinci ani, atunci devine aproape o problemă existențială dacă specia umană își poate păstra individualitatea în fața acestei competiții.” În opinia sa, scenariul științifico-fantastic în care oamenii ajung să deservească mașinile “poate fi evitat, însă numai prin ințelegerea acestei inteligențe care va putea, de asemenea, să-și genereze propriul său punct de vedere. IA nu este încă înțeleasă și trebuie să fim atenți ce îi cerem să facă.” (interviu la Welt TV).

In noiembrie 2023, Yuval Noah Harari scria în ziarul britanic The Guardian: “IA are potențialul de a crea instrumente financiare pe care numai ea le poate înțelege. Să ne imaginăm situația în care avem un sistem financiar pe care nicio ființă umană nu îl înțelege și, prin urmare, nu îl poate reglementa. Iar apoi apare o criză financiară și nimeni nu ințelege ce se întâmplă.”   

Politologul american Ian Bremmer și cercetătorul britanic Mustafa Suleyman sunt de părere că: “La fel ca și apariția tehnologiilor anterioare, IA va combina progresul și oportunitățile extraordinare cu perturbări și riscuri imense. Dar, spre deosebire de valurile tehnologice precedente, IA va determina o schimbare seismică în structura și echilibrul global de putere, deoarece amenință statutul statelor ca actori geopolitici primari pe scena internațională. La fel ca internetul și smartphone-urile, inteligența artificială va prolifera fără să respecte granițele dintre țări.” (“The AI Paradox”, Foreign Affairs, august 2023).

Soluția propusă de ei pentru atenuarea riscurilor IA, fără a afecta inovarea, este “tehnoprudențialismul” – inspirat din rolul macroprudențial jucat de instituțiile financiare internaționale în menținerea stabilității economice – și sugerează că guvernanța IA ar trebui să se bazeze pe cinci principii: precauție – să nu dăuneze; agilitate – să fie flexibilă; inclusivitate – instituțiile ce guvernează IA să aducă la aceeași masă companiile IA și guvernele; impermeabilitate – toate companiile IA trebuie să participe; și focalizare – deoarece IA produce impact diferit în sectoare diferite ale economiei, iar măsurile cu caracter general nu ar fi eficiente.

Nivelul fără precedent de putere și influență de care beneficiază marile companii internaționale de tehnologie a determinat apeluri tot mai insistente către factorii de decizie să reglementeze IA. Uniunea Europeană se află în proces de adoptare a regulamentului “EU AI Act” – primul set de reguli cuprinzătoare din lume pentru gestionarea riscurilor IA, care permite, totodată, inovarea în domeniu. Consiliul Europei negociază o “Convenție-cadru privind IA, drepturile omului, democrația și statul de drept”. Grupul G-7 la lansat, în vară, “Hiroshima AI Process”, un forum dedicat armonizării guvernanței IA.

Secretarul general al ONU a anunțat recent crearea unui Consiliu consultativ cu largă reprezentativitate (Multistakeholder Advisory Board on AI) pentru a evalua riscurile și oportunitățile  IA. În SUA, Președintele Joe Biden a dat un ordin executiv care stabilește noi standarde pentru siguranța și securitatea IA și cere dezvoltatorilor IA să împărtășească rezultatele testelor de siguranță cu guvernul SUA.

Iar la 1-2 noiembrie, la Bletchley Park, Buckinghamshire (unde în cel de-al doilea război mondial a fost spart codul mașinii naziste de cifrat Enigma), Marea Britanie a găzduit o conferință istorică dedicată siguranței IA (Artificial Intelligence Safety Summit), care a reunit circa 100 lideri politici din 28 de țări (inclusiv SUA, Marea Britanie, Franța, Germania, China Japonia, Kenya, Nigeria, Brazilia, India, Arabia Saudită), universitari, cercetători și directori de companii din domeniul tehnologiilor avansate. Între aceștia, Vicepreședintele SUA, Kamala Harris, Premierul britanic, Rishi Sunak, Secretarul general ONU, Antonio Guterres, Președintele Comisiei Europene, Ursula von der Layen, Secretarul general al Consiliului Europei, Marija Pejcinovic Buric și Elon Musk – care le-a spus participanților: “Ne aflăm, pentru prima dată, în situația în care există ceva ce va deveni mult mai inteligent decât cel mai inteligent om. Vedem aici cea mai perturbatoare forță din istorie.”

În cadrul conferinței, dezvoltatorii IA au convenit să colaboreze cu guvernele pentru a testa noile modele IA de frontieră, înainte ca acestea să fie lansate pe piață, iar Declarația de la Bletchley recunoaște că “există potențial pentru producerea unor vătămări grave, chiar catastrofale, în mod deliberat sau fără intenție, care decurge din cele mai semnificative capacități ale acestor modele de inteligență artificială.”

Poetul grec antic Hesiod scria că, atunci când Prometeu a furat focul din cer și l-a dat oamenilor, Zeus s-a răzbunat făcându-i cadou Pandorei o cutie frumoasă și i-a cerut să nu o deschidă niciodată. Dar Pandora a deschis cutia, iar din ea au ieșit și s-au împrăștiat pentru totdeauna în lume bolile, violența, lăcomia, nebunia și moartea. Singura rămasă pe fundul cutiei a fost speranța. Cutia Pandorei cu inteligență artificială este acum larg deschisă, dar speranța a rămas înăuntru. Citându-l din nou pe Henry Kissinger: “Pe măsură ce devenim Homo Tehnicus, avem un imperativ în a defini scopul speciei noastre. Depinde de noi să oferim răspunsul potrivit.” 

(Opiniile exprimate în acest articol nu angajează poziția oficială a autorului).