Metavers, inteligență artificială și lumea reală
(Articol al ambasadorului Ion Jinga, șeful Reprezentanței Permanente a României pe lângă Consiliul Europei, trimis Umbrela Strategică)
Motto: “De departe, cel mai mare pericol al inteligenței artificiale este acela că oamenii ajung prea devreme la concluzia că o înțeleg”. Eliezer Yudkowsky (cercetător american)
La 4 octombrie 2024, în ultima zi din sesiunea de toamnă a Adunării parlamentare a Consiliului Europei (APCE), în hemiciclul pe jumătate gol al Palatului Europei din Strasbourg, a fost adoptată una dintre cele mai interesante rezoluții pe care le-am văzut la Consiliul Europei (CoE): “Riscuri și oportunități ale metaversului” (rezoluția APCE 2578/2024).
Prezentând rezoluția, raportorul, parlamentarul român Andi-Lucian Cristea, a lansat o întrebare fundamentală: “Pe masură ce pășim într-o nouă frontieră, trebuie să ne gândim cu atenție la ce fel de lume dorim să construim pentru generațiile viitoare.Tehnologia este un instrument, o interfață între existența noastră biologică și lume, dar ea devine și mediul în care trăim. Suntem obișnuiți cu interacțiunile din domeniul fizic, dar suntem oare pregătiți pentru interacțiunile care vor domina metaversul?”
În timp ce internetul a democratizat informația, metaversul democratizează experiențele. El crează un mediu digital captivant, persistent și interoperabil, folosind realitatea augmentată (RA) și realitatea virtuală (RV). Ambele tehnologii se bazează, însă, pe colectarea unor cantități imense de informație și au capacitatea de a accesa date personale sensibile, cum ar fi mișcările ochilor, expresiile feței și gesturi ale corpului, ceea ce poate duce la invadarea vieții private, sau chiar la furt de identitate.
Tocmai de aceea, rezoluția APCE abordează modul în care metaversul ar putea altera interacțiunea socială, precum și riscul potențial la adresa libertății de exprimare, a drepturilor omului și democrației: “Adunarea parlamentară este convinsă că cooperarea internațională între guverne, precum și colaborarea acestora cu sectorul privat și cu cercetătorii, sunt elemente esențiale pentru abordarea complexității metaversului, în scopul prevenirii monopolurilor, adoptării unui cod etic pentru proiectele metavers finanțate din fonduri publice, promovării conformității cu obiectivele de dezvoltare durabilă ale ONU, semnării și ratificării Convenției-cadru a CoE privind inteligența artificială și drepturile omului, democrația și statul de drept, precum și pentru a pune în aplicare limitări ale anumitor utilizări ale AI considerate incompatibile cu drepturile omului”.
Metaversul face deja parte din peisajul de afaceri, dimesiunea pieței globale a lumii virtuale fiind estimată la peste 800 miliarde dolari, la orizontul anului 2030. De exemplu, în timpul pandemiei Covid-19, când călătoriile și contactele personale erau limitate, compania Lufthansa a dezvoltat un program de inspecție virtuală (Virtual Table 2 Inspection) pentru părți componente ale motoarelor de avion. Folosind conectivitatea wireless 5G și filmări video de înaltă rezoluție în timp real, au fost efectuate inspecții virtuale ale motoarelor demontate, ceea ce a permis adoptarea unor decizii comune privind componentele inspectate de către specialiști aflați la mari distanțe unii față de alții.
Mark Zuckenberg, care în urmă cu trei ani a schimbat numele companiei sale Facebook în Meta, ne oferă o viziune asupra viitorului: “În curând, cred ca vom ajunge în situația în care ne vom afla fizic într-un anumit loc împreună cu câțiva prieteni, iar alți prieteni vor fi prezenți digital, sub forma de avataruri sau holograme, prezența lor fiind percepută la fel ca a celor aflați acolo în carne și oase.”
Pentru că, în ultima perioadă, atenția se concentrează asupra inteligenței artificiale, considerată o schimbare de paradigmă în lumea tehnologiei, metaversul ar putea pierde din atracție. Compania Walt Disney și-a închis divizia de metavers, iar Elon Musk a comparat metaversul cu “o boală care a infectat lumea, iar lumea tocmai a depășit această boală și se află în proces de recuperare”.
Însă metaversul utilizează AI, iar viteza cu care se produc schimbările în lumea digitalăeste uluitoare: prima generație a World Wide Web, Web 1.0, a fost inițial concepută pentru a satisface cererea de schimb automat de informații între oamenii de știință din întreaga lume. Versiunea actuală, Web 2.0, este internetul pe care îl folosim cu toții și a instaurat controlul companiilor IT asupra platformelor de comunicare.
Generația următoare, Web 3.0, va fi construită pe blockchain-uri descentralizate, creând un ecosistem digital în care utilizatorii dețin atât proprietatea, cât și guvernarea platformelor. Se lucrează deja la Web 4.0, “Web-ul inteligent”, care va combina IA, învățarea automată, internetul lucrurilor (Internet of Things), RV și RA.
Cercetătorii au început să se gândească și la Web 5.0, “Web-ul telepatic”, o idee ce nu are încă o definiție exactă, dar despre care se spune că va combina Web 2.0 cu Web 3.0, într-o viziune descentralizată a web-ului, de la personă la persoană. Iar povestea ar putea continua cu Web 6.0, “internetul simțurilor”, în care utilizatorii se presupune că vor putea mirosi, simți și gusta lucruri într-o lume digitală, sau chiar Web 7.0, imaginat drept o soluție universală pentru identitatea digitală și problemele de încredere ale internetului…
IA și lumea virtuală intră treptat în viața noastră de zi cu zi, împletindu-se cu lumea fizică, reală. Asigurarea guvernării lor ridică intrebări privind jurisdicția, respectarea legii și responsabilitatea, deoarece aceste domenii sunt prea mari pentru a fi reglementate de o singură țară. Este necesară o cooperare internațională pentru a dezvolta concepte și definiții clare și universal acceptate, ceea ce impune ca statele, companiile de tehnologie avansată, ONU și organizații regionale precum Uniunea Europeană și Consiliul Europei să își unească eforturile și să acționeze în sinergie.
La 12 iulie 2024, UE a adoptat Actul privind inteligența artificială (EU AI Act – regulamentul UE 2024/1689), cu obiectivul de “a armoniza cadrul legal de dezvoltare, introducere pe piață, punere în funcțiune și utilizare a sistemelor de inteligență artificială”. Regulamentul UE interzice anumite practici IA care sunt dăunatoare, abuzive și în contradicție cu valorile UE, cum ar fi: “folosirea tehnicilor subliminale de IA dincolo de conștiința unei persoane, sau a tehnicilor manipulative ori înșelătoare intenționate, cu scopul sau efectul de a distorsiona material comportamentul uman”.
Primul tratat internațional cu forță juridică obligatorie privind IA este “Convenția-cadru a Consiliului Europei privind inteligența artificială și democrația, drepturile omului și statul de drept”, semnată la Vilnius, la 5 septembrie 2024. Negociată de cele 46 state membre ale CoE, țările cu statut de observator la această organizație (Canada, Japonia, Mexic, Sfântul Scaun și Statele Unite ale Americii) și alte câteva state (Australia, Costa Rica, Israel, Peru și Uruguay), Convenția-cadru reglementează folosirea sistemelor AI de către autoritațile publice și actorii privați, stipulând că “activitățile din cadrul ciclului de viață al sistemelor IA trebuie să se conformeze următoarelor principii fundamentale: demnitate umană și autonomie individuală; egalitate și nediscriminare; respect pentru intimitate și protecția datelor personale; transparență și supraveghere; și inovație sigură”.
În septembrie 2024, Organismul Consultativ la Nivel Înalt al ONU pentru IA a prezentat raportul “Guvernarea IA pentru umanitate”, care afirmă că: “IA prezintă provocări și oportunități ce necesită o abordare holistică globală și o viziune transversală asupra domeniilor politic, economic, social, etic, al drepturilor omului, tehnologiei și protecției mediului… Guvernarea IA trebuie să fie universală și ancorată în Carta ONU, legislația internațională privind drepturile omului și alte angajamente internaționale, cum ar fi obiectivele ONU de dezvoltare durabilă”.
IA promite să fie un instrument util în multe aspecte ale vieții noastre. De exemplu, experți ai Universităților Nottingham, Bradford și Stanford au folosit programe IA pentru a analiza în profunzime pictura Madonna della Rosa, atribuită lui Raphael și care se află în muzeul Prado din Madrid, descoperind că, în timp ce o mare parte a picturii aparține, într-adevăr, lui Raphael, chipul Sfântului Iosif a fost pictat de altcineva. Este o dovadă că ordinatorul poate vedea mult mai adânc decât ochiul omenesc. Astăzi, IA poate fi folosită la autentificarea operelor de artă doar împreună cu expertiza umană și prin raportare la contextul istoric. Ce se va întâmpla, însă, atunci când Inteligența Artificială Generală (IAG – mașini care pot înțelege lumea, așa cum o fac oamenii) va deveni realitate?
Rolul din ce în ce mai mare pe care IA îl joacă în căutarea de noi modele economice pentru tranziția de la combustibilii fosili sugerează că aceasta poate deveni și un puternic instrument de politică externă. Dacă sistemele IA vor fi capabile să faciliteze rate înalte de creștere economică, sau să dezvolte noi tipuri de arme, atunci IA ar putea afecta echilibrul global de putere. Intrăm, așadar, în “era diplomației inteligenței artificiale”, similară ca efecte cu ceea ce “diplomația petrolului” a reprezentat timp de mai bine de un secol.
Sam Altman, directorul general al OpenAI, scria cu puțin timp în urmă: “În următoarele zeci de ani, vom fi capabili să facem lucruri care ar fi părut magice pentru bunicii noștri. Suntem astăzi mai capabili nu datorită unor schimbări genetice, ci pentru că beneficiem de infrastructura unei societăți care este de departe mai inteligentă și mai capabilă decât oricare dintre noi; societatea în sine este o formă de inteligență avansată. Tehnologia ne-a adus din epoca de piatră în epoca agricolă, iar apoi în epoca industrială. De aici încolo, drumul spre epoca inteligenței este pavat cu computere, energie și voință umană. Dacă, însă, nu vom construi suficientă infrastructură, IA va deveni o resursă foarte limitată, pentru posesia căreia se vor declanșa războaie și care va deveni mai ales un instrument al oamenilor bogați.” (“Era inteligenței”, 23 septembrie 2024).
Într-un articol pe care l-am publicat în noiembrie 2023 (“Metavers: o lume într-un cuvânt”), evocam cuvintele lui Henry Kssinger: “Fără baze morale și intelectuale adecvate, mașinile ne-ar putea controla, mai degrabă decât să amplifice potențialul uman, prinzându-ne într-o capcană fără ieșire. Odată ce aceste mașini vor putea comunica între ele, ceea ce cu siguranță se va întampla în următorii cinci ani, atunci devine aproape o problemă existențială dacă specia umană își poate păstra individualitatea în această competiție.”
În fața unei astfel de perspective, Eliezer Yudkowsky sugerează să creăm o “IA prietenoasă”, considerând că “prietenia IA” (dorința mașinilor de a nu face rău oamenilor) ar trebui concepută ca un mecanism pentru evoluția IA, în cadrul unui sistem de verificare și echilibru care să ofere acesteia funcții utilitare ce vor rămâne prietenoase cu oamenii chiar dacă robotul va invăța și va evolua în timp. Alți oameni ar putea, însă, prefera viața reală…
(Opiniile exprimate în acest articol nu angajează poziția oficială a autorului).
