Lucrarea de față își propune să ofere un instrument filosofic și juridic de apreciere a impactului noilor tehnologii asupra libertății umane, la nivel individual și colectiv.

Primul pas în acest sens constă în înțelegerea nivelului tehnologic actual și prin aceasta a relevanței capitale a subiectului.

TEHNOLOGIA. NOUA TEHNOLOGIE. TEHNOLOGIILE EMERGENTE

Welcome my son, welcome to the machine!

Where have you been?

It's alright: we know where you've been.

(Pink Floyd)

Tehnologia este definită ca metoda specială prin care știința este utilizată în scopuri practice[1].

Nu vom cita niciuna dintre numeroasele definiții nesatisfăcătoare ale conceptului de nouă tehnologie, ci vom observa că acesta se suprapune, aproape perfect, cu conceptul de tehnologie emergentă, căruia i-au fost conferite următoarele cinci atribute: i) noutate radicală, (ii) creștere relativ rapidă, (iii) coerență, (iv) impact important, (v) incertitudine și ambiguitate[2].

Într-o enumerare exemplificativă este vorba despre transformare digitală, nanotehnologie, biotehnologie, secvențierea digitală a genomului uman, editarea genomului uman, secvențierea digitală a biodiversității, modificare genetică, tehnologia mARN, 6G, criptomonede, cloud-computing, inteligență artificială (IA), baze de date, transumanism, tehnocrație etc.

Mai concis, vorbim despre „cei patru cavaleri ai apocalipsei”: nanotehnologia, biotehnologia, informatica și științele cognitive (NBIC)[3].

Pentru a înțelege atributele tehnologiilor emergente să aruncăm o privire asupra acestor patru cavaleri.

Nanotehnologia are de a face cu particule de ordinul nanometrului, adică de o milionime de metru (1nm = 0,000001mm). La nivel nanometric, particulele au un comportament total diferit față de cel cunoscut la nivel macroscopic. Acest comportament surprinzător a fost definit ca fiind contraintuitiv. În prezentul, care a devenit deja trecut, vorbim despre a patra generație a nanotehnologiilor, care include interfețele om-mașină (Human-Machine Interface, HMI) la nivel tisular și nervos.

Există numeroase aplicații medicale ale nanotehnologiei, care au fost utilizate la scară globală, în special prin serurile anti-COVID-19. Din cauză că nanoparticulele pot fi inhalate involuntar și pot penetra bariera cutanată, mucoasă sau placentară, se pune foarte acut problema utilizării non-etice a acestora și a impactului asupra securității și sănătății generațiilor prezente și viitoare.

Mai mult, nanotehnologia poate manipula comportamentul uman. Studii efectuate încă din anii 2020 respectiv 2021 au demonstrat că prin intermediul nanomaterialelor și în prezența câmpurilor electromagnetice artificiale de frecvență joasă[4], există posibilitatea manipulării fără fir (wireless) a activității neuronale și a eliberării hormonale, respectiv a comportamentului în condiții fiziologice și patologice[5].

Biotehnologia este tehnologia bazată pe biologie, care se aplică întregii sfere a viului (biosfera) în scopul de a crea produse noi. Nu vorbim aici despre obișnuita producere a pâinii, vinului, brânzei etc., care presupun procese biologice și microorganisme, în care poate fi implicată tehnologia. Vorbim, în principal, despre ingineria genetica actuală.

În tot spectrul vieții, de la euglena verde până la om, orice formă de viață posedă molecula numită acid dezoxiribonucleic (ADN), care deține întreaga informație genetica necesara formării oricărui organism si funcționării tuturor proceselor vitale. Această moleculă are o structură de elice dublă, în interiorul căreia există  patru baze chimice care se leagă întotdeauna de același partener pentru a forma „perechi de baze”. Adenina (A) face întotdeauna pereche cu timina (T); citozina (C) face întotdeauna pereche cu guanina (G). Această împerechere stă (…) la baza metodelor prin care sunt realizate majoritatea experimentelor de secvențiere a ADN-ului[6]. Aceeași schemă universală A-T, C-G se află la baza creării artificiale a ADN-ul recombinat (rADN, transgenic sau sintetic), adică cel creat prin combinarea secvențelor ADN de la două sau mai multe specii de organisme.

În natură funcționează mecanisme (pre- și postzigotice) de izolare reproductivă a speciilor, care presupun că încrucișarea a două specii izolate reproductiv nu produce descendenți sau descendenții nu sunt viabili[7].

Elementul de noutate radicală este că, prin biotehnologie, bariera naturală a speciilor a fost depășită. Încrucișările contra naturii sunt, deja, realizări de domeniul trecutului.

Convenția ONU privind diversitatea biologică semnată la Rio de Janeiro în iunie 1992, ratificată de 178 din cele 196 de state ale lumii, a stabilit că accesul la resursele genetice și biotehnologia sunt elemente esențiale pentru atingerea obiectivelor convenției[8]. Obiectivele convenției sunt conservarea diversității biologice, utilizarea durabilă a componentelor sale și împărțirea corectă și echitabilă a beneficiilor care rezultă din utilizarea resurselor genetice, inclusiv prin accesul corespunzător la resursele genetice și prin transferul adecvat de tehnologii relevante[9], adică de biotehnologie.

Pentru realizarea obiectivelor convenției, ONU a pus în practică un program de secvențiere și digitalizare a tuturor speciilor de pe Pământ. Cine are acces la această enormă bază de date? Puterile nucleare, giganții biotehnologiei, marile companii farmaceutice sau alimentare cum sunt Monsanto, Johnson & Johnson, Pfizer, Bayer, Astra-Zeneca, Nestle, Pepsico etc. Pe scurt, cei puternici[10]. În vreme ce restul lumii facilitează accesul la propriile resurse genetice, se hrănește și se tratează cu produsele modificate genetic de către cei puternici.

Luând în considerare și aplicațiile militare ale biotehnologiei (gain-of-function, război biologic, microbi și alți agenți patogeni militari) putem spune că am realizat o schiță rapidă a domeniului. Și o ultimă observație: genomul unui singur om conține peste 3 miliarde de perechi de baze, astfel că secvențierea acestuia - și cu atât mai mult a tuturor speciilor - nu se poate realiza fără suportul informaticii.

Ajungem astfel la cel de al treilea cavaler: cavalerul digital. În societatea contemporană  digitalizarea integrală și transformarea digitală a tuturor proceselor analogice constituie scopuri dezirabile, legiferate ca atare.

Prin punerea în practică a agendei transumaniste omul însuși devine obiect al transformării digitale: omul bionic, omul augmentat, umanitatea 2.0, singularity. Aria de cuprindere a informaticii este foarte vastă. Lucrarea de față are în vedere, în mod special, elementele cu impact important, cum sunt: cipurile, computerele binare și cuantice, rețelele sociale, cloud-computing-ul, criptomonedele, tehnologia blockchain, inteligența artificială.

La epoca la care scriem are loc implementarea pe scară largă a inteligenței artificiale și opinia publică este interesată de acest subiect. În Uniunea Europeană a fost adoptat, la data de 13 iunie 2024, un regulament privind inteligența artificială, care, în parte, a intrat în vigoare[11]. Așadar, ce este inteligența artificială?

Un model de inteligență artificială (IA) este un program de calculator (un soft), iar un sistem de IA este format dintr-un model de IA plus mașina care îl integrează. La art. 3 pct. 1 din Regulament găsim o definiție judicioasă a ceea ce înseamnă un sistem de IA: un sistem bazat pe o mașină care este conceput să funcționeze cu diferite niveluri de autonomie și care poate prezenta adaptabilitate după implementare, și care, urmărind obiective explicite sau implicite, deduce, din datele de intrare pe care le primește, modul de generare a unor rezultate precum previziuni, conținut, recomandări sau decizii care pot influența mediile fizice sau virtuale.

Asemenea oricărui sistem informatic, IA include algoritmii. Un algoritm este un set de instrucțiuni clar definite, urmate pentru a efectua un calcul, a rezolva o problemă sau a îndeplini o sarcină specifică[12].

Precizia algoritmilor IA depinde de datele de antrenament. Acestea sunt datele utilizate pentru antrenarea unui sistem de IA prin adaptarea parametrilor săi care pot fi învățați (art. 3 pct. 29 din Regulamentul IA). Există o relație directă de proporționalitate între performanța modelului și cantitatea și calitatea datelor de antrenament. Cu cât acestea sunt mai vaste și mai detaliate, cu atât modelul va genera previziuni, conținut, recomandări sau decizii mai exacte sau mai adecvate. Dacă setul de instruire este constituit dintr-o o bază de date integrală, completă, fără nicio lipsă relevantă pentru sarcina modelului, atunci rezultatul generat va fi absolut exact.

Performanța IA depinde și de datele de intrare. Datele de intrare sunt datele furnizate unui model de IA sau dobândite direct de către acesta pentru a genera un rezultat (art. 3 pct. 33 din Regulamentul IA). Altfel spus, sunt bazinele de date în care, după antrenare, IA este lansată pentru oferi răspunsuri, decizii, soluții.

Să luăm un exemplu: dacă se cere IA să identifice autorul unei fapte penale în baza unor date genetice ridicate de la fața locului (date de intrare), iar setul de instruire al modelului conține datele genetice ale autorului (date de antrenament), rezultatul va fi exact. Dacă, ipotetic, suspiciunea ar plana asupra întregii umanități, pentru identificarea exactă a autorului ar fi necesar ca datele de antrenament să includă profilul genetic al fiecărui membru al speciei. În caz contrar, rezultatul va fi inexact sau cu diferite grade de probabilitate.

Acum să presupunem că datele de intrare oferite IA rezidă în înregistrarea audio-video a unui grup de persoane. Iată doar câteva dintre rezultatele potențial generate de model: localizarea geografică, identificarea vocală, culegerea datelor biometrice, verificarea biometrică, clasificarea biometrică, identificarea biometrică la distanță (în timp real sau ulterioară), recunoașterea emoțiilor, deducerea intențiilor.

Dacă modelul este antrenat și pe baze de date scriptice corespunzătoare, acesta este în măsură să coroboreze datele de intrare biometrice cu cele scriptice și să genereze rezultate precum: istoricul medical, financiar, judiciar al fiecărei membru al grupului, crearea profilului psihologic, confesional, profesional, identificarea membrilor de familie etc.

Dacă datele de antrenament au cuprins, în plus, comunicațiile telefonice și activitatea online (inclusiv rețele de socializare, automobile, electrocasnice și contoare conectate) se pot identifica interesele comerciale, consumul energetic, amprenta de carbon, traseele de deplasare, amprentele digitale (urme papilare), cercul relațional, preferințele muzicale, sportive, sexuale, politice, electorale ale membrilor grupului.

Mai departe, s-ar putea cere mașinii să creeze scenarii de manipulare mental-cognitivă a membrilor grupului, în formate adaptate, de pildă, pentru rețelele sociale. Putem să ne gândim și la alte interese cum ar fi cele militare sau de securitate națională. Și așa mai departe.

Înțelegem de aici importanța bazelor de date. Dar de unde provin aceste seturi de date?

În multe cazuri, setul de instruire poate fi un produs secundar al activității umane (cumpărare, angajare, împrumut, etichetare etc.), așa cum se obține prin înregistrarea alegerilor umane referitoare la astfel de activități. În alte cazuri, setul de formare poate fi obținut chiar ”din natură”, constând în date disponibile pe internet. De exemplu imaginile sau fețele etichetate manual, disponibile pe rețelele de socializare, pot fi extrase și utilizate pentru antrenarea clasificatorilor automați[13]. Alte exemple: carduri de fidelitate, aplicații de fidelitate, formulare completate online, stocarea datelor în cloud, aplicații de călătorie, omniprezentele cookie-uri.

Există o abundență și în privința datelor de intrare. Constatăm că suntem tot timpul, sau aproape tot timpul, conectați la internet cu, cel puțin, un dispozitiv fix sau mobil. Iar, dacă ridicăm ochii din ecrane, putem observa că, volens nolens, am devenit personaje de film documentar.

În mod evident, există o relație de proporționalitate directă între amploarea datelor de intrare și puterea de influențare a sistemului de IA respectiv. Cu cât dimensiunea pieței și popularitatea unui sistem de IA sunt mai mari cu atât impactul este mai semnificativ (e.g. Chat GPT versus DeepSeek). În plus, cu cât cota de piață a unui sistem de IA este mai mare cu atât volumul datelor sale de antrenament se va mări, această creștere realizându-se pe baza datelor de intrare pe care le culege și le prelucrează. Practic, are loc o recirculare a datelor de intrare și de antrenament, asemănătoare circuitului apei în natură.

În paralel cu creșterea gigantică a capacității de stocare a datelor, are loc o cursă pentru mărirea bazelor existente, pentru crearea de noi baze de date (Big Data) și pentru exploatarea acestora în timp real, care este facilitată de tehnologiile 5G și 6G.

În viziunea lui Yuval Noah Harari, prepusul Forumului Economic Mondial, datele sunt absolute. Există o adevărată religie a datelor: dataismul. Dataismul declară că universul constă în fluxuri de date, iar valoarea oricărui fenomen sau a oricărei entităţi este determinată de contribuţia sa la procesarea datelor[14].

La nivel pragmatic, art. 51 al 2 din Regulamentul IA, confirmă importanța și impactul bazelor de date stabilind că un model de IA de uz general are capabilități cu impact ridicat atunci când volumul cumulat de calcul utilizat pentru antrenarea sa măsurat în operații în virgulă mobilă este mai mare de 10 la puterea 25. Mai simplu spus, dacă bazele de date de antrenament sunt considerate mari, modelul prezintă risc sistemic.

Să închidem subiectul bazelor de date cu o poveste deja veche. În 2013, Edward Snowden, fost ofiţer în cadrul Agenţiei Centrale de Informaţii din SUA (CIA) şi subantreprenor al Agenţiei Naţionale de Securitate din SUA (NSA), a dezvăluit documente care atestau existenţa unui sistem de supraveghere în masă prin care NSA supraveghea orice bărbat, femeie sau copil care a pus vreodată mâna pe un computer sau pe un telefon[15]. Tot Snowden,  care a fost şi profesor de criptare, a devoalat un alt element relevant: funcţia ”șterge” (delete) nu există[16]. Prin urmare, arhivele digitale sunt și retroactive și secrete, deci prezintă această persistență a memoriei.

Dar să revenim la mașină.

Primele două valuri ale IA: inteligența artificială prin simulare cognitivă și inteligența artificială logică, fiind clasice și logice nu au fost capabile să surmonteze așa-numita explozie combinatorică, adică creșterea exponențială a posibilităților de răspuns cu fiecare nouă variabilă introdusă, motiv pentru care cercetările au cunoscut o perioadă de stagnare.

Ulterior, al treilea val, cel al inteligenței artificiale comportamentale, a mutat atenția de la raționament la ”senzație” și comportament: prin intermediul senzorilor mașina preia informații din exterior, după care le dirijează spre componentele de acțiune (aspiratoare-robot, termostate automate, mașini de spălat vase sau rufe cu reglare automată a programului).

Al patrulea val al inteligenței artificiale a adus o nouă schimbare de paradigmă. Nu se bazează nici pe clasicul raționament matematic, nici pe reproducerea unor secvențe de comportament ci pe imitarea sistemului nervos uman. Această linie de cercetare, inițial periferică,  a condus la cucerirea lumii de către modelele de limbaj de mari dimensiuni (LLM, Large Language Models), la care asistăm în prezent.

Unitatea fundamentală a sistemului nervos este neuronul. Foarte pe scurt, el funcționează astfel: prin intermediul dendritelor primește impulsul nervos (care este un semnal electric) de la neuronii cu care se află în legătură și îl transmite mai departe către alți neuroni, prin intermediul axonului (transmitere unidirecțională). Neuronii relaționați constituie o rețea neuronală.

Modelele actuale de IA poartă denumirea de rețele neuronale. Au fost dezvoltate pornind de la ipoteza că inteligența artificială ar putea fi obținută prin reproducerea creierului uman, mai degrabă decât prin modelarea raționamentului uman, și anume că raționamentul uman ar ieși în mod natural dintr-un creier artificial[17].

Structura funcțională a acestor modele este constituită din neuroni sintetici organizați în rețele, care imită rețelele neuronale omenești. Vorbim despre un strat de intrare, care preia informațiile din exterior și un strat de ieșire, care generează răspunsul. Între stratul de intrare și stratul de ieșire pot exista alte straturi intermediare care produc abstractizări suplimentare ale datelor de intrare. Dacă straturile intermediare sunt mai mult de două avem de a face cu o așa-numită rețea neuronală profundă. Funcționarea rețelelor neuronale sintetice nu poate fi explicată în termeni omenești[18].

Ne-am apropiat astfel de întrebarea aflată pe buzele tuturor: dacă nucleul IA îl constituie rețelele neuronale, este aceasta în măsură să gândească? Răspunsul este negativ. Dacă avem în vedere complexitatea inteligenței umane, compuse din inteligența cognitivă (vizual-spațială, practică, verbală, matematică, intuitivă, rațională) și inteligența emoțională (retrospectivă, relațională, imaginea de sine, controlul impulsivității, rezistența la stres) putem afirma că inteligența artificială nu este inteligentă.

Modelele de IA nu raționează, ci generează predicții matematice bazate pe euristici (probabilități generate rapid) corectate ulterior prin algoritmi de optimizare[19], fără comprehensiune pentru rezultatele generate. Acestea identifică pattern-uri și fac legătura între ele, nu sunt în măsură să inoveze, nu sunt mașini gânditoare. Nu există inteligență artificială rațională (reasoning AI), acesta este un termen înșelător, o creație de marketing, o senzație de presă[20], într-un cuvânt propagandă.

În acest context ne amintim de Alan Turing, nașul de botez al mașinii inteligente, care în lucrarea sa ”Mașini de calcul și informații” (1950) făcea presupunerea că dacă o mașină de calcul este în măsură ca printr-o interfață să răspundă în mod rezonabil întrebărilor unui om, astfel încât acesta să nu poată deosebi răspunsul mașinii de răspunsul uman, se poate afirma că mașina are un comportament inteligent. În pofida caracterului metaforic al testului Turing, denumirea de mașină inteligentă a fost adoptată la nivel social, deși acoperă o realitate neatinsă până în zilele noastre.

Următoarea treaptă semantică a constat în eliminarea vocabulei ”mașină” (1956), astfel că ajungem la denumirea curentă de inteligență artificială și mai recent la pleonasticul inteligență artificială rațională (reasoning AI).

Toate aceste denumiri construiesc în mentalul colectiv un model antropomorfic, dezirabil și compatibil cu omenescul. La rândul său, umanitatea este erodată prin ideologii pentru a se contopi cu tehnologia. Acesta este transumanismul.

Întrebat în iunie 2024 cum definește propriul său concept de singularitate (singularity), Ray Kurzweil, informatician american, expert în IA, antreprenor, profesor la Institutul de Tehnologie din Massachusetts (MIT) și inventator a răspuns: În prezent, creierul nostru are o singură dimensiune pe care nu o putem depăși pentru a deveni mai inteligenți. Dar cloud-ul devine mai inteligent și crește fără limite. Singularitatea, care este o metaforă împrumutată din fizică, va avea loc atunci când vom uni creierul nostru cu cloud-ul. Vom fi o combinație între inteligența noastră naturală și inteligența noastră cibernetică și toate vor fi reunite într-una singură. Acest lucru va fi posibil datorită interfețelor creier-computer care, în cele din urmă, vor fi nanoboți - roboți de dimensiunea unor molecule - care vor intra neinvaziv în creierul nostru prin capilare[21].

Revenind la etapa actuală, să subliniem că dacă IA nu gândește nu înseamnă că este nepericuloasă.

Dimpotrivă, în leviathanul digital care se conturează la nivel global, ea are vocația unui instrument de supraveghere totală, fără precedent (risc totalitar). Rolul IA nu poate fi înțeles din interacțiunea cu chatboții, care sunt instrumente de inginerie socială. Oricum, ei reprezintă doar 10-15% din întregul sistem IA.

Prin comoditățile și avantajele competitive oferite chatboții câștigă bunăvoința utilizatorilor (captatio benevolentiae) și realizează un salt fără precedent spre acceptarea, entuziastă, utilitaristă sau impusă, a digitalizării totale.

Să încheiem prezentarea IA cu o privire în viitorul acesteia. Este rezonabil să spunem că dacă azi ”dialogul” cu mașina se realizează prin intermediul tastaturii (de la text la text, de la text la vorbire și viceversa, de la text la imagine și viceversa, de la text la program informatic, de la vorbire la vorbire, de la imagine la imagine, de la video la text și viceversa, de la video la imagine și viceversa, de la video la video, de la gest la acțiune, de la text/imagine/vorbire la modele 3D), viitorul aparține implanturilor tehnologice.

Utilizarea interfețelor creier-computer (Brain-Computer Interfaces, BCIs) nanometrice (bazate pe grafen) și subnanometrice (bazate pe proteine modificate genetic) se va răspândi pe scară largă. Deci: digitalul va fi bionic, mașina va fi invizibilă și omul va fi extensia mașinii.

Știința cognitivă este cea care explorează natura proceselor cognitive precum percepția, raționamentul, memoria, atenția, limbajul, imagistica, controlul motor și rezolvarea problemelor, în scopul de a înțelege modul de funcționare a minții. Ea constituie un domeniu interdisciplinar, care se bazează, printre altele, pe instrumente din psihologie, informatică, lingvistică, filosofie și neuroștiință[22]. Nu vom insista în caracterizarea sa deoarece întreaga prezentare a noilor tehnologii se referă în mod direct sau indirect la aceasta.

După ce am creionat siluetele celor patru cavaleri, să spunem câteva cuvinte despre strategia acestora. Strategia este: premeditare, coerență, omniprezență.

În sisteme ierarhice complexe – cum sunt statele, comunitățile, corporațiile, n.n. - combină viziunea de sus în jos a sistemului (parteneriate public-privat, n.n.) cu contribuția de jos în sus a cercetării (start-up-urile de tehnologie, n.n.), precum și cu efectele de evoluție laterală și temporală în procesul decizional [23].

Acțiunea conjugată a celor patru cavaleri poartă denumirea de convergență (convergence).

Scopul declarat al convergenței este revoluția holistică: restructurarea omului, a mediului natural, social și a întregii lumi fizice.

Convergența este motorul celei de a patra revoluții industriale, caracterizate de interconectivitate și de estomparea barierelor dintre lumea fizică, digitală și biologică[24].

Convergența este drumul către Singularitate (Singularity, apud Ray Kurtzweill), către Epoca Inteligentă (Intelligent Age[25], apud Klaus Schwab), către Neomonarhism (Neo-Monarchism[26], apud Curtis Yarvin). Toate acestea sunt concepte create de oameni.

Dar, cine sunt acești oameni? Și care este filosofia lor? Întrebarea este justificată pentru că această filosofie constituie paradigma tehnologiilor emergente. Iar, în vreme ce tehnologiile propriu-zise se dezvoltă într-un ritm frenetic, esența lor ideologică rămâne aceeași.

Vom răspunde la această întrebare în episodul viitor.