Grupul editorial Universul Juridic

O noua ideologie: Inteligența Artificiala

Coordonator: Silvia Uscov

Avocat, Baroul București

Domeniul Inteligenței Artificiale mi s-a revelat in 2019, atunci cand am participat, alaturi de membri ai comunitații academice, colaboratori ai instituțiilor UE și curților de justiție europene, sud-americane, africane, avocați și procurori din aproape 40 de țari din toata lumea, la cursurile The Siracusa International Institute for Criminal Justice and Human Rights (Italia), in cadrul carora s-a pus in discuție, printre altele, utilizarea sistemelor de recunoaștere faciala. Amintesc de acel moment și prin prisma faptului ca a reușit sa determine o schimbare in propria mentalitate asupra chestiunii supravegherii in masa și relația guvern-cetațean. Aceasta noua viziune este reflectata și intr-un dialog din finalul filmului „Anon”, care reprezinta cea mai buna lecție de privacy:

– Cand imi violați intimitatea, e un fleac. Daca mi-o protejez, e infracțiune.

– Nu pricepi? Cu cat e mai ascunsa, cu atat mai cautata. De ce e atat de important sa nu te știe nimeni? Tu ștergi secretele tuturor. Al tau care e?

– Trebuie sa existe unul?

– Toți avem ceva de ascuns.

– Asta faceți voi. Cautați zilnic secretele tuturor. Dar ce nu ințelegeți... e ca nu am ceva de ascuns, ci n-am nimic ce vreau sa vedeți.

Ulterior, toate noile tehnologii au devenit un subiect intens de cercetare, determinandu-ma sa le studiez prin prisma implicațiilor asupra drepturilor și libertaților fundamentale, sa scriu atat articole științifice, dar și opinii publicate in presa, sa particip la conferințe naționale și internaționale, tocmai pentru ca, deși fac parte dintr-o generație care utilizeaza multe dintre aceste tehnologii și le recunoaște beneficiile, fiind eu insami subiectul vizat, descopar și efectele negative ale acestora.

Am descoperit, mai presus de toate, ca IA are capacitatea de a face legatura intre toate ramurile dreptului, similar dreptului constituțional, unional sau convențional. Nu degeaba am ales sa invit sa scrie in acest numar tematic și pe cațiva dintre cei care nu abordasera acest subiect inainte. Cum se va putea discuta in viitor despre putere in stat fara a se discuta despre suveranitatea digitala? Cum va putea un avocat sa apere interesele unei persoane accidentate de un vehicul automatizat fara a cunoaște cateva elemente tehnice și raspunderea speciala civila ce intervine in acest caz? sau Cum vei putea adopta o poziție fața de introducerea unui robot judge in procedurile judiciare, daca nu vei cunoaște domeniul inteligenței artificiale? Inteligența Artificiala, daca nu a cuprins deja fiecare domeniu la care ne putem gandi, cu siguranța o va face in viitorul apropiat astfel incat este necesara atat o pregatire a profesioniștilor in drept, cat și a cetațenilor.

Pana la a ajunge sa ne gandim la variantele literare ale unui conflict roboți-oameni, propun sa ne gandim la variantele ce transpun defectele omenirii, adica supunerea omului de catre om, inclusiv prin utilizarea noilor tehnologii, obiectivarea lui, acordarea unor proprietați de bun fungibil și transformarea intr-o valoare ce poate fi monetizata. Iata cum asistam la o perioada post-democrație caracterizata printr-o noua forma de ideologie: Inteligența Artificiala.

Inteligența artificiala nu este un rau in sine, ci poate fi un mijloc al raului, tot atat pe cat poate fi un mijloc al binelui

„Nu exista mai mult de cinci note muzicale, totuși combinațiile acestor cinci dau naștere la mai multe melodii decat se pot auzi vreodata. Nu exista mai mult de cinci culori primare, dar in combinație produc mai multe nuanțe decat s-au putut vedea vreodata. Nu exista mai mult de cinci gusturi cardinale, insa combinațiile dintre ele produc mai multe arome decat pot fi gustate vreodata” (Sun Tzu – Arta Razboiului).

De la acest citat am pornit in aventura mea de a identifica autorii și subiectele care sa deschida domeniul IA catre lumea juridica din Romania, precum și catre publicul larg, atunci cand am fost invitata sa coordonez numarul tematic al Revistei Curierul Judiciar. De ce „aventura”? Pentru ca spațiul de care dispuneam era insuficient pentru a da glas tuturor celor la care ma gandisem, dar sper ca am reușit sa surprind cateva viziuni din medii și domenii diverse, fiecare dintre ele reprezentand o nota muzicala, din a caror combinație sa se auda primele acorduri ale muzicii pe care vom dansa in urmatorii ani.

Pentru ca ne aflam la confluența intre domeniul privat și domeniul public, opiniile exprimate de conducerea organismelor profesionale, Consiliul Superior al Magistraturii, Uniunea Naționala a Barourilor din Romania, precum și Uniunea Naționala a Notarilor Publici din Romania erau importante in demersul meu, pentru a ilustra preocuparile curente, aspirațiile in a utiliza aplicații IA in activitate, conștientizarea riscurilor inerente, precum și orientarile in pregatirea judecatorilor, procurorilor, avocaților și notarilor din Romania in acest domeniu.

Mi-am dorit o combinație a viziunilor unui practician al dreptului, in persoana mea, Avocat Silvia Uscov, și ale unui „practician al tehnicului”, așa cum este Conf.univ.dr. Adrian Groza, ce preda la Universitatea Tehnica din Cluj-Napoca cursuri despre sistemele de inteligența artificiala și este unul dintre cei care a elaborat studiul pentru Strategia Naționala in domeniul IA, al carui beneficiar este Autoritatea pentru Digitalizarea Romaniei. Eram in cautarea zonei de echilibru intre conservatorismul Dreptului și nevoia de progres a Tehnicului, sperand sa gasim impreuna raspunsuri la multe dintre dilemele cu care ne confruntam. Astfel, am ales sa analizam fundamentul juridic al viitorului inteligenței artificiale in UE, respectiv Artificial Intelligence Act, sa ii descoperim riscurile pentru drepturile și libertațile fundamentale, impletind considerațiile și cu elemente de psihologie sociala sau tangențe la politicile publice, și sa propunem soluții tehnice de contracarare a acestor riscuri.

Am participat la studiul preliminar al viitorului act adoptat de UE in materia raspunderii civile in domeniul IA, ce a generat intrebari legitime ce pleaca de la aplicabilitatea lui unitara la nivelul statelor membre și ajung pana la problemele in materie de probațiune pe care le pune acest domeniu. Pentru ca, intre timp, s-au lansat dezbaterile pentru o directiva in acest sens, Gabriel-Liviu Ispas, Avocat in Baroul București și Conf.univ.dr. la Universitatea din București, Facultatea de Administrație și Afaceri, și Petruța-Elena Ispas, Avocat in Baroul București și Conf.univ.dr. la Universitatea „Titu Maiorescu”, Facultatea de Drept, au acceptat provocarea de a trata acest subiect ce prezinta importanța deosebita pentru civiliști, atat din perspectiva academica, dar și din perspectiva practica. In cuprinsul articolului avem ocazia sa asistam la prezentarea argumentelor ce raspund la intrebarea daca este potrivita alegerea reglementarii printr-o directiva sau mai degraba printr-un regulament, precum și valențele de interpretare fața de dreptul civil actual.

Mirela Lapușan (fosta Morar), Avocat in Baroul Cluj și Drd. al Facultații de Drept, Universitatea „Babeș-Bolyai” din Cluj-Napoca, a tratat unul dintre cele mai importante articole din Regulamentul UE privind protecția datelor cu caracter personal (GDPR), respectiv art. 22, facand diferența dintre profilare și procesul decizional individual automatizat, eficacitatea acestui articol, precum și riscurile care pot aparea din profilare. Autoarea mi-a marturisit faptul ca, in mod surprinzator, acest articol din GDPR nu a fost tratat in extenso sau nu a fost suficient aprofundat in doctrina juridica, deși trebuie sa admitem ca scopul GDPR nu este unul de a crește nivelul birocrației, așa cum ni s-ar parea la o privire superficiala, astfel incat era absolut necesara aceasta contribuție.

Pe aceeași linie, dar dintr-o perspectiva criminologica, Dan Rusu, Lector univ. drd. in cadrul departamentului de Sociologie și Criminologie la Birmingham City University, Marea Britanie, prezinta sistemele de predicție a riscului individual, mai precis evaluarea comportamentului, inclusiv in ceea ce privește riscul de recidiva și nu numai. Daca ați vazut filmul „Minority Report”, autorul vi-l aduce in realitatea zilelor noastre și va prezinta ce este posibil in domeniul sistemelor predictive la ora actuala, care sunt tendințele, precum și cum afecteaza aceste sisteme IA drepturile fundamentale ale omului, iar in plus, abordeaza o suita extinsa de aplicații ce pot avea conținut infracțional in mediul cibernetic.

Urmand cursurile organizate de o Universitate din Buenos Aires in domeniul Legal Tech, am aflat despre noțiunea de „tokenizare a drepturilor”, un fenomen ce se raspandește in arealul sud-american, de altfel foarte dezvoltat in domeniul blockchain, IoT, IA. Aniela-Flavia Țicau-Suditu, Judecator și Drd. in cadrul Facultații de Drept, A.S.E. București, a acceptat provocarea mea de a prezenta aceasta noțiune și profesioniștilor in drept din Romania, fiind de interes nu numai din perspectiva civilista, ci și in domeniul infracționalitații ce se dezvolta prin utilizarea resurselor cibernetice. Daca nu ați auzit pana acum despre tokenizarea drepturilor dintr-un contract NBA, dintr-un contract de drepturi de autor sau chiar tokenizarea dreptului de proprietate asupra unei case, atunci acest articol va introduce in ceea ce poate fi descris ca un potențial viitor al pieței financiare.

Juriștii stau departe de domeniul IA pentru ca nu ii ințeleg limbajul, așa ca Gabriel Preda, Principal Data Scientist la corporația globala de servicii software Endava, cu un doctorat in Computational Electromagnetics la Universitatea Politehnica din București și un post-doc la Tokyo University aplicand metode de inteligența artificiala in control nedistructiv, dupa ce a lucrat in cercetarea privata, apoi in dezvoltare software in Japonia și Romania, incearca acum sa ne explice, sa ne „traduca” intr-un articol noțiuni elementare cu care sa putem opera mai departe.

Dr. Ștefan-Razvan Tataru, Cadru universitar asociat in cadrul Facultații de Economie și Administrarea Afacerilor, Universitatea „Alexandru Ioan Cuza” din Iași, și Privacy Manager la Antibiotice SA, ne introduce in articolul sau in zona aplicațiilor IA din domeniul Pharma. Astfel, aflam cum se prelucreaza datele pacienților intr-un studiu clinic, cum ajuta IA la dezvoltarea de noi medicamente sau chiar tratamente medicamentoase personalizate, dar și implicațiile juridice ale utilizarii acestor noi tehnologii, precum și considerații pe marginea raspunderii in cazul produselor defectuoase.

Daca avem un articol ce trateaza potențialul criminogen, Vasile Coman, Judecator și Drd. in cadrul Facultații de Drept a Universitații „Titu Maiorescu” din București, specializat in dreptul penal și mai cu seama in zona criminalitații cibernetice, a acceptat sa ne faca o prezentare a fenomenului de cyberlaundering doar ca o introducere in subiectul utilizarii sistemelor IA in domeniul prevenirii și combaterii spalarii banilor, respectiv al aplicațiilor care semnalizeaza tranzacțiile suspecte.

Alexandru Bodislav, Conf. univ. dr. la Facultatea de Economie Teoretica și Aplicata, A.S.E. București, ce a primit in 2020 premiul „Nicolas Georgescu Roegen” pentru cercetarea academica in economie, trateaza in articolul sau nu numai aplicațiile IA din mediul economic, ci vine in completarea tuturor articolelor din acest numar și cu o expunere a problemelor de natura etica și morala, oferind in final o perspectiva asupra prezentului și viitorului umanitații in contextul utilizarii pe scara larga a sistemelor de Inteligența Artificiala.

In final, doresc sa le mulțumesc inca o data atat dlui Judecator Bogdan Mateescu, dlui Avocat Traian Briciu și dlui Notar public Dumitru Viorel-Manescu, cat și autorilor, fiecare dintre ei specialist in domeniul sau de activitate, pentru contribuțiile deosebite, apreciind seriozitatea și implicarea in acest proiect și avand increderea ca ele vor fi primite cu interes de catre cititori!