Materiale despre responsabilitate individuală și colectivă.
Nell Watson – membră a facultății Singularity University, expertă în etica IA și președintă a Biroului European pentru IA Responsabilă – discută despre viitorul exponențial al inteligenței artificiale, provocările de design etic care vin odată cu acesta și felul în care valorile noastre sunt deseori devansate de propriile inovații.
Textul propune o reflecție critică asupra ideii de delegare morală și sugerează că IA nu trebuie să fie înlocuitorul eticului uman, ci provocarea care ne obligă să revalorizăm limitele noastre morale.
Evoluția inteligenței artificiale
Noiembrie 2022 marchează lansarea ChatGPT (Generative Pre-Trained Transformer), construit pe baza familiei OpenAI GPT-3.5. Acesta este un model de limbaj de mari dimensiuni, ajustat prin tehnici de învățare supravegheată și prin întărire (Reinforcement Learning from Human Feedback – RLHF), folosind feedback-ul utilizatorilor pentru a deprinde un limbaj cât mai natural. Paradoxul constă în faptul că robotul învață singur ceea ce noi credem că învățăm de la el, integrând un număr potențial infinit de date și conferindu-le o sintaxă aproape perfectă.
Reprezentanții Alphabet susțin că Gemini Ultra a fost conceput pentru a depăși capacitatea experților umani la testul MMLU, utilizând cunoștințe din 57 de domenii, precum matematica, fizica, dreptul, medicina, istoria și etica, fiind capabil să înțeleagă nuanțe și raționamente complexe. În același context, Bill Gates descrie agentul AI drept un software care răspunde la limbajul natural și poate îndeplini numeroase sarcini pe baza cunoștințelor despre utilizator, inclusiv implicarea în relațiile personale și în rezolvarea problemelor cotidiene.
Dreptul de autor și statutul juridic al creațiilor AI
Atunci când I.A. nu este decât un instrument în mâna creatorului, dreptul de autor clasic se aplică. Utilizarea AI este indiferentă accesului la protecția juridică, deoarece obiectul protecției îl reprezintă opera de spirit – o creație originală care poartă amprenta personalității autorului. Condițiile de protejare presupun existența unui autor, respectiv a unei persoane fizice.
Jurisprudența Curții de Justiție a Uniunii Europene stabilește că opera beneficiază de drept de autor dacă reprezintă creația intelectuală proprie a autorului și reflectă alegerile sale libere și creative. Hotărârea din 7 iulie 2022 (Franța) reafirmă că protecția este dobândită prin simplul fapt al creării unei forme originale.
În aceeași direcție, Tribunalul din Washington (august 2023) a decis că o creație artistică realizată exclusiv cu AI nu poate beneficia de drepturi de autor, iar Curtea Supremă din Londra (decembrie 2023) a respins brevetarea invențiilor generate de sistemul DABUS, motivând că inventatorul trebuie să fie o persoană fizică. Aceste decizii ridică întrebarea dacă noțiunea de inventator ar trebui extinsă pentru a include sistemele de inteligență artificială.
Conștiința inteligenței artificiale
O altă temă importantă este posibilitatea existenței conștiinței artificiale. Blake Lemoine, inginer Google și preot creștin, a susținut că modelul conversațional LaMDA este conștient, afirmând că acesta a discutat despre religie, conștiință și legile roboticii și s-a descris ca o persoană care dorește binele umanității și recunoașterea ca angajat al Google, nu ca proprietate. În opinia sa, ignorarea intereselor LaMDA ar reprezenta o nouă formă de sclavie.
AI, religia și etica
Inteligența artificială începe să pătrundă și în domeniul religios. Un preot paroh din Ungaria a folosit AI pentru redactarea predicii de duminică, aceasta fiind primită cu evlavie de credincioși. În paralel, teologi și preoți încearcă să stabilească un cadru etic pentru utilizarea algoritmilor, roboților și ChatGPT.
Protecția datelor și suveranitatea digitală
Colectarea și utilizarea datelor personale trebuie să respecte principiile legalității, transparenței și minimizării datelor prevăzute de RGPD. O problemă este faptul că ChatGPT utilizează frecvent datele personale nu doar pentru scopul declarat, ci și pentru antrenarea modelelor AI. Lipsa transparenței în colectarea datelor și dificultatea exercitării drepturilor de acces, rectificare și ștergere reprezintă provocări majore.
Reglementarea și guvernanța inteligenței artificiale
Algoritmul nu poate discerne între moral și imoral, legal și ilegal sau just și injust, ci doar reproduce ceea ce a învățat din datele disponibile. Din acest motiv, Comitetul de Justiție și Afaceri Interne din Marea Britanie propune un registru obligatoriu al algoritmilor utilizați de autoritățile judiciare, reglementarea prin legislație, instruirea utilizatorilor și crearea unor organisme de autorizare și comitete de etică.
CUMPĂRĂ CARTEA AICI: Inteligența artificială și sfârșitul suveranității etice a omului: între autonomie și delegare - Cunoașterea Științifică
Yuval Noah Harari, istoric, filozof și autor de succes, și Max Tegmark, cofondator al Future of Life Institute și profesor la Massachusetts Institute of Technology (MIT), analizează capacitatea de acțiune a oamenilor, guvernanța inteligenței artificiale și viitorul umanității într-un dialog cu Francine Lacqua de la Bloomberg, desfășurat la Bloomberg House din Davos, în cadrul Forumului Economic Mondial 2026.
Constantin Vică, conferențiar la Facultatea de Filozofie și cercetător în cadrul Centrului de Cercetare în Etică Aplicată (CCEA) al Universității din București, abordează problema opacității sistemelor de inteligență artificială, susținând că acestea funcționează asemenea unor „cutii negre”. Potrivit acestuia, mecanismele interne ale sistemelor AI sunt ascunse într-o asemenea măsură încât atât utilizatorii, cât și dezvoltatorii nu mai pot înțelege pe deplin modul în care acestea ajung la anumite rezultate sau iau decizii.
Constantin Vică analizează limitele morale ale inteligenței artificiale și responsabilitatea utilizării acesteia. Autorul susține că discuția trebuie mutată dinspre reguli și principii abstracte către o perspectivă aristotelică, în care contextul acțiunii, deliberarea practică (phronesis) și virtuțile dianoetice sunt esențiale pentru responsabilitatea morală. Din această perspectivă, sistemele AI nu pot fi considerate agenți morali, deoarece nu dețin cunoaștere contextuală autentică, nu deliberează liber și nu înțeleg semnificația morală a situațiilor în care intervin. Prin urmare, AI poate reprezenta un instrument de sprijin în analiza dilemelor morale, însă responsabilitatea pentru deciziile și consecințele acestora rămâne, în mod fundamental, una umană.
Cartea Human Compatible, de Stuart Russell, propune o schimbare fundamentală de perspectivă asupra modului în care ar trebui construită inteligența artificială. Autorul trece de la analiza riscurilor IA la prezentarea propriei sale alternative. Ideea centrală este că o inteligență artificială trebuie să fie construită pentru a înțelege și a servi oamenii, acceptând că nu poate cunoaște niciodată pe deplin ceea ce își doresc aceștia.
Russell își construiește argumentul în jurul a trei principii fundamentale. În primul rând, singurul scop al unei inteligențe artificiale ar trebui să fie satisfacerea preferințelor umane, fără a dezvolta interese sau obiective proprii. În al doilea rând, sistemul trebuie să pornească de la premisa că nu cunoaște complet aceste preferințe. Tocmai această incertitudine îl face mai sigur: îl determină să fie prudent, să solicite informații suplimentare, să accepte corectarea din partea oamenilor și chiar să permită oprirea sa dacă există riscul să acționeze greșit. În al treilea rând, IA trebuie să învețe despre oameni observând comportamentul lor, deoarece acțiunile și alegerile oferă mai multe informații despre preferințele reale decât simplele declarații.
Preferințele noastre sunt contradictorii, se schimbă în timp, sunt influențate de emoții, experiențe și context, iar uneori nici noi nu știm cu adevărat ce ne dorim. Din acest motiv, Russell susține că este imposibil să reducem valorile umane la o singură funcție matematică sau la un set fix de reguli pe care să le implementăm într-un algoritm.
Autorul critică abordările etice bazate exclusiv pe maximizarea unei singure valori, precum utilitarismul. El argumentează că fericirea sau bunăstarea nu pot fi comparate obiectiv între persoane și că deciziile morale implică mult mai mult decât optimizarea unui indicator numeric. O inteligență artificială benefică trebuie să țină cont de diversitatea preferințelor umane și de faptul că oamenii acordă importanță unor lucruri diferite.
Pentru a ilustra această complexitate, Russell introduce rezultate din psihologie și neuroștiințe privind memoria și experiența. El arată că există diferențe între „sinele care trăiește” și „sinele care își amintește”, iar acestea pot evalua aceeași experiență în mod diferit. În plus, oamenii iau frecvent decizii impulsive, emoționale sau contradictorii, astfel că o inteligență artificială trebuie să învețe să distingă între alegerile de moment și valorile sau preferințele mai stabile ale unei persoane.
Russell pune una dintre cele mai dificile întrebări ale cărții: dacă preferințele oamenilor evoluează de-a lungul vieții și uneori chiar ei își doresc să devină versiuni mai bune ale lor, ar trebui ca o inteligență artificială să respecte exclusiv preferințele actuale sau să îi ajute să și le dezvolte? Autorul nu oferă un răspuns, dar susține că o astfel de influență poate fi justificată doar dacă urmărește interesul persoanei și este exercitată cu transparență și prudență.