Legislatorii europeni au ajuns la un consens asupra unui proiect de lege privind Inteligența Artificială (IA), care va fi primul cadru legal global pentru reglementarea sistemelor de IA. Proiectul de lege a fost rezultatul unor discuții intense și va fi un model pentru alte regiuni care vor să adopte norme similare.
Proiectul de lege stabilește cerințe stricte pentru dezvoltatorii de sisteme de IA „cu risc ridicat” care pot avea un impact semnificativ asupra societății. Aceste cerințe includ evaluarea riscurilor, testarea robustă, raportarea incidentelor și altele. Dezvoltatorii sunt obligați să asigure transparența, în special furnizând o analiză detaliată a materialelor utilizate în procesul de instruire a IA. De exemplu, compania OpenAI, responsabilă pentru ChatGPT, refuză să divulge aceste informații până în prezent.
Cetățenii vor avea dreptul să se plângă de sistemele de IA și să ceară explicații pentru deciziile luate de sistemele „cu risc ridicat”, dacă aceste decizii încalcă drepturile lor. Proiectul de lege nu precizează încă mecanismele de aplicare a legii, dar menționează sancțiunile: de la 7,5 milioane de euro sau 1,5% din cifra de afaceri globală a companiei până la 35 de milioane de euro sau 7% din veniturile globale.
Inteligența artificială (IA) este un domeniu în plină expansiune, care oferă oportunități și provocări pentru societatea europeană. Pentru a răspunde acestor provocări și a asigura respectarea drepturilor fundamentale ale cetățenilor, Uniunea Europeană (UE) a inițiat în 2021 un proces legislativ pentru a elabora o „Lege privind Inteligența Artificială”, care să definească ce este IA și să stabilească norme comune de reglementare pentru aplicațiile de IA în diverse domenii, cum ar fi sănătatea, educația, transportul sau securitatea.
Proiectul de lege a fost prezentat pentru prima dată în aprilie 2021 de către Comisia Europeană, care a propus o abordare bazată pe riscuri, clasificând aplicațiile de IA în patru categorii: interzise, cu risc ridicat, cu risc limitat și minime.
- Aplicațiile interzise sunt cele care încalcă valorile și drepturile UE, cum ar fi manipularea comportamentală sau evaluarea socială.
- Aplicațiile cu risc ridicat sunt cele care pot afecta drepturile sau siguranța persoanelor, cum ar fi recunoașterea facială sau sistemele medicale. Aceste aplicații ar trebui să respecte o serie de cerințe de calitate, transparență și supraveghere.
- Aplicațiile cu risc limitat sunt cele care implică o anumită interacțiune cu utilizatorii, cum ar fi asistenții vocali sau chatbot-urile. Aceste aplicații ar trebui să informeze utilizatorii că interacționează cu un sistem de IA și să le ofere posibilitatea de a renunța.
- Aplicațiile minime sunt cele care nu prezintă riscuri semnificative pentru utilizatori, cum ar fi filtrele foto sau jocurile video. Aceste aplicații nu sunt supuse unor obligații specifice.
După prezentarea proiectului de lege, acesta a fost supus consultării publice și dezbaterilor parlamentare. În acest timp, au apărut noi platforme și tehnologii de IA, care au ridicat noi întrebări și provocări pentru reglementare. De exemplu, ChatGPT este o platformă care folosește un model avansat de IA generativă pentru a crea texte pe baza unor cuvinte cheie introduse de utilizatori. Acest tip de IA poate fi folosit pentru scopuri creative, educative sau informative, dar și pentru a genera conținut fals, ofensator sau dăunător. Un alt exemplu este Stable Diffusion, o tehnologie care permite crearea de imagini realiste pe baza unor schițe simple. Această tehnologie poate fi folosită pentru divertisment, artă sau design, dar și pentru a crea imagini false sau manipulatoare.
În prezent, parlamentarii au ajuns la un acord preliminar, iar documentul va fi supus unor discuții suplimentare, inclusiv un vot în comisiile Parlamentului European pentru piața internă și libertățile civile. Se preconizează că Parlamentul European va vota propunerile de lege privind IA la începutul anului viitor. Cu toate acestea, chiar și în acest caz, „Legea privind Inteligența Artificială” nu va intra în vigoare mai devreme de 2025.
Dezbaterile cele mai aprinse au fost generate de normele privind reglementarea analizei datelor biometrice în timp real cu ajutorul IA, precum și pentru sistemele de IA generativă, cum ar fi ChatGPT. Europarlamentarii vor să interzică orice formă de supraveghere biometrică bazată pe IA, în timp ce guvernele naționale cer derogări pentru armată, poliție și servicii secrete.