Inteligența artificială a devenit parte din activitatea de zi cu zi a companiilor, profesioniștilor și instituțiilor publice. De la redactarea documentelor și relaționarea cu clienții, până la generarea de imagini, conținut sau automatizarea proceselor interne, utilizarea sistemelor de inteligență artificială este într-o continuă expansiune.
Pentru a asigura dezvoltarea și utilizarea responsabilă a acestor tehnologii, Uniunea Europeană a adoptat Regulamentul (UE) privind inteligența artificială (AI Act), primul cadru legislativ european dedicat reglementării sistemelor de inteligență artificială.
Scopul regulamentului este de a crea un echilibru între inovare și protejarea drepturilor fundamentale ale persoanelor, prin instituirea unor obligații clare pentru furnizorii și utilizatorii de sisteme IA, în funcție de nivelul de risc pe care acestea îl prezintă.
Cele patru niveluri de risc
Regulamentul clasifică sistemele de inteligență artificială în patru categorii de risc, fiecăreia corespunzându-i obligații specifice.
1. Sisteme IA cu risc minim
Sistemele de inteligență artificială cu risc minim, precum jocurile video bazate pe IA sau filtrele antispam, pot fi utilizate fără restricții speciale și fără obligații suplimentare de conformare.
2. Sisteme IA cu risc limitat
În această categorie sunt incluse, printre altele, chatbot-urile și sistemele de inteligență artificială care generează texte, imagini, conținut audio sau video.
Aceste sisteme sunt supuse unor obligații de transparență, utilizatorii trebuind să fie informați în mod clar că interacționează cu un sistem de inteligență artificială sau că respectivul conținut a fost generat ori modificat cu ajutorul acesteia. Scopul este ca persoanele să poată decide în cunoștință de cauză dacă doresc să continue utilizarea serviciului.
3. Sisteme IA cu risc ridicat
Sistemele de inteligență artificială cu risc ridicat sunt enumerate în Anexa III a Regulamentului și includ, cu titlu de exemplu, sistemele utilizate pentru:
- diagnosticarea unor afecțiuni medicale;
- conducerea autonomă a vehiculelor;
- identificarea biometrică a persoanelor în cadrul unor activități de aplicare a legii sau investigații.
Întrucât aceste sisteme pot afecta siguranța persoanelor sau exercitarea drepturilor fundamentale, ele sunt supuse unor cerințe stricte privind proiectarea, testarea, monitorizarea și evaluarea pe întregul lor ciclu de viață.
4. Sisteme IA cu risc inacceptabil
Sistemele care prezintă un risc inacceptabil pentru siguranța, drepturile sau mijloacele de subzistență ale persoanelor sunt interzise în Uniunea Europeană.
Folosești ChatGPT sau alte instrumente de inteligență artificială?
Dacă utilizezi în activitatea profesională sisteme precum ChatGPT, Copilot, Gemini sau alte aplicații similare, este important să cunoști obligațiile care îți revin.
Deși aceste sisteme nu sunt încadrate, în mod obișnuit, în categoria celor cu risc ridicat, utilizarea lor poate atrage obligații de transparență.
Astfel, atunci când folosești un sistem de inteligență artificială pentru a interacționa cu persoane fizice sau pentru a genera ori modifica texte, imagini, materiale audio sau video, trebuie să informezi utilizatorii cu privire la utilizarea acestei tehnologii, inclusiv prin afișarea unor informări corespunzătoare, acolo unde este cazul.
În practică, această obligație poate privi numeroase activități desfășurate de companii, precum relațiile cu clienții, serviciile de suport, activitatea de marketing, redactarea conținutului online sau alte procese automatizate bazate pe inteligență artificială.
Când se aplică noile reguli?
Regulamentul european privind inteligența artificială se aplică etapizat.
Astfel, normele referitoare la sistemele de inteligență artificială cu risc inacceptabil sunt deja aplicabile începând cu 2 februarie 2025, iar alte obligații vor intra în vigoare progresiv în perioada 2 august 2026 – 2030, potrivit calendarului stabilit prin regulament.
Prin urmare, companiile și organizațiile care utilizează sau intenționează să implementeze sisteme de inteligență artificială ar trebui să înceapă încă de acum analiza modului în care aceste reguli le afectează activitatea.
Care sunt sancțiunile?
Nerespectarea obligațiilor prevăzute de Regulamentul european privind inteligența artificială poate atrage sancțiuni semnificative.
În funcție de natura încălcării, autoritățile competente pot aplica amenzi calculate procentual din cifra de afaceri anuală globală a întreprinderii sau amenzi în cuantum fix, urmând să fie avută în vedere valoarea cea mai mare dintre acestea.
Din acest motiv, conformarea nu trebuie privită doar ca o obligație legală, ci și ca o măsură de reducere a riscurilor juridice și reputaționale.
Conformarea începe cu o analiză juridică
Implementarea inteligenței artificiale într-o companie presupune nu doar beneficii operaționale, ci și responsabilități juridice. Identificarea obligațiilor aplicabile, redactarea politicilor interne, evaluarea riscurilor și respectarea cerințelor de transparență sunt aspecte care trebuie analizate înainte ca eventualele neconformități să genereze sancțiuni.
Echipa Nartea Partners oferă asistență juridică societăților comerciale și profesioniștilor în procesul de conformare la noile cerințe europene privind inteligența artificială, prin analiza modului în care sunt utilizate sistemele IA, identificarea obligațiilor aplicabile și elaborarea documentației necesare.
Dacă utilizați instrumente de inteligență artificială în activitatea societății dumneavoastră sau intenționați să implementați astfel de soluții, o analiză juridică realizată din timp vă poate ajuta să evitați riscurile de neconformare și eventualele sancțiuni prevăzute de legislația europeană.
Vă stăm la dispoziție pentru mai multe informații. Contactați-ne la numărul de telefon 0720291919 sau prin e-mai la adresa [email protected].