Regulamentul (UE) 2024/1689 se aplică organizațiilor care dezvoltă, furnizează, implementează sau utilizează sisteme de inteligență artificială în cadrul activităților lor profesionale.
Fiecare organizație are responsabilitatea de a evalua riscurile asociate utilizării AI și de a se conforma cerințelor legale în funcție de nivelul de risc.
AI Act clasifică sistemele de inteligență artificială în funcție de riscul pe care îl pot genera asupra drepturilor fundamentale, siguranței și sănătății persoanelor.
Riscuri minime pentru drepturile și siguranța utilizatorilor.
Exemple de sisteme:Transparență minimă – utilizatorul trebuie informat clar că interacționează cu un AI.
Riscuri limitate de manipulare sau simulare a realității.
Exemple de sisteme:Transparență sporită, marcarea digitală obligatorie a conținutului generat (watermarking) și informarea utilizatorilor.
Riscuri semnificative pentru drepturile fundamentale și siguranța persoanelor.
Exemple de sisteme:Conformitate strictă, evaluare tehnică riguroasă înainte de lansare și înregistrare în baza de date UE.
Indiferent de domeniu, utilizarea necorespunzătoare a sistemelor AI poate genera impact major asupra organizației tale.
Nerespectarea cerințelor AI Act poate atrage sancțiuni severe și răspunderea juridică a organizației.
Decizii automate părtinătoare sau netransparente pot afecta încrederea clienților și partenerilor.
Prelucrarea necorespunzătoare a datelor poate duce la violări GDPR și scurgeri de informații.
Erori sau lipsa supravegherii umane pot afecta grav procesele critice ale organizației.
Discriminarea și lipsa transparenței pot încălca drepturile fundamentale ale persoanelor.
Amenzi, întreruperi operaționale și pierderi de contracte pot genera costuri semnificative.
Organizații care dezvoltă sisteme AI, inclusiv modele generative și algoritmi avansați.
Organizațiile care pun la dispoziție sau distribuie sisteme AI, chiar și sub brandul lor propriu.
Organizații care utilizează AI în activitățile lor profesionale, chiar și când sistemul e de la terți.
Persoanele fizice sau juridice care utilizează sisteme AI în activitățile lor profesionale.