Efervescenta adoptarii solutiilor bazate pe inteligenta artificiala a cuprins toate mediile, economic si social in special, mai ales in contextul extinderii digitalizarii si a lucrului online. Ceea ce, bineinteles, este de bun augur, cel putin din punct de vedere al eficientizarii timpului de lucru, a timpului de raspuns catre clienti si parteneri sau al modelelor de business, care se pot adapta mai repede conditiilor concurentei.

Cadrul de lucru la nivelul membrilor UE a fost adoptat si intra in vigoare de la 1 august 2024, asa-numitul AI Act sau Regulamentul UE 2024/1689 de stabilire a unor norme armonizate privind inteligenta artificiala. Acesta reglementeaza, in cele 180 de articole ale sale, in cele mai mici detalii modul, principiile si normele la care companiile - provideri si beneficiari deopotriva - sa fie atente in procesul de creatie si, respectiv utilizare al solutiilor de tip AI.

Daca beneficiile adoptarii solutiilor AI par a avea doar beneficii, sigur ca exista si riscuri, care trebuie avute in vedere la utilizarea acestor solutii AI, de care companiile trebuie sa tina cont inainte de toate si sa realizeze, anterior implementarii acestora, o analiza in detaliu beneficii-riscuri-efecte. AI Act emis de UE explica, de altfel, si categoriile de risc in care pot fi incadrate solutiile AI.

Unul dintre riscurile majore este acela de neconformare cu regulile privind protectia datelor, respectiv GDPR, tocmai de aceea sunt necesare masuri specifice, astfel:

1. Evaluarea riscurilor si clasificarea aplicatiilor AI. Vorbim despre identificarea si evaluarea riscurilor asociate cu utilizarea solutiilor de inteligenta artificiala, precum si de clasificarea aplicatiilor AI conform categoriilor de risc stabilite de regulamentul UE: risc minim, risc limitat, risc ridicat si risc inacceptabil. Pe baza acestor evaluari, companiile vor putea adopta exact acea solutie AI care sa raspunda cerintelor interne, inclusiv de conformitate cu regulile GDPR, astfel incat sa fie evitata maximum posibil compromiterea datelor personale si sensibile, prin atacuri cibernetice sau scurgeri de informatii.

2. Transparenta si explicabilitatea. Cu alte cuvinte, sistemele AI trebuie sa fie transparente si clare, astfel incat modul lor de functionare sa poata fi explicat utilizatorilor si autoritatilor de reglementare, in egala masura. Conform GDPR, o solutie de AI trebuie sa explice in nota de informare, astfel incat sa se inteleaga cat mai usor, ce date, cum si in ce scopuri le prelucreaza. Pe de alta parte, este obligatorie Documentarea clara privind modul de functionare a algoritmilor si a proceselor decizionale.

3. Responsabilitate si supraveghere. In cadrul fiecarei companii este necesara stabilirea clara a persoanelor responsabile si a responsabilitatilor pentru supravegherea utilizarii AI. Cu alte cuvinte, organizatia trebuie sa dedice resurse care sa supravgheze procesul de implementare, impactul organizational, daca exista riscuri de utilizare pentru angajati ai solutiei de AI, dar si performanta acestei solutii raportat la costurile de implementare si utilizare. Este necesar ca angajatii sa lucreze pe mecanisme de supraveghere si audit intern bine puse la punct, pentru a putea monitoriza in mod adecvat conformitatea cu reglementarile in vigoare.

4. Protectia datelor si confidentialitatea. Vorbim aici despre implementarea masurilor de protectie a datelor personale, conform Regulamentului General privind Protectia Datelor (GDPR) si asigurarea anonimizarii sau pseudonimizarii datelor, acolo unde este posibil, dar si despre obligatia de acuratete a informatiilor personale ce sunt parte din bazele de invatare ale algoritmului.

De fapt, este vorba despre a analiza inainte de implementare, impreuna cu providerul solutiilor de tip AI, componentele solutiei, astfel incat aceasta sa fie de la bun inceput conceputa in acord perfect cu regulile GDPR. Nerespectarea reglementarilor legale poate duce la sanctiuni, amenzi si daune reputationale.

5. Masuri de protectie privind riscurile de securitate cibernetica. Sistemele AI pot fi tinta atacurilor cibernetice, care pot compromite integritatea si disponibilitatea lor. Implementarea masurilor de securitate cibernetica solide, inclusiv firewall-uri, sisteme de detectare a intruziunilor si testare regulata a vulnerabilitatilor este mai mult decat necesara.

Asigurarea actualizarii constante a software-ului si a infrastructurii pentru a proteja impotriva amenintarilor noi, implementarea unor protocoale solide de backup si recuperare in caz de dezastru, testarea riguroasa a solutiilor AI inainte de implementare si monitorizarea continua a performantei acestora sunt doar cateva masuri obligatorii. Iar pentru a minimiza impactul problemelor operationale, compania trebuie sa pregateasca un plan de raspuns rapid la incidente.

6. Bias si nediscriminare. Identificarea si eliminarea potentialelor biais-uri din datele de antrenament si din algoritmii AI, plus asigurarea ca sistemele AI nu discrimineaza pe baza criteriilor protejate (de ex., rasa, gen, varsta). Algoritmii AI pot perpetua sau amplifica bias-urile existente in datele de antrenament, ceea ce va duce la decizii nedrepte sau discriminatorii. De exemplu, in cazul utilizarii unei solutii AI in procesul de recrutare, trebuie verificate scenariile de risc in ceea ce priveste discriminarea candidatilor. De aceea este obligatorie evaluarea si curatarea datelor de antrenament pentru a elimina biais-urile.

7. Formare si educatie. Toti angajatii implicati in dezvoltarea si utilizarea AI vor fi obligatoriu instruiti, punctual si continuu, cu privire la riscuri si utilizarea responsabila a AI. Devine deja obligatorie promovarea unei culturi organizationale care sa sustina etica si conformitatea in utilizarea AI.

Angajatii trebuie sa fie constienti de regulile GDPR si de importanta aplicarii acestora in utilizarea solutiilor AI. Formarea continua si sensibilizarea in privinta confidentialitatii datelor sunt esentiale pentru a asigura respectarea reglementarilor.

Integrarea solutiilor AI este esantiala pentru companiile care doresc sa ramana competitive in era digitala, dar cu respectarea reglementarilor GDPR, cruciala pentru a proteja drepturile si libertatile persoanelor. Prin adoptarea masurilor adecvate pentru protectia datelor si asigurarea transparentei in utilizarea AI, companiile pot beneficia de avantajele tehnologice ale AI, respectand in acelasi timp cerintele legale si etice.

Companiile ar trebui sa colaboreze cu experti in protectia datelor pentru a dezvolta si implementa solutii AI ce respecta GDPR, iar consultarea regulata cu ofiterii de protectie a datelor (DPO) poate ajuta la identificarea riscurilor si implementarea masurilor adecvate.