AI aduce beneficii și riscuri. Cazurile de mai jos arată ce se întâmplă când oamenii nu verifică rezultatele.
Informații false
Modelele de limbaj scriu texte convingătoare care conțin erori. În 2023, un tribunal din New York a amendat doi avocați cu 5.000 de dolari. Avocații depuseseră citări de procese inventate de ChatGPT.
Discriminare
Amazon a renunțat în 2018 la un instrument de recrutare cu AI. Sistemul depuncta CV-urile care conțineau cuvântul „women’s”. Modelul învățase din CV-urile primite timp de 10 ani, majoritatea trimise de bărbați.
Fraude cu deepfake
În 2024, un angajat al firmei Arup din Hong Kong a transferat circa 25 de milioane de dolari după un apel video. Fraudatorii generaseră cu AI imaginea și vocea colegilor lui.
Ce prevede AI Act
Regulamentul (UE) 2024/1689 împarte sistemele AI după nivelul de risc. Regulile intră în aplicare etapizat.
- Legea a intrat în vigoare pe 1 august 2024.
- Din 2 februarie 2025, legea interzice sisteme precum scorul social și manipularea comportamentală.
- Din 2 august 2025, furnizorii de modele de uz general respectă reguli de transparență.
- Sistemele cu risc ridicat, de exemplu cele folosite la angajări sau la acordarea creditelor, au obligații stricte de testare și documentare.
- Amenzile ajung la 35 de milioane de euro sau 7% din cifra de afaceri globală.
Cum folosești AI responsabil
- Nu introduce date personale sau secrete de firmă în instrumente publice.
- Verifică cifrele, citatele și sursele înainte să le folosești.
- Spune când un text sau o imagine provine de la AI.
- Lasă decizia finală unui om, mai ales în sănătate, finanțe și resurse umane.