La Unió Europea s'ha llançat de cap a l'avantguarda tecnològica en promulgar la primera normativa integral del planeta per controlar la intel·ligència artificial. No es tracta només de posar regles per posar-les, sinó assegurar que la innovació no passi per sobre dels drets bàsics de les persones, buscant un equilibri on la tecnologia sigui fiable i, sobretot, segura per a tots els ciutadans.
Aquest reglament no és un bloc monolític, sinó que utilitza un enfocament intel·ligent basat en el risc. Bàsicament, com més perillós sigui l'ús de la IA per a la societat o la salut, més exigències hi haurà per als qui la desenvolupin o la facin servir. Des de prohibicions contundents fins a simples avisos de transparència, la UE vol que sapiguem exactament quan estem tractant amb una màquina i no amb un humà.
El sistema de classificació per riscos
La norma divideix les aplicacions d'IA en quatre categories molt clares perquè ningú no es perdi pel camí:
- Risc Inacceptable: Són els sistemes que directament queden fora de combat a sòl europeu. Aquí entren les tècniques de manipulació subliminal que puguin fer mal psicològic, l'explotació de vulnerabilitats (com l'edat o la discapacitat) i els temuts sistemes de puntuació social o social scoring gestionats per l'Estat. També es prohibeix, excepte excepcions judicials molt concretes per a delictes greus, la identificació biomètrica en temps real en espais públics.
- Alt Risc: No estan prohibits, però porten una lupa a sobre. S'inclouen sistemes usats a infraestructures crítiques (com el subministrament elèctric o aigua), educació, processos de selecció de personal, migració i justícia. Els qui llencin aquests productes han de passar avaluacions de conformitat rigoroses i mantenir una supervisió humana constant per evitar biaixos o errors fatals.
- Risc Limitat: Aquí hi trobem els famosos chatbots o els generadors d'imatges i vídeos (deepfakes). La clau aquí és que lusuari no sigui enganyat; per tant, estan obligats a informar clarament que el contingut ha estat generat artificialment.
- Risc Mínim: És on cau la gran majoria de les aplicacions, com els filtres de correu brossa o els videojocs. Aquests no tenen regulacions estrictes, encara que s'anima les empreses a seguir codis de conducta voluntaris.
Models d'IA de Propòsit General (GPAI)
Amb el boom de ferramentes com GPT-4, la UE va afegir una categoria especial per a la IA de propòsit general. Si el model és de codi obert, els requisits són lleugers i es limiten a resums de dades d'entrenament, semblant a com sistemes open-source han buscat exempcions en altres legislacions tecnològiques. Tot i això, si el model té un impacte sistèmic (entrenat amb una potència computacional brutal, superior a 1025 FLOPS), s'ha de sotmetre a proves d'estrès, avaluacions de ciberseguretat i reportar qualsevol incident greu a la Comissió.
Governança i organismes de control
Perquè la llei no es quedi en paper mullat, s'hi ha muntat tota una estructura administrativa. L' Oficina Europea d'IA és la peça central que coordina l'aplicació a tots els estats membres. Al costat, la Junta Europea d'IA i el Fòrum Consultiu aporten la visió política i tècnica, mentre que el Panell Científic d'Experts Independents s'encarrega que la llei no es quedi obsoleta davant dels descobriments científics més recents.
Calendari d'aplicació i sancions
La llei no va entrar en vigor de cop, sinó que segueix un calendari esglaonat. Les prohibicions de risc inacceptable es van començar a aplicar el 2 de febrer del 2025. Els codis de bones pràctiques i la transparència de la IA general arriben poc després, mentre que les obligacions més pesades per als sistemes d'alt risc tindran un marge de fins a 36 mesos des de l'entrada en vigor.
Si una empresa decideix passar-se la norma pel folre, les multes són per posar-se a tremolar. Les infraccions més greus poden costar fins a 35 milions dʻeuros o el 7% de la facturació anual mundial. Altres faltes menors poden arribar als 15 milions o el 3%, mentre que donar informació falsa a les autoritats pot costar fins a 7,5 milions o 1,5%.
Consells per a empreses i el foment de la innovació
Perquè les pimes i startups no se sentin asfixiades, la UE ha creat els Regulatory Sandboxes o espais aïllats de proves . Són entorns controlats on es pot experimentar amb la IA sota la mirada del regulador abans de sortir al mercat, cosa que accelera la conformitat i redueix la por a l'error. A les empreses se'ls recomana fer encaridament un inventari dels seus sistemes d'IA , classificar-los segons el risc i revisar els seus marcs de governança de dades ara mateix.
Aquest marc regulador representa un canvi de paradigma que busca convertir Europa en el referent global de la IA ètica. Combinant una vigilància estricta sobre els drets fonamentals amb incentius per a l'experimentació controlada, la Unió Europea intenta que la tecnologia avanci sense deixar enrere la seguretat ni la transparència, establint un estàndard que probablement copiaran altres potències mundials en els propers anys.