La ràpida expansió de la intel·ligència artificial ha enxampat mig món desprevingut, però és a la població més jove on l'impacte està sent més profund i veloç. Davant d'aquest escenari, Espanya ha decidit agafar les regnes internacionalment proposant la creació d'una coalició de països que treballi de manera coordinada sota el paraigua de les Nacions Unides. Aquesta iniciativa, presentada a Ginebra, té com a objectiu principal establir uns mínims de seguretat que garanteixin que qualsevol desenvolupament tecnològic respecti els drets i el creixement saludable dels nens i adolescents.
El desplegament d'aquesta tecnologia ja és una realitat quotidiana a les aules i les llars espanyoles, on els xavals la utilitzen per a tot tipus de tasques, des de resoldre dubtes acadèmics fins a buscar suport emocional. Tot i això, aquest ús massiu no sempre compta amb les salvaguardes necessàries, cosa que deixa la porta oberta a riscos que van des del perfilat publicitari fins a l'exposició a aplicacions falses d'intel·ligència artificial que poden comprometre'n la seguretat. Per això, la proposta espanyola no cerca només una regulació local, sinó un acord global que eviti llacunes legals en un entorn digital que, com tots sabem, no entén de fronteres físiques.
Un front comú davant dels riscos de la manipulació algorísmica
La coalició internacional compta d'entrada amb suports de pes com els de França, Kenya i la mateixa Unió Europea, cosa que reforça la posició d'Espanya com a impulsora de drets digitals. El ministre Óscar López ha estat molt clar sobre això, assenyalant que la desregulació absoluta no és una opció viable si volem evitar errors del passat comesos amb altres plataformes digitals. La meta és que els sistemes d'intel·ligència artificial siguin assegurances des de la fase de disseny, analitzant per endavant com poden influir en el comportament d'un menor o quin tipus de dades personals requereixen per funcionar.
Un dels punts que preocupa més els experts és la capacitat d'aquests sistemes per personalitzar continguts de forma extrema. Encara que això pot ser útil per a laprenentatge, també pot derivar en una manipulació subtil dels interessos o reaccions de lusuari. Els menors, en estar en una etapa de ple desenvolupament, són especialment vulnerables a tècniques de persuasió que de vegades ni els adults aconsegueixen detectar a temps. Per això, s'insisteix que les empreses tecnològiques han d'assumir una responsabilitat molt més gran quan els seus productes estan a l'abast de la infància.
En aquest sentit, les institucions espanyoles ja estan movent fitxa de manera interna. L'Agència Espanyola de Supervisió de la Intel·ligència Artificial (AESIA) ha constituït grups de treball específics per abordar aquests reptes socials i ètics. Es tracta d'anticipar-se als canvis tecnològics perquè, quan una nova eina arribi a les mans d'un estudiant, ja existeixin mecanismes de control i investigació que en protegeixin el benestar. No es tracta de posar portes al camp, sinó d'assegurar que el terreny de joc sigui segur per a tothom.
La realitat de l'ús de la IA a les noves generacions
Les dades que manegen organismes com UNICEF són força reveladors i ens donen una idea de la magnitud de l'assumpte. Es calcula que uns 20 milions de menors ja interactuen amb eines d'IA, fet que suposa un ritme d'adopció tres vegades superior al dels pares o cuidadors. El col·legi és, per a la majoria, la principal porta d'entrada, utilitzant aquests sistemes per fer els deures o traduir textos. El més curiós és que un percentatge gens menyspreable d'aquests joves també acudeix als chatbots per demanar consell sobre problemes personals, cosa que genera una relació de confiança amb una màquina que no sempre està preparada per gestionar aquestes situacions.
Aquesta bretxa digital generacional és un dels majors obstacles, ja que molts pares admeten no haver utilitzat mai aquestes eines, cosa que dificulta que puguin guiar els seus fills de manera eficaç. L'alfabetització digital esdevé així una peça clau del trencaclosques. Més enllà de prohibir, els especialistes advoquen per ensenyar els xavals a identificar quan estan sent manipulats per un algorisme o com protegir la seva privadesa. La idea és crear ciutadans resilients que sàpiguen manejar-se en un món on la IA serà omnipresent.
D'altra banda, hi ha una preocupació creixent per utilitzar la IA per generar continguts falsos. Els famosos deepfakes han passat de ser una curiositat tecnològica a una eina d'assetjament i d'extorsió. Espanya ha liderat a Europa la prohibició d'aquest tipus de muntatges quan tenen caràcter sexual, una pràctica que afecta desproporcionadament els menors. Tot i que el Reglament Europeu d'IA ja estableix obligacions de transparència, el dany emocional d'aquestes imatges pot ser devastador, per la qual cosa se'n reclama una acció penal i administrativa contundent contra els qui utilitzin la ciberseguretat al codi generat per IA per veure tercers.
Cap a un marc normatiu que no deixi ningú enrere
És fonamental entendre que, encara que la coalició internacional encara no imposa sancions directes, sí que marca el camí del que vindrà. Les empreses que operen a Espanya ja han de complir amb normatives estrictes com ara el Reglament General de Protecció de Dades (RGPD) o la Llei de Serveis Digitals. Aquestes normes prohibeixen, per exemple, que les plataformes mostrin publicitat basada en perfils quan saben que lusuari és menor dedat. L'objectiu és que la privadesa sigui l'opció per defecte i no una cosa que l'usuari hagi de configurar després de navegar per menús infinits.
La verificació d'edat és un altre dels cavalls de batalla en aquest debat. No n'hi ha prou amb posar una casella de 'sóc més gran de 14 anys' si després el contingut que s'ofereix és d'alt risc. La Comissió Europea suggereix que aquestes mesures han de ser eficaces però també respectuoses amb la intimitat dels ciutadans, evitant recollir més dades de les estrictament necessàries. És un equilibri delicat: protegir els més petits sense convertir internet en un espai de vigilància constant per a la resta de la població.
En darrer terme, l'èxit d'aquestes propostes dependrà de la voluntat política i de la col·laboració dels gegants tecnològics. Si la coalició aconsegueix sumar més països, podríem aviat veure estàndards tècnics de seguretat que s'apliquin a tot el món, facilitant que les famílies respirin una mica més tranquil·les. Mentrestant, la millor eina continua sent la comunicació directa entre adults i menors, acompanyant el descobriment d'aquestes tecnologies amb esperit crític i establint límits clars que impedeixin que el món virtual acabi engolint la realitat dels més joves.
L'avenç de la intel·ligència artificial és imparable, però això no vol dir que s'hagi de produir sense control ni ètica. Espanya ha mogut fitxa perquè la protecció de la infància sigui una prioritat absoluta a l'agenda global, buscant un consens que blind els menors davant dels riscos de la desinformació i l'abús. Amb el suport de l'ONU i de socis europeus estratègics, el camí cap a una tecnologia més humana i segura sembla estar una mica més clar, encara que encara queda molta feina per fer perquè les lleis segueixin el ritme de la innovació.
