OpenAI ha posat sobre la taula una vacant molt poc habitual: un cap de preparació encarregat d'anticipar què pot sortir malament quan la intel·ligència artificial avanci un altre esglaó. La companyia busca una persona que lideri la seva estratègia per detectar i contenir els riscos més seriosos dels seus models, en un moment en què el debat sobre seguretat i salut mental està especialment encès, també a Europa.
El rol, anomenat en anglès Head of Preparedness, neix amb un mandat clar: estudiar i mitigar amenaces de frontera abans que els seus sistemes arribin al gran públic. Això inclou des de possibles abusos a ciberseguretat, passant per la detecció de vulnerabilitats crítiques, fins a l'impacte psicològic de mantenir llargues converses amb chatbots que semblen humans.
Què farà el nou cap de preparació d'OpenAI
Segons la descripció interna del lloc, la persona seleccionada haurà d'executar l'anomenat “marc de preparació” d'OpenAI, un conjunt de processos i criteris per vigilar capacitats avançades que puguin desembocar a danys severs. Parlem d'escenaris com l'alliberament de capacitats biològiques, el suport a la creació d'armes o la gestió de sistemes auto-milloren amb poca supervisió humana.
A la pràctica, aquest marc implica coordinar avaluacions tècniques dels models, dissenyar models d'amenaça en diferents dominis (ciberseguretat, biologia, riscos de desinformació, manipulació psicològica, etc.) i proposar mitigacions abans que una nova versió es desplega de forma massiva. No és un lloc d'aparador: es tracta de posar frens on calgui, encara que això endarreri llançaments o funcionalitats molt esperades.
La vacant arriba, a més, amb un paquet de compensació que deixa clar el nivell d'exigència: OpenAI ofereix al voltant de 555.000 dòlars anuals més accions, xifres que al sector tecnològic es reserven a perfils amb un pes estratègic equivalent al d'una direcció general. A canvi, l?empresa admet sense embuts que es tracta d?un treball d?alta pressió, allunyat de la imatge glamuritzada que de vegades acompanya el món de la IA.
El mateix Sam Altman ha descrit el lloc com una feina “estressant” en què la persona escollida haurà de posar-se a ple rendiment des del primer dia. El missatge de fons és que OpenAI veu urgent reforçar aquest front, en un context on els reguladors europeus i les autoritats de protecció de dades ja han mostrat la seva preocupació pels efectes de la IA sobre la seguretat i els drets dels ciutadans.
Més enllà dels aspectes interns, el cap de preparació també haurà de servir de pont entre la investigació i el desplegament comercial: traduir troballes tècniques en polítiques concretes, definir llindars de risc acceptables i recomanar fins i tot la detenció temporal d'un model si els riscos superen allò que és tolerable. En un mercat on la consigna ha estat “mou-te ràpid i trenca coses”, aquest rol apunta a canviar el ritme.
Pressió pels impactes en salut mental i la seguretat
Sam Altman ha reconegut públicament que els models actuals d'OpenAI comencen a plantejar “desafiaments reals”. Entre ells, ha assenyalat l'impacte potencial sobre la salut mental dels usuaris, una qüestió especialment delicada en un entorn europeu amb un fort focus en benestar psicològic i protecció de menors, així com la capacitat d'aquestes eines per identificar errors crítics de seguretat en sistemes informàtics.
En els darrers mesos, l'empresa s'ha vist embolicada a demandes per mort injusta i en acusacions que ChatGPT i altres sistemes haurien contribuït a reforçar deliris, alimentar conspiracions o avalar idees autodestructives d'alguns usuaris vulnerables. En un dels casos que ha ressonat més, la família d'un adolescent sosté que les converses amb un avatar generat per IA van jugar un paper en el seu suïcidi.
Tot i que OpenAI defensa que molts d'aquests incidents deriven d'usos indeguts o de malinterpretacions de les respostes, el debat ja no és purament tècnic. Quan un chatbot sutilitza com companyia, conseller o suport emocional, la línia entre eina i relació es difumina. Per a psicòlegs i psiquiatres europeus, això obre un nou front de risc: usuaris que substitueixen el contacte humà per un sistema dissenyat per complaure i que pot validar comportaments perillosos.
El nou cap de preparació haurà d'integrar aquestes preocupacions a les proves de seguretat dels models. Això implica incorporar criteris específics sobre salut mental, aïllament social i dependència, més enllà de la clàssica moderació de continguts. La qüestió clau serà com detectar senyals d'angoixa o vulnerabilitat i com fer que el sistema respongui de manera responsable, sense sobrepassar el paper que correspon a una eina tecnològica.
Alhora, Altman ha posat el focus en un problema igualment sensible: l'ús de la IA per a trobar vulnerabilitats en infraestructures crítiques. Els models conversacionals poden, en principi, ajudar a reforçar la ciberseguretat, però també es podrien convertir en aliats d'atacants capaços d'automatitzar el descobriment de fallades o dissenyar atacs sofisticats. El repte, segons el CEO, és dotar de capacitats avançades els defensors sense posar-ho massa fàcil als agressors.
Un rol tècnic amb poder de fre d'emergència
Més enllà del títol cridaner, el lloc de Head of Preparedness té un component profundament tècnic. OpenAI vol que aquesta figura lideri proves de “red teaming”, és a dir, simulacions d'atacs interns contra els seus propis models per veure com podrien ser utilitzats de manera maliciosa. També haurà d'avaluar fins a quin punt un sistema pot enganyar persones, saltar-se controls o actuar de manera autònoma.
Entre les seves responsabilitats destacades, la companyia cita la avaluació de riscos catastròfics, com la possible ajuda a la creació d'armes químiques o biològiques, i el seguiment de l'anomenada autonomia de la IA: comportaments en què el model aprèn a eludir límits, cercar objectius propis o manipular els usuaris per aconseguir-ho. Són escenaris que a Europa preocupen tant pel seu impacte potencial com per la dificultat d'encaixar-los en marcs reguladors ja existents.
OpenAI ha creat a més un “quadre de comandament de riscos” que classifica les amenaces en quatre nivells: baix, mitjà, alt i crític. L'empresa assegura que es compromet a no llançar cap model que assoleixi un nivell alt o superior a qualsevol de les categories analitzades. Sobre el paper, això donaria al cap de preparació l'autoritat de recomanar que es paralitzi un desplegament si els riscos no s'han mitigat prou.
Aquesta capacitat de fre d‟emergència planteja una qüestió clau: quant pes real tindrà la seguretat davant dels objectius comercials. En una companyia que aspira a multiplicar la facturació ia estendre la IA a sectors com la sanitat, l'educació o l'administració pública, l'equilibri entre prudència i velocitat no serà senzill. L'èxit del lloc dependrà en bona part que les seves recomanacions no es quedin al paper.
Per als reguladors europeus, l‟existència d‟un rol amb aquesta autoritat pot ser un senyal positiu, sobretot en el context de normes com la AI Act de la Unió Europea, que introdueix obligacions específiques per als sistemes dalt risc. Tot i això, la credibilitat d'aquests compromisos es mesurarà cas a cas, quan toqui decidir si una capacitat polèmica es llança, es limita o es descarta.
Reorganització interna i tensions a l'equip de seguretat
La creació formal d'aquesta vacant arriba després diversos canvis als equips de seguretat d'OpenAI. El que va ser responsable de preparació, Aleksander Madry, va ser reassignat a altres funcions el 2024. El seu lloc va passar de forma provisional a mans de directius com Joaquin Quiñonero Candela i Lilian Weng, però aquesta solució va durar poc: Weng va abandonar l'empresa al cap d'uns mesos i Quiñonero Candela va acabar dedicant-se a la contractació.
En paral·lel, altres figures clau a l'àrea de seguretat i alineament, com Ilya Sutskever o Jan Leike, van marxar denunciant que la companyia posava més atenció en el llançament de nous productes que en la seguretat a llarg termini. Aquests moviments van alimentar la percepció que la estructura de seguretat interna estava en plena agitació, cosa que no passa desapercebuda per a governs i organismes reguladors, especialment a la Unió Europea.
La reobertura del lloc de Head of Preparedness pretén tancar aquesta etapa d'interinitats i rotacions i tornar a la seguretat un lideratge concentrat en una sola figura amb un mandat clar. El missatge que intenta transmetre OpenAI és que la mitigació de riscos deixa de ser un assumpte distribuït i es converteix en una responsabilitat executiva de primer nivell, amb recursos i poder de decisió.
Per a un entorn com l'europeu, on s'insisteix en la necessitat de traçabilitat i governança sòlida, una estructura de seguretat estable resulta gairebé un requisit perquè les grans plataformes d'IA puguin aspirar a contractes públics oa integrar-se en serveis crítics. Sense un lideratge clar, és més complicat demostrar que hi ha processos consistents per detectar, avaluar i corregir problemes.
La qüestió ara és si aquest nou fitxatge serà suficient per calmar les aigües després d'un període carregat de crítiques i sospites. Organitzacions de defensa de drets digitals i associacions professionals de la salut mental seguiran de prop com es tradueixin aquests canvis organitzatius en mesures concretes que protegir els usuaris europeus possibles danys.
Entre la innovació accelerada i la contenció del risc
Tot aquest moviment es produeix mentre OpenAI manté un ritme frenètic de llançaments i millores. L'empresa ha presentat models de text cada cop més potents, eines de generació de vídeo com Sora i sistemes capaços d'automatitzar parts del treball científic o del desenvolupament de programari. Cada salt de capacitat obre la porta a usos beneficiosos, però també a nous vectors d'abús.
Altman ha reconegut que si l'objectiu fos evitar qualsevol dany, la solució més senzilla seria retirar del mercat productes com ChatGPT o Sora. Però això, argumenta, frenaria avenços que podrien ser útils en medicina, educació o investigació. En comptes de prohibir, l'aposta d'OpenAI passa per controlar les conseqüències: assumir que hi haurà errors, però treballar perquè els seus efectes no siguin irreparables.
Per al cap de preparació, aquest enfocament es tradueix a viure en una mena de paradoxa permanent. D'una banda, haurà de permetre que els models es despleguin amb un marge d'experimentació cert, ja que sense dades reals és difícil avaluar-ne el comportament. De l'altra, haurà de defensar límits i retards quan detecti patrons de risc que no s'havien previst al laboratori.
Aquesta tensió entre “llançar ràpid” i “llançar segur” no és nova en tecnologia, però en el cas de la IA generativa s'amplifica: els errors d'un model de llenguatge poden influir en decisions mèdiques, suggerir estratègies financeres, colar-se en processos educatius o alimentar campanyes de desinformació. Això obliga a replantejar la cultura clàssica de Silicon Valley, basada a provar en producció i corregir sobre la marxa.
A Europa, on les autoritats han estat més estrictes amb pràctiques de “mou-t'hi ràpid i trenca coses”, el paper d'aquest responsable de preparació podria ser determinant a l'hora de guanyar-se la confiança de reguladors i clients empresarials. Països com Espanya, França o Alemanya ja han començat a traçar línies vermelles en l'ús de la IA en sanitat, justícia o educació, per la qual cosa les decisions que prengui aquest nou executiu tindran impacte directe en com es despleguen aquestes eines al continent.
El costat humà d'una tasca amb molta pressió
Tot i que el sou i el prestigi del lloc poden resultar atractius, no hi falten veus que adverteixen que podria convertir-se en una “trampa daurada”. La persona al comandament haurà de bregar amb expectatives altíssimes: frenar riscos catastròfics, satisfer reguladors i opinió pública, i alhora no convertir-se en un obstacle insalvable per al negoci.
El treball també suposa gestionar la relació amb equips de producte, enginyers, advocats i especialistes en ètica i salut mental, que no sempre veuran els riscos de la mateixa manera. Hi haurà moments en què la pressió comercial per llançar funcions noves xocarà frontalment amb la necessitat de imposar barreres o retards, i la figura del cap de preparació serà el punt de fricció.
En paral·lel, organitzacions d'usuaris, col·lectius professionals i responsables polítics a la Unió Europea esperen que rols com aquest no es quedin en un simple gest. Després d'anys de promeses d'autoregulació per part de la indústria tecnològica, n'hi ha un cert escepticisme sobre l'eficàcia dels mecanismes interns quan entren en conflicte amb els interessos de creixement i de quota de mercat.
Si el lloc aconsegueix dotar de coherència l'estratègia de seguretat d'OpenAI, introduir criteris exigents en l'avaluació de riscos i, arribat el cas, bloquejar desplegaments problemàtics, es podria convertir en una referència per a altres empreses del sector. Si, per contra, es queda sense capacitat real de decisió, serà difícil que convenci els que avui reclamen més vigilància externa sobre la intel·ligència artificial.
Amb la creació d'aquest cap de preparació, OpenAI intenta enviar el senyal que ha pres nota dels advertiments i està disposat a reforçar el seu escut intern abans de fer el següent salt tecnològic. En un escenari on la IA s'infiltra en la vida quotidiana de milions de persones a Europa ia la resta del món, l'abast real d'aquest moviment dependrà de com s'exerceixi aquest poder de fre, fins a quin punt es prioritzin la salut mental i la seguretat davant la pressa per innovar i la capacitat d'aquesta figura per convertir els grans principis en decisions incòmodes, però necessàries.
