Algo raro sucede con la IA: Las empresas que la desarrollan nos dicen que nos va a aniquilar y no pasa nada. En cambio, la frutera de mi barrio debe andarse con cuidado: si sus aguacates estuvieran envenenados y causaran la muerte al vecindario, lo más probable es que acabara en la cárcel.Supongo que la amenaza de prisión resulta poco disuasoria para los magnates tecnológicos ya que, si morimos todos, ¿quién los juzgaría? Se trata de apostar a lo grande, como ha descrito la semana pasada Jacob Coxon, un empleado de Anthropic que dimitió denunciando: “Están apostando con nuestras vidas”. Poco después terció el CEO de la misma empresa, Dario Amodei, con un ensayito en el que plantea una hoja de ruta para darle un ritmo más seguro a la IA. Sus rivales Elon Musk y Sam Altman lo suscribieron enseguida.
Albricias, los magnates tecnológicos empiezan a preocuparse por las consecuencias de sus actos. Amodei pide tres cosas en su ensayo: uno, normas de seguridad comunes para las compañías de IA en EE UU y límites a la velocidad de su desarrollo; dos, cooperación con terceros países, especialmente China. Y tres, implantar evaluadores externos dentro de las compañías, para controlarlas.
Hace décadas dijo el filósofo Günther Anders que sólo podríamos seguir siendo dueños de nuestro destino “si nos acostumbramos a esta nueva forma de acción moral consistente en mirar en el corazón de los aparatos”. Quienes ven ese corazón están aterrorizados. Pero sus gritos tienen algo de delirio, como si mi frutera se agitara enloquecida clamando: “¡Átenme las manos o seguiré vendiendo aguacates letales! ¡Pongan un policía de la fruta en mi local para que me vigile! ¡Y hagan de una vez normas que garanticen que mis aguacates no matan!”
Los magnates de la IA quieren controlarla, pero sin dejar de ser ellos quienes indiquen cómo hacerlo. ¿Por qué no? Hasta ahora todos nos hemos sujetado a un diseño y unas normas de seguridad de la IA que ellos han establecido, pese a que nadie los ha votado.
En los últimos 20 años el mundo digital ha nacido y se ha desarrollado en la desregulación. Basta ver el caso de Uber. Llegó a las ciudades, ofreció taxis y repartidores de comida ilegales y no pasó nada: lo digital tiene ese marchamo de salvaje oeste. Y logros estupendos, como la uberización del empleo o la degradación de las democracias con desinformación a gran escala.
No pareciendo suficientes estos hitos, la IA camina triunfante hacia nuestra aniquilación. ¿Cómo lo haría? El mayor riesgo son las armas biológicas. Los mismos sistemas de IA que contribuyen a la investigación biológica de enfermedades se pueden emplear con malas intenciones. Por otro lado, los sistemas de IA forman parte de infraestructuras críticas: en países como EE UU, relevantes organismos gubernamentales y de la Defensa funcionan con agentes de IA que toman decisiones de forma autónoma. Bien podrían un día equivocarse y causar estragos. Y si superaran a sus creadores humanos —cosa que parece muy posible— podrían no querer ser apagados y provocar aún más estragos.
Creo como el científico Gary Marcus que la IA no nos va a aniquilar. Lo importante es que esta narrativa de extinción no nos impida ver riesgos reales y prosaicos, derivados de algo muy sencillo de comprender: anda suelto un producto averiado, poco fiable y cada vez más incomprensible para sus diseñadores, algo así como un aguacate letal gigantesco. Para disminuir esas amenazas existen instrumentos asombrosamente eficaces: las leyes. Hay que regular en cada país y a la vez establecer una gobernanza global.
La carrera entre distintas empresas de IA por lograr la Inteligencia Artificial General (AGI) les ha impedido frenarse, pero el consenso del fin de semana me hace albergar esperanzas. Si los demócratas logran la mayoría en el Congreso en las elecciones de noviembre quizá se apruebe por fin regulación en EE UU, pues líderes dispares como el expresidente Barack Obama y el senador Bernie Sanders abogan por ello con claridad.
El segundo gran obstáculo es la competición entre EE UU y China. Mientras jugaba al golf este fin de semana Donald Trump ha insistido: “Quien gane la IA, gana”; y no quiere que lo haga su gran rival geopolítico. Vale, pero no parece lógico que el resto permitamos que la IA se estrelle contra nosotros porque dos no han querido pausarla. Hay que apostar por ese acuerdo bilateral y al tiempo impulsar un sistema de gobernanza internacional, con una agencia de la ONU inspirada en la agencia internacional de la energía atómica (OIEA), pero más dinámica y abierta. La UE prestaría un gran servicio a la humanidad y volvería a encontrar su brújula y su sentido.
Los humanos de a pie veríamos restablecida la coherencia elemental. Mi frutera sabe que sus aguacates no son letales sólo con olerlos. Las máquinas no huelen, por eso los magnates de la IA se han desorientado y nos han desorientado a todos. Se trata de evitar que la elite tecnológica siga usando a toda la humanidad como cobayas. Sí, hay que atarles las manos, al menos como a los fruteros.
Ees escritora. Su último libro es Contra la bazofia digital, un alegato urgente por la inteligencia humana… (Península, 2026).
