← Noticias  ·  14 de septiembre de 2026

Los que hacen la IA avisan del riesgo: y por qué no es el riesgo de tu pyme

El 8 de septiembre, Jacob Coxon dimitió como investigador de pretraining —había pasado por OpenAI y por Anthropic— y fue a tres cadenas de televisión de Estados Unidos a decir que la inteligencia artificial podría acabar con la humanidad antes de 2030. Un día después, Evan Hubinger, responsable de Alignment Science dentro de Anthropic, puso una cifra sobre la mesa: una probabilidad superior al 10% de extinción humana por IA en la próxima década. No es un titular prestado de ciencia ficción. Es gente que lleva años construyendo estos modelos. Y precisamente por eso merece la pena mirar con calma de qué están hablando — y de qué no.

Dos avisos que vienen de dentro, no de fuera

Coxon matizó su propio mensaje pocos días después: los modelos actuales, dijo, «no representan un riesgo significativo». El peligro que le preocupa empieza en otro punto: que una IA logre mejorarse a sí misma sin supervisión humana, en una espiral de auto-mejora que acabe en una superinteligencia que ya no dependa de nosotros para avanzar. Hubinger va en la misma línea: el problema, dice, no es lo que hay hoy, es que la industria todavía no tiene resuelto cómo alinear los objetivos de una superinteligencia futura con los intereses humanos.

El debate ha corrido esta semana por medios generalistas —El Espectador, Infobae, El Tiempo, entre otros— con titulares del tipo «¿puede la IA aniquilar a la humanidad?». Y es verdad que la advertencia es seria: no la firma un influencer buscando visitas, la firma alguien que dirige el equipo de seguridad de una de las dos empresas que hacen los modelos más avanzados del mundo.

Una palabra, dos categorías de sistema distintas

Aquí es donde la prensa generalista mezcla cosas que no son lo mismo. El riesgo del que hablan Coxon y Hubinger es sobre un sistema hipotético y futuro que se automejora sin que nadie lo supervise. Las herramientas de IA que usa hoy una empresa son otra categoría de sistema, no un grado más avanzado del mismo:

• Un chatbot que responde en la web hace lo que se le programó que hiciera, con un alcance definido y revisable.
• Un agente que clasifica facturas o correo ejecuta reglas y modelos entrenados para una tarea concreta, no decide por su cuenta ampliar su propio alcance.
• Un buscador con IA sobre el archivo de la empresa devuelve lo que ya está escrito en los documentos de esa empresa, no genera objetivos nuevos.

Ninguno de los tres se mejora a sí mismo sin que una persona lo revise, lo despliegue y pueda apagarlo. Esa es exactamente la frontera de la que hablan Coxon y Hubinger, y hoy está muy lejos de cualquier cosa que se venda a una pyme.

Lo que sí te toca hoy — y no es la extinción

Que el riesgo de la superinteligencia sea, por ahora, ajeno a una empresa pequeña no quiere decir que no haya nada que gestionar. Lo que le toca hoy a una pyme que usa IA es más terrenal y mucho más cercano:

• Quién es dueño de los datos que le entrega a la IA que usa: facturas, correos, historiales de clientes.
• Qué pasa si el proveedor cambia las condiciones o cierra el servicio del que depende sin avisar con margen suficiente.
• No delegar sin supervisión humana lo que decide sobre personas: crédito, contratación, salud.

Es la misma idea de fondo que el «alineamiento» del que habla Hubinger, pero a la escala de una empresa de ocho personas — y aquí ya tiene nombre y obligación legal: el artículo 50 del AI Act, que ya cubrimos en detalle en el artículo del 7 de septiembre. No repetimos aquí sus plazos ni sus sanciones; basta con quedarse con la idea: la supervisión humana no es un principio abstracto de laboratorio, es una obligación que ya está en vigor.

Lo que no vamos a hacer

Vivimos de vender adopción de IA a pymes, así que nuestra credibilidad no está en minimizar esta alarma — viene de gente que sabe de lo que habla — ni en subirnos a ella para generar clics. Está en decir con claridad qué de todo esto se aplica a lo que hacemos: nada, todavía. Y qué sí importa ya, hoy, en cualquier proyecto que montamos: gobernanza de los datos, supervisión humana en lo que afecta a personas y no quedar atado a un solo proveedor. Eso se enseña mejor viendo cómo trabaja de verdad un agente concreto que leyendo un titular sobre el fin de la humanidad.

Ver cómo trabajan los agentes de IA →

Este artículo recoge declaraciones públicas de Jacob Coxon y Evan Hubinger recogidas por medios de comunicación entre el 8 y el 9 de septiembre de 2026, y no es un análisis técnico de seguridad en IA. No incluye ninguna cifra ni dato distinto de los declarados por ambos.

Fuentes: Declaraciones de Jacob Coxon, ex-investigador de pretraining en OpenAI y Anthropic, en cadenas de televisión de EE.UU. tras su dimisión el 8 de septiembre de 2026, con matización posterior sobre el riesgo de los modelos actuales · Declaraciones de Evan Hubinger, responsable de Alignment Science en Anthropic, del 9 de septiembre de 2026 · Cobertura del debate en medios generalistas en español (El Espectador, Infobae, El Tiempo) durante la semana del 8 al 13 de septiembre de 2026.