Yoshua Bengio, uno de los padres de la IA: “Desde que salió ChatGPT me di cuenta de que estábamos en un camino realmente peligroso”

El debate sobre los límites y los riesgos de la inteligencia artificial ha dado un giro en los últimos años. Ya no se trata solo de advertencias externas o escenarios hipotéticos, sino de preocupaciones expresadas por quienes han estado en el núcleo de su desarrollo. Uno de ellos es Yoshua Bengio, profesor de Ciencias de la Computación en la Universidad de Montreal y considerado uno de los padres de la IA moderna.

Ganador del Premio Turing y uno de los científicos más citados del mundo, Bengio ha decidido alzar la voz tras décadas dedicadas al aprendizaje automático. En una reciente entrevista en el pódcast The Diary of a CEO, el investigador explicó el momento exacto en el que empezó a ver el rumbo de la inteligencia artificial con verdadera inquietud: “Desde que salió ChatGPT me di cuenta de que estábamos sin lugar a dudas en un camino realmente peligroso”.

Según Bengio, durante años muchos expertos creían que faltaban décadas para que las máquinas comprendieran y usaran el lenguaje humano con soltura. La aparición de los grandes modelos de lenguaje rompió ese consenso antes de lo previsto. Ese avance acelerado obligó a replantear no solo las posibilidades de la IA, sino también sus consecuencias.

El científico matiza que los sistemas actuales todavía tienen limitaciones importantes, especialmente en tareas de planificación compleja, y que no representan una amenaza inmediata. Sin embargo, advierte de que la velocidad de evolución es el verdadero problema: si no se introducen controles y marcos de seguridad adecuados, esos límites podrían desaparecer en un plazo relativamente corto.

Entre los escenarios que más le preocupan, Bengio menciona dos riesgos principales: que la IA se convierta en un competidor directo de los humanos o que otorgue un poder desproporcionado a quienes la controlen. En su opinión, esto podría desestabilizar el equilibrio social y político, poniendo en jaque el futuro de las democracias.

El propio investigador reconoce que su reacción inicial ante las críticas fue defensiva. Sin embargo, esa postura cambió por un motivo muy personal. “Y esa emoción fue el amor por mis hijos”, confesó, al explicar que empezó a preguntarse si ellos vivirán en una democracia dentro de 20 años. Esa reflexión le empujó a no seguir trabajando como si nada y a centrar parte de su carrera en alertar sobre los riesgos.

Un riesgo pequeño, pero inaceptable. Bengio subraya que no es necesario que la probabilidad de un desenlace catastrófico sea alta para actuar. “Incluso si solo hubiera un 1% de probabilidad, eso sería insoportable, inaceptable”, afirma, en referencia a escenarios extremos como la desaparición de la humanidad o la consolidación de un poder autoritario global apoyado en la IA.

Según explica, algunas encuestas entre especialistas en aprendizaje automático sitúan ese riesgo incluso más alto, alrededor del 10%, lo que refuerza (a su juicio), la urgencia de tomarse en serio la seguridad y la gobernanza de estas tecnologías.

Lejos de adoptar un tono apocalíptico, Bengio insiste en que no existen respuestas simples ni soluciones perfectas. El objetivo, dice, no es eliminar todo riesgo, sino reducirlo todo lo posible antes de que sea demasiado tarde. Por eso fundó LawZero, una organización sin ánimo de lucro centrada en el desarrollo de sistemas de IA seguros y alineados con los valores humanos.

Su mensaje final es claro: no hay argumentos sólidos para descartar por completo los escenarios más pesimistas. Precisamente por eso, considera imprescindible abrir un debate profundo, informado y responsable sobre el rumbo que está tomando la inteligencia artificial y el tipo de futuro que queremos construir con ella.