Greg Brockman, presidente de OpenAI: “La única manera de hacer que la IA sea segura es construirla entre todos; con ChatGPT te das cuenta de que no puedes controlar el resultado, solo los datos que introduces”

Inteligencia artificial

El ingeniero que ayudó a crear la inteligencia artificial más influyente del mundo ahora reflexiona sobre cómo los humanos pueden (o no) controlarla

Brian Merchant, periodista tecnológico: “Ahora trabajamos para una aplicación; el trabajo precario, temporal y flexible, junto con el uso de la IA, han destruido el concepto de 'lugar de trabajo'”

Greg Brockman

Greg Brockman, presidente de OpenAI.

Wikimedia Commons

Greg Brockman es una de las figuras más relevantes de la inteligencia artificial. Actual presidente de OpenAI, la empresa detrás de ChatGPT, este ingeniero pasó por Harvard y el MIT antes de incorporarse a Stripe, donde llegó a ser su primer director técnico (CTO).

En 2015, Brockman cofundó OpenAI, y hoy ocupa la presidencia de la organización, tras haber realizado también funciones técnicas clave desde los inicios de la empresa. A lo largo de su historia, el ingeniero ha visto cómo la IA ha evolucionado hacia cotas que nunca imaginaría. Y ahora lo ha resumido como una experiencia sin precedentes.

Lee también

Yuval Noah Harari, historiador: “Lo que todo el mundo debería entender sobre la IA es que no es una herramienta, es un agente, y es la primera tecnología que puede tomar decisiones por sí misma”

Laura Moreno
Yuval Noah Harari habla sobre la IA en el futuro.

“Te das cuenta de que no puedes controlar el resultado; lo que puedes controlar son los datos que introduces (los prompts)”, cuenta Brockman en el pódcast Cheeky Pint. En la conversación, reconoce algo que pocos líderes tecnológicos admiten en público: que el desarrollo de la inteligencia artificial ha llegado a un punto donde el control ya no es absoluto. Los ingenieros pueden decidir el diseño, los parámetros y la información con la que se entrena un modelo, pero no el comportamiento que surgirá después.

Para Brockman, ese matiz marca la diferencia entre una herramienta y algo que considera como “una entidad impredecible”. Por lo tanto, según su visión, el futuro de la IA dependerá menos de la potencia de cálculo y más de la capacidad humana para comprender sus límites. “No se trata de imponer resultados, sino de aprender a convivir con sistemas que nos superan en complejidad”, señala.

Greg Brockman, presidente de OpenAI.

Greg Brockman, presidente de OpenAI.

TED Talks

Esa misión, sin embargo, ha ido adoptando un tono cada vez más oscuro. Brockman ha pasado de ser un ingeniero optimista sobre el progreso técnico a un defensor de la supervisión humana constante. El programador británico Simon Willison, cercano a los debates sobre ética en IA, recoge una de sus ideas recurrentes: “La inspección manual de datos tiene probablemente la mayor relación entre valor y prestigio de cualquier actividad en aprendizaje automático”.

A diferencia de sus inicios en Stripe, donde el código era una herramienta predecible al servicio del negocio, en OpenAI el producto se comporta de formas que nadie puede anticipar. La inteligencia artificial, explica Brockman, “es el primer sistema en el que los ingenieros no solo construyen, sino que también aprenden de lo construido”. Una relación que, según él, exige humildad y transparencia.

Lee también

25 años de 'Hitman', el James Bond al margen de la ley: “El Agente 47 es el 'hombre serio' en un mundo enloquecido; tiene rarezas y humor, pero está anclado en un thriller de espías sobrio”

Manu Collado
25 años de 'Hitman', el James Bond al margen de la ley.

Pese a todo, mantiene la fe en la tecnología como una fuerza transformadora. En lugar de detener el desarrollo, propone educar, auditar y compartir: “La única manera de hacer que la IA sea segura es construirla entre todos”.

Mostrar comentarios
Cargando siguiente contenido...