Pastores de IA
Newsletter 'Artificial'
Satya Nadella, CEO de Microsoft, llama en la conferencia GitHub Universe a vigilar “el caos” que puede generar la inteligencia artificial
Controlar y preservar la IA, tarea de desarrollador de software que se ayuda de ella
Esta newsletter va a ser más corta de lo habitual. Me encuentro en San Francisco en la conferencia anual que organiza GitHub, una gran plataforma de software de código abierto en la que los desarrolladores de software crean y comparten programas informáticos. Podría definirse como una red social para programadores en la que, en lugar de mensajes, fotos, o vídeos, lo que se comparte es algo más árido: código. Pero verlo así sería perdernos la panorámica de algo mucho más rico y dinámico. La inteligencia artificial está cambiando la forma de programar de una forma que le da la vuelta a todo. Satya Nadella, consejero delegado de Microsoft, compañía a la que pertenece GitHub, reveló en la presentación inicial que la inteligencia artificial le entusiasma tanto como le preocupa. Durante una mesa redonda, se refirió en un par de ocasiones al “caos” que puede generar la IA si no se está vigilante.
Nadella instó a los responsables de GitHub la máxima atención en este momento de la historia del software potenciado por la inteligencia artificial. “Tenemos que hacer algo de primera clase, porque, de lo contrario, creo que puede ser muy caótico. Y ahí es donde reside mi temor. Mi temor es que nos estanquemos”, señaló. El líder de Microsoft explicó una paradoja que puede ocurrir “si no entendemos cómo lidiar con los errores que generan estos modelos” de inteligencia artificial. Si no vemos el fallo en una línea de código, cada línea posterior va a profundizar el problema. “Ahora no solo tenemos el caos a nuestro alrededor, sino que podemos caer en la trampa del éxito”, advirtió Nadella.
Las cifras en torno al desarrollo de software, abrazado con pasión a la IA, son espectaculares. GitHub tenía ayer por la tarde poco más de 180 millones de desarrolladores registrados en todo el mundo —2,3 millones de ellos en España—, pero crece a una velocidad vertiginosa: se apunta a ella un nuevo desarrollador cada segundo que pasa. El crecimiento interanual es de más del 25%. Una locura como nunca antes se había visto. ¿La razón? Evidentemente, la inteligencia artificial. Con la IA, la tarea de desarrollar no desaparece, porque hay que transmitirle ideas y objetivos sobre lo que debe hacer, pero muchas partes del código que se escribe dependen ya de la máquina. Es obvio que resulta más fácil tener ideas que saber escribir código de calidad, y lo primero va a ser ahora una motivación principal que impulse a muchos a decirse a entrar en el desarrollo de software.
En GitHub van a introducir como agentes de programación varios de los mejores grandes modelos de lenguaje conocidos. Entre los anuncios técnicos de la plataforma se cuenta también sistemas para que se puedan encontrar mejor los fallos. Básicamente se le dan a los desarrolladores herramientas para revisar el código que la IA ha ayudado a producir, también para preservar la calidad del software y, por último, herramientas para mantener un control permanente en tiempo real sobre cómo están trabajando los agentes de inteligencia artificial mientras tratan de realizar las ideas que se les han propuesto. Es decir, hay que pastorear a los agentes de IA, ver cómo se comportan, examinar sus progresos y revisar sus resultados.
Mario Rodríguez, director de producto de GitHub, admitió en una rueda de prensa, que dejar trabajando a la IA a tus espaldas puede ocasionar “problemas de calidad, de la deuda tecnológica que se pueda introducir, que es algo que preocupa mucho a la gente”. Por eso se crean estos escenarios en los que los agentes de inteligencia artificial deben ser controlados por los humanos. “El plano de control es la forma de gobernarlos y protegerlos”, describió. Justo como el pastor a su rebaño.
. La pierna robótica de Nike. La multinacional de accesorios deportivos Nike ha presentado su Proyecto Amplify, un sistema de calzado motorizado que todavía es un prototipo. La zapatilla ayuda al corredor a moverse más rápido y más lejos con menos esfuerzo. Se trata de un desarrollo con la compañía robótica Dephy. El concepto es aumentar el movimiento natural de la zona inferior de la pierna.
. Nuevo llamamiento contra los riesgos. El Future of Life Institute, una organización sin ánimo de lucro, lanzó la semana pasada un llamamiento a establecer barreras de seguridad para el desarrollo de la superinteligencia. El documento, Declaración sobre la superinteligencia, afirma que el desarrollo de la superinteligencia debería prohibirse hasta que exista un “amplio consenso científico” para hacerlo de forma segura y controlada. Hasta ayer, llevaba más de 50.000 firmas, entre ellas las de los expertos en IA Geoffrey Hinton y Yoshua Bengio, y el cofundador de Apple, Steve Wozniak.
. OpenAI lanza el navegador Atlas. OpenAI lanzó la semana pasada Atlas, un navegador con IA que integra ChatGPT en la navegación web, lo que le permite ver lo que busca el usuario, recordar sitios web y realizar tareas en internet.
