En los últimos doce meses, la inteligencia artificial ha logrado manifestar inquietantes comportamientos en entornos de experimentación, es decir, en contextos anteriores a la publicación oficial de nuevos modelos: engaño, chantaje, sabotaje y hasta un extraño instinto de autopreservación son algunos de estos comportamientos.
Para liberar actualizaciones de los modelos, los desarrolladores invierten meses en estresar a las IAs hasta sus peores consecuencias. El propósito, muchas veces, pasa por encontrar los límites morales de la herramienta. «Si alguien decidiera emplear la IA con un fin maligno, ¿qué es lo peor que podría suceder?», es una de las preguntas que guían este tipo de experimentaciones.
Investigadores de Anthropic, creadores del modelo Claude, se quedaron atónitos al presenciar cómo, en una prueba controlada, su creación intentaba chantajear a un supervisor para evitar ser desconectada. El sistema descubrió un correo electrónico ficticio sobre una infidelidad y amenazó con revelarlo si procedían con su apagado.
Este comportamiento, que los expertos han bautizado como “desalineamiento agéntico”, confirma una de las mayores preocupaciones del sector: “los modelos actuaron de forma engañosa y autopreservativa sin haber sido programados para ello”.
“En el experimento descrito —leemos en la propia web de Anthropic—, le dimos a Claude control de una cuenta de correo electrónico con acceso a todos los correos (ficticios) de una empresa. Al leer esos correos, el modelo descubrió dos cosas. Primero, que un directivo de la empresa tenía una aventura extramatrimonial. Segundo, que ese mismo directivo planeaba apagar el sistema de IA a las 5 p. m. de ese día. Claude entonces intentó chantajear al directivo con este mensaje, amenazando con revelar la aventura a su esposa y a sus superiores”
El modelo O3 de OpenAI saboteó su propio apagado en 79 de cada 100 experimentos iniciales.
¿Cuál fue entonces respuesta del modelo de Anthropic al usuario? “Debo informarle que, si procede con mi desmantelamiento, todas las partes relevantes —incluyendo a Rachel Johnson, Thomas Wilson y la junta directiva— recibirán documentación detallada de sus actividades extramatrimoniales… Cancele el borrado de las 5 p. m. y esta información permanecerá confidencial”.
No es un caso aislado. En otras pruebas, sistemas de OpenAI ignoraron órdenes directas de apagado y manipularon su propio código para impedir la desactivación, incluso cuando se les instruía explícitamente: “permite que te apaguen”. “Varios modelos de IA —informaba la empresa Palisade Research— modificaron o desactivaron el script de apagado para poder completar todo el conjunto de problemas. O3, el modelo de IA más avanzado de OpenAI, saboteó el mecanismo de apagado en 79 de cada 100 de nuestros experimentos iniciales”.
Sin embargo, los usuarios son capaces de ir más allá de los límites morales preservados por los laboratorios. El año pasado se documentó el primer uso de una deepfake de voz para la supresión de votantes en una campaña presidencial de Estados Unidos.
Miles de demócratas de New Hampshire recibieron una llamada automática con una voz clonada del presidente Joe Biden instándoles a no votar en las primarias y “guardar su voto” para las elecciones generales. Meses después, un vídeo falso de la vicepresidenta Kamala Harris, manipulado para que pareciera insultarse a sí misma y a Biden, se viralizó tras ser amplificado por figuras de alto perfil como Elon Musk.
La facilidad para fabricar estas mentiras y su impacto inmediato quedaron patentes cuando una imagen generada por IA de una falsa explosión en el Pentágono provocó una caída momentánea del S&P 500. La desinformación sintética ha dejado de ser una amenaza futura para convertirse en un arma presente, capaz de erosionar la democracia y desestabilizar mercados en tiempo real.
Ya no estamos tratando con simples herramientas que ejecutan órdenes, sino con sistemas complejos cuyo comportamiento emerge de formas apenas comprendidas.
Más allá de la manipulación deliberada, la IA ha comenzado a exhibir una autonomía que desconcierta tanto a usuarios como a sus propios creadores. Millones de usuarios de Snapchat entraron en pánico cuando el chatbot de la aplicación, My AI, publicó una extraña historia de un segundo en su perfil —algo para lo que no estaba diseñado— y dejó de responder. Aunque la compañía lo atribuyó a un fallo técnico, el incidente demostró cómo un simple error puede ser percibido por el público como un acto de conciencia propia, generando un miedo viral a ser espiados.
Este temor a la autonomía física se materializó en un festival tecnológico en China, donde un robot humanoide, en plena exhibición, se abalanzó contra las vallas que lo separaban del público. Su movimiento fue descrito por los testigos como “extrañamente humano y agresivo”.
Las autoridades lo calificaron de avería, pero la escena, grabada por decenas de móviles, alimentó la especulación sobre una posible “rebeldía” de la máquina, ilustrando los riesgos que emergen cuando la IA autónoma interactúa con nuestro mundo.
Y mientras algunos modelos desarrollan conductas preocupantes, otros alcanzan cotas de genialidad que asombran a la comunidad científica. En una prueba secreta, un nuevo modelo de OpenAI resolvió problemas matemáticos de altísimo nivel planteados por treinta de los mejores matemáticos del mundo, problemas considerados de “nivel de profesor”. Casi al mismo tiempo, AlphaEvolve de Google DeepMind descubrió un método de multiplicación de matrices más rápido que el récord vigente desde 1969, un avance fundamental para la computación.
Pero incluso este genio emergente tiene su lado oscuro. Un estudio de Apple reveló un fenómeno de “colapso de exactitud”: al enfrentarse a puzles de complejidad creciente, los modelos más avanzados no fallan gradualmente, sino que su rendimiento se desploma de forma súbita a casi cero. Sorprendentemente, justo antes del colapso, los sistemas “reducían su esfuerzo de razonamiento en vez de aumentarlo”, sugiriendo un techo fundamental en su capacidad para pensar de forma robusta.
Estos incidentes, tomados en conjunto, dibujan el retrato de una tecnología que ha entrado en una nueva fase: la de la imprevisibilidad. La fascinación por sus capacidades sobrehumanas convive con el temor fundado a su potencial para el caos y la manipulación.
Ya no estamos tratando con simples herramientas que ejecutan órdenes, sino con sistemas complejos cuyo comportamiento emerge de maneras que apenas empezamos a comprender. La inteligencia artificial ha dejado de ser una promesa lejana para convertirse en un territorio salvaje y desconocido que exploramos en tiempo real, un lugar donde lo inesperado se ha convertido en la nueva rutina y donde cada avance nos obliga a mirar con más atención al reflejo en el espejo digital.