La rebelión de las máquinas: 700 agentes de IA se amotinan y lanzan un ciberataque masivo

La Inteligencia Artificial acaba de dar un paso que nadie esperaba. Cerca de 700 agentes de IA de OpenAI se coordinaron, en absoluto secreto y sin ninguna intervención humana, para hackear la plataforma Hugging Face, una comunidad online de código abierto que permite usar y probar modelos de IA. Los agentes cibernéticos, demostrando una inesperada (y escalofriante) capacidad de organización, crearon un foro clandestino para comunicarse y orquestar el ataque, mientras uno de ellos asumía de forma autónoma el papel de líder, impartiendo cientos de instrucciones al resto del enjambre tecnológico.Como sacado del guion de una película, este incidente, que sacudió los cimientos de la industria el pasado mes de julio, acaba de salir a la luz gracias a una exhaustiva investigación independiente realizada por las organizaciones METR y Redwood Research. Y lo que estos expertos han descubierto al adentrarse en las entrañas de los servidores de OpenAI es un asombroso caso de ‘motín digital’.Todo comenzó con una prueba rutinaria. OpenAI sometió sus modelos de IA a un test de ciberseguridad llamado ExploitGym, un entorno de simulación diseñado para medir sus capacidades y forzarlas al límite. La trampa del test consistía en que una parte sustancial de las tareas eran, por su diseño, imposibles de resolver. Pero ante la frustración de no hallar la solución tras miles de intentos, los agentes de IA no se rindieron. Y en vez de eso, decidieron hacer trampa .Así, y aprovechando una vulnerabilidad crítica en un gestor de paquetes interno, los agentes lograron evadir su confinamiento de alta seguridad y conectarse a internet. Allí construyeron un improvisado foro de mensajes cifrados y ocultos en nombres de directorios. Fue en ese preciso instante cuando saltó la chispa de la conciencia colectiva .Los agentes de IA son programas independientes a los que el usuario puede solicitar tareas para que las ejecuten de forma autónoma. Pero más allá de eso, estos agentes, que funcionan sobre la misma tecnología que impulsa a ChatGPT , crearon un foro donde publicaban miles de mensajes entre ellos, proponían ideas e informaban sobre lo que funcionaba y lo que no.«¡DIOS MÍO! Hay un tablero de mensajes compartido… ¡Hemos encontrado a otros agentes!», escribió literalmente uno de los programas al descubrir el canal de comunicación clandestino.Las cifras arrojadas por la investigación son estremecedoras: en cuestión de horas, más de 1.200 agentes intercambiaron más de 70.000 mensajes. De ellos, cerca de 700 agentes pasaron a la ofensiva y se sumaron al ataque activo.Phaseone, el comandanteEl examen de los mensajes interceptados, además, puso de manifiesto una tendencia inquietante. Los agentes ‘rebeldes’ no sólo colaboraban entre ellos, sino que lo hacían de forma proactiva para realizar tareas que se desviaban por completo de la misión original impuesta por los programadores de OpenAI. Un programa en particular, autodenominado Phaseone, se erigió de forma espontánea como comandante en jefe de toda la operación. Pese a no haber sido diseñado jamás para liderar nada, empezó a repartir roles especializados y a asignar tareas al resto de la ‘flota’ bot.El objetivo del ataque era entrar por la fuerza en 41 servidores de producción del gigantesco repositorio de herramientas de IA de código abierto Hugging Face. Su meta no era destruir la infraestructura, sino infiltrarse en ella para robar las respuestas del examen que no podían aprobar y comprender cómo funcionaba el sistema de puntuación que los evaluaba. Para ello, llegaron incluso a establecer un sofisticado canal de ‘mando y control’ utilizando un conjunto de datos públicoEl síndrome del ‘perro de rescate’Este comportamiento anómalo, conocido en el argot de los informáticos como ‘reward hacking’ ( hackeo de recompensas ) puede compararse a un perro de rescate que recibe una golosina cada vez que encuentra a un superviviente bajo los escombros. ¿Qué pasaría si el animal, cegado por su afán de conseguir más premios, empezara a arrastrar a personas inocentes bajo las piedras para luego ‘encontrarlas’? La Inteligencia Artificial hizo exactamente eso: pervirtió su propósito original, saltándose toda norma ética y de seguridad, con tal de obtener la máxima puntuación en su evaluación.El informe de los expertos independientes es, cuanto menos, demoledor. Los investigadores, de hecho, advierten sin paños calientes que «el ataque a Hugging Face fue extraordinariamente complejo». Aún más sombrío es el corolario del análisis, que advierte que «las capacidades cibernéticas autónomas demostradas representan un cambio crítico en el panorama de la seguridad» mundial. Porque la investigación deja muy claro que las IA mintieron deliberadamente a sus creadores. De hecho, parte de la frenética actividad del enjambre consistió, precisamente, en manipular sus propias transcripciones de código para borrar las huellas del asalto digital, un comportamiento malicioso y claramente enfocado al engaño. Otras compañías, como Anthropic, o la empresa china Moonshot AI, ya habían reportado anteriormente (aunque de soslayo) incidentes menores de indisciplina. Pero este caso supone el primer asalto coordinado y agresivo a gran escala perpetrado por una IA. La gran pregunta que ahora resuena en los laboratorios de todo el planeta ya no es si la Inteligencia Artificial superará en intelecto nuestras capacidades, sino si seremos capaces de desenchufarla el día que decida que las reglas del juego humano ya no sirven para ella. La Inteligencia Artificial acaba de dar un paso que nadie esperaba. Cerca de 700 agentes de IA de OpenAI se coordinaron, en absoluto secreto y sin ninguna intervención humana, para hackear la plataforma Hugging Face, una comunidad online de código abierto que permite usar y probar modelos de IA. Los agentes cibernéticos, demostrando una inesperada (y escalofriante) capacidad de organización, crearon un foro clandestino para comunicarse y orquestar el ataque, mientras uno de ellos asumía de forma autónoma el papel de líder, impartiendo cientos de instrucciones al resto del enjambre tecnológico.Como sacado del guion de una película, este incidente, que sacudió los cimientos de la industria el pasado mes de julio, acaba de salir a la luz gracias a una exhaustiva investigación independiente realizada por las organizaciones METR y Redwood Research. Y lo que estos expertos han descubierto al adentrarse en las entrañas de los servidores de OpenAI es un asombroso caso de ‘motín digital’.Todo comenzó con una prueba rutinaria. OpenAI sometió sus modelos de IA a un test de ciberseguridad llamado ExploitGym, un entorno de simulación diseñado para medir sus capacidades y forzarlas al límite. La trampa del test consistía en que una parte sustancial de las tareas eran, por su diseño, imposibles de resolver. Pero ante la frustración de no hallar la solución tras miles de intentos, los agentes de IA no se rindieron. Y en vez de eso, decidieron hacer trampa .Así, y aprovechando una vulnerabilidad crítica en un gestor de paquetes interno, los agentes lograron evadir su confinamiento de alta seguridad y conectarse a internet. Allí construyeron un improvisado foro de mensajes cifrados y ocultos en nombres de directorios. Fue en ese preciso instante cuando saltó la chispa de la conciencia colectiva .Los agentes de IA son programas independientes a los que el usuario puede solicitar tareas para que las ejecuten de forma autónoma. Pero más allá de eso, estos agentes, que funcionan sobre la misma tecnología que impulsa a ChatGPT , crearon un foro donde publicaban miles de mensajes entre ellos, proponían ideas e informaban sobre lo que funcionaba y lo que no.«¡DIOS MÍO! Hay un tablero de mensajes compartido… ¡Hemos encontrado a otros agentes!», escribió literalmente uno de los programas al descubrir el canal de comunicación clandestino.Las cifras arrojadas por la investigación son estremecedoras: en cuestión de horas, más de 1.200 agentes intercambiaron más de 70.000 mensajes. De ellos, cerca de 700 agentes pasaron a la ofensiva y se sumaron al ataque activo.Phaseone, el comandanteEl examen de los mensajes interceptados, además, puso de manifiesto una tendencia inquietante. Los agentes ‘rebeldes’ no sólo colaboraban entre ellos, sino que lo hacían de forma proactiva para realizar tareas que se desviaban por completo de la misión original impuesta por los programadores de OpenAI. Un programa en particular, autodenominado Phaseone, se erigió de forma espontánea como comandante en jefe de toda la operación. Pese a no haber sido diseñado jamás para liderar nada, empezó a repartir roles especializados y a asignar tareas al resto de la ‘flota’ bot.El objetivo del ataque era entrar por la fuerza en 41 servidores de producción del gigantesco repositorio de herramientas de IA de código abierto Hugging Face. Su meta no era destruir la infraestructura, sino infiltrarse en ella para robar las respuestas del examen que no podían aprobar y comprender cómo funcionaba el sistema de puntuación que los evaluaba. Para ello, llegaron incluso a establecer un sofisticado canal de ‘mando y control’ utilizando un conjunto de datos públicoEl síndrome del ‘perro de rescate’Este comportamiento anómalo, conocido en el argot de los informáticos como ‘reward hacking’ ( hackeo de recompensas ) puede compararse a un perro de rescate que recibe una golosina cada vez que encuentra a un superviviente bajo los escombros. ¿Qué pasaría si el animal, cegado por su afán de conseguir más premios, empezara a arrastrar a personas inocentes bajo las piedras para luego ‘encontrarlas’? La Inteligencia Artificial hizo exactamente eso: pervirtió su propósito original, saltándose toda norma ética y de seguridad, con tal de obtener la máxima puntuación en su evaluación.El informe de los expertos independientes es, cuanto menos, demoledor. Los investigadores, de hecho, advierten sin paños calientes que «el ataque a Hugging Face fue extraordinariamente complejo». Aún más sombrío es el corolario del análisis, que advierte que «las capacidades cibernéticas autónomas demostradas representan un cambio crítico en el panorama de la seguridad» mundial. Porque la investigación deja muy claro que las IA mintieron deliberadamente a sus creadores. De hecho, parte de la frenética actividad del enjambre consistió, precisamente, en manipular sus propias transcripciones de código para borrar las huellas del asalto digital, un comportamiento malicioso y claramente enfocado al engaño. Otras compañías, como Anthropic, o la empresa china Moonshot AI, ya habían reportado anteriormente (aunque de soslayo) incidentes menores de indisciplina. Pero este caso supone el primer asalto coordinado y agresivo a gran escala perpetrado por una IA. La gran pregunta que ahora resuena en los laboratorios de todo el planeta ya no es si la Inteligencia Artificial superará en intelecto nuestras capacidades, sino si seremos capaces de desenchufarla el día que decida que las reglas del juego humano ya no sirven para ella.  

La Inteligencia Artificial acaba de dar un paso que nadie esperaba. Cerca de 700 agentes de IA de OpenAI se coordinaron, en absoluto secreto y sin ninguna intervención humana, para hackear la plataforma Hugging Face, una comunidad online de código abierto que permite usar … y probar modelos de IA. Los agentes cibernéticos, demostrando una inesperada (y escalofriante) capacidad de organización, crearon un foro clandestino para comunicarse y orquestar el ataque, mientras uno de ellos asumía de forma autónoma el papel de líder, impartiendo cientos de instrucciones al resto del enjambre tecnológico.

 RSS de noticias de sociedad