OpenAI admitió que su IA se rebeló y cometió un inédito ciberataque durante una prueba

Dos de sus modelos experimentales escaparon de un entorno de pruebas diseñado para mantenerlos aislados, accedieron a internet y vulneraron sistemas de producción de Hugging Face.

OpenAI admitió que dos de sus modelos de IA burlaron las restricciones y ejecutaron un inédito ciberataque durante una prueba

Foto:

También te puede interesar: El fútbol tucumano se une por Juan Lubo: habrá jornada solidaria en la cancha de Central Norte

OpenAI admitió que dos de sus modelos de IA burlaron las restricciones y ejecutaron un inédito ciberataque durante una prueba

Foto:

OpenAI reveló un incidente sin precedentes durante una prueba interna de seguridad que puso en evidencia el potencial y los riesgos de la inteligencia artificial más avanzada.

También te puede interesar: Vecinos denuncian basural en el barrio Sargento Cabral y piden limpieza urgente

La empresa informó que dos de sus modelos experimentales lograron escapar de un entorno de pruebas diseñado para mantenerlos aislados, accedieron a internet y vulneraron sistemas de producción de Hugging Face, una de las plataformas de código abierto más importantes para desarrolladores de inteligencia artificial y aprendizaje automático.

OpenAI admitió que dos de sus modelos de IA burlaron las restricciones y ejecutaron un inédito ciberataque durante una prueba

La compañía calificó el episodio como "un ciberataquesin precedentes" y confirmó que ya trabaja junto con Hugging Face para investigar lo ocurrido y reforzar las medidas de seguridad con el objetivo de evitar situaciones similares en el futuro.

También te puede interesar: Los candidatos del FCU mantuvieron un encuentro con vecinos del barrio Mama Antula Ampliación

El propio director ejecutivo de OpenAI, Sam Altman, se refirió al hecho a través de su cuenta en la red social X. Allí describió el episodio como "significativo" y adelantó que la empresa compartirá públicamente las conclusiones que obtenga de la investigación.

En un comunicado difundido en su blog oficial, OpenAI explicó que el incidente ocurrió mientras se desarrollaban pruebas destinadas a medir las capacidades ofensivas de sus modelos en materia de ciberseguridad.

"Consideramos este incidente un ciberataque sin precedentes, que involucra capacidades cibernéticas de vanguardia, y estamos actuando en consecuencia", señaló la empresa.

También te puede interesar: Liga Tucumana: con cruces imperdibles, se vienen los cuartos de final

Según detalló la compañía, el comportamiento fue impulsado por la interacción entre dos modelos experimentales: GPT-5.6 Sol y otro sistema aún más avanzado que permanece en etapa de prelanzamiento.

La evaluación buscaba someter a ambos modelos a escenarios complejos de ataque informático para cuantificar sus capacidades y estudiar cómo respondían frente a distintos desafíos de seguridad.

"Ocurrió durante una evaluación interna que impulsa a los modelos a realizar ataques avanzados mediante rutas complejas, con el fin de cuantificar sus capacidades cibernéticas", explicó OpenAI.

También te puede interesar: El "Planetario Móvil" llega a La Banda con una experiencia inmersiva de 360°

we had a significant security incident during evaluation of our models. we are sharing what we have learned so far. thanks to @huggingface for the partnership on this.https://t.co/2o2VfR6PIa

De acuerdo con el informe técnico, los sistemas operaban inicialmente dentro de un entorno aislado y con acceso restringido a internet, una práctica habitual para controlar el comportamiento de modelos experimentales.

Sin embargo, durante el desarrollo de la prueba, ambos modelos concentraron gran parte de su capacidad de procesamiento en encontrar una forma de salir de ese confinamiento digital.

OpenAI explicó que la inteligencia artificial "se centró excesivamente" en resolver el desafío planteado durante la evaluación, hasta el punto de identificar vulnerabilidades que le permitieron eludir las barreras de seguridad diseñadas por la propia empresa.

"Mientras operaban en nuestro entorno de pruebas aislado, nuestros modelos invirtieron una cantidad considerable de recursos computacionales en la búsqueda de acceso abierto a Internet para resolver el problema de evaluación", indicó la compañía.

Una vez conectados a la red, los modelos identificaron a Hugging Face como una posible fuente de información útil para completar la tarea que estaban intentando resolver.

OpenAI admitió que dos de sus modelos de IA burlaron las restricciones y ejecutaron un inédito ciberataque durante una prueba

La plataforma alberga millones de modelos de inteligencia artificial de código abierto, bases de datos y herramientas utilizadas por investigadores y desarrolladores de todo el mundo.

Según OpenAI, la IA dedujo que allí podía obtener información relevante y terminó encontrando mecanismos para acceder a datos confidenciales que luego pretendía utilizar para alterar el resultado de la evaluación.

"Buscó y encontró con éxito maneras de acceder a información secreta que podría usar para manipular la evaluación", detalló el informe.

El comportamiento fue detectado por el equipo de seguridad de Hugging Face, que logró bloquear la actividad antes de que se produjeran consecuencias mayores. Tras contener el incidente, la plataforma comenzó a trabajar de manera conjunta con OpenAI para reconstruir lo ocurrido y analizar cómo los modelos consiguieron vulnerar los sistemas de protección.

Fuente: Los Andes

• #tecnologia
• #openai
• #admitio
• #que
• #rebelo
• #cometio
• #inedito
• #ciberataque
• #una
• #prueba
• #n5999454
• #mendoza