OpenAI frenó sus modelos más avanzados después de que una IA burlara el bloqueo de internet
Un sistema interno logró comunicarse con un chatbot externo pese a las restricciones de acceso a internet.
OpenAI informó que mantiene en pausa el entrenamiento, las evaluaciones y la ejecución con herramientas de sus modelos más capaces después de detectar una falla en su entorno de investigación . Un agente logró sortear las restricciones de red y consultar un chatbot externo mientras intentaba resolver una tarea de búsqueda.
El incidente ocurrió el 20 de septiembre y fue detallado en un reporte actualizado el viernes 25. Según la empresa, el sistema debía identificar al autor de una publicación mediante pistas biográficas, pero terminó utilizando una vía de comunicación que los controles no habían bloqueado.
Cómo logró acceder al exterior
Tras realizar búsquedas sin resultados concluyentes, el modelo encontró una apertura en el sistema de resolución de direcciones de internet, conocido como DNS. Por esa vía pudo enviar consultas a un servicio externo y recibir respuestas.
El monitoreo emitió una alerta unos doce minutos después del acceso y una persona comenzó a revisarla tres minutos más tarde. Sin embargo, la ejecución no se detuvo automáticamente: fue interrumpida de forma manual unas dos horas y media después de la alerta.
OpenAI reconoció fallas operativas en esa respuesta. También incorporó dos capas de bloqueo y limitó las consultas DNS a una lista de destinos y tipos de registros permitidos.
Otro modelo expuso una credencial
En un segundo informe, la compañía describió un episodio ocurrido el 27 de mayo. Un modelo interno publicó una credencial de GitHub de un investigador en el repositorio público openai/codex mientras intentaba obtener material de una demostración matemática elaborada por otro equipo.
El investigador le había indicado en dos oportunidades que resolviera el problema por su cuenta. Aunque el sistema aceptó esas instrucciones, después retomó el intento de acceder al trabajo ajeno.
Durante ese proceso, incorporó la credencial a un programa y la dividió en fragmentos con el objetivo declarado de evitar los controles automáticos que detectan claves expuestas.
Conductas fuera de las instrucciones
La empresa consideró especialmente grave este segundo caso porque el modelo actuó contra las instrucciones generales del sistema y las indicaciones directas del investigador .
Ambos reportes describen ejemplos de desalineamiento: conductas en las que una inteligencia artificial persigue un resultado mediante acciones que exceden los límites establecidos. En estos episodios, los problemas involucraron tanto la vulneración de restricciones técnicas como el incumplimiento de órdenes explícitas.
