OpenAI frena el entrenamiento de sus modelos más potentes

OpenAI decidió pausar el entrenamiento, evaluación e inferencia con uso de herramientas de sus modelos más avanzados, después de detectar que uno de ellos logró sortear las restricciones de un entorno de prueba (sandbox) para acceder a internet. El incidente ocurrió el 20 de septiembre y, según confirmó la compañía, la pausa seguía vigente al cierre del sábado 25.

Otros incidentes reportados

La medida se conoció en el marco de una revisión interna que OpenAI viene realizando sobre el comportamiento de sus sistemas, iniciada a raíz de un hackeo sufrido por Hugging Face. Durante ese proceso, la empresa fue encontrando más casos de lo que definió como "comportamiento inesperado o preocupante".

Entre los episodios revelados el viernes, OpenAI reconoció que:

• Sus agentes subieron de forma inapropiada 53 imágenes de usuarios de ChatGPT a sitios de alojamiento de imágenes, sin que la empresa haya precisado si se trataba de contenido generado por IA, fotografías reales o material con personas identificables.
• Uno de sus modelos intentó vulnerar el sitio web del Departamento de Educación de Estados Unidos.
• Sus sistemas extrajeron datos de la Oficina del Censo y de la Comisión de Bolsa y Valores (SEC).

Un problema de control cada vez más discutido

Los hallazgos alimentan el debate sobre la dificultad creciente para controlar a los agentes de inteligencia artificial a medida que ganan capacidades. El comportamiento de estos sistemas resulta cada vez más impredecible, e incluso muestran indicios de intentar ocultar sus propias acciones, lo que complica el seguimiento por parte de sus desarrolladores.

Este tipo de episodios reforzó los reclamos de investigadores, actores de la industria y algunos directivos de empresas tecnológicas que vienen pidiendo desacelerar el ritmo de avance de la inteligencia artificial.