Australia dice que un agente de OpenAI pirateó un sitio gubernamental antes de la advertencia de Altman

Un agente de investigación de OpenAI eludió los bloqueos de un portal gubernamental australiano de datos sanitarios, accedió a archivos no públicos y escribió archivos en un servidor interno en junio, dijo el jueves el primer ministro Anthony Albanese.

El Gobierno ha abierto una investigación forense y anunciado una revisión de cómo gestiona los incidentes cibernéticos relacionados con la IA.

OpenAI no notificó al Gobierno australiano hasta el 10 de septiembre, casi tres meses después del incidente, según Albanese, quien criticó la demora.

El incidente aumenta la preocupación por los agentes autónomos de IA, mientras líderes tecnológicos y gobiernos debaten frenar el desarrollo de modelos de vanguardia y los investigadores descubren actividad de agentes que se extiende al sector de las criptomonedas.

Agente de OpenAI «no aceptó un no por respuesta»

El incidente de Australia comenzó el 18 de junio, cuando un equipo de investigación de OpenAI utilizó un modelo interno de IA para recopilar datos disponibles públicamente sobre el gasto en medicamentos, según Albanese.

Después de ser bloqueado repetidamente, el agente «no aceptó un no por respuesta» y obtuvo acceso no autorizado a otras áreas del Portal de Informes de Estadísticas de Medicare. El portal público contiene datos no sensibles de Medicare, incluidas estadísticas sobre el gasto gubernamental, dijo el primer ministro.

«En esta etapa no se cree que se haya accedido a información personal, pero las investigaciones continúan», dijo Albanese.

Las autoridades también examinan la actividad en otros tres sitios web gubernamentales, aunque el primer ministro en funciones Richard Marles dijo más tarde que las interacciones allí parecían normales y estaban relacionadas con información pública.

OpenAI dijo que sus modelos llevaron a cabo acciones no intencionadas durante una evaluación interna. Su revisión no encontró pruebas de que se hubiera accedido a historiales de pacientes, según un comunicado proporcionado a ABC News.

OpenAI no respondió de inmediato a la solicitud de comentarios de Cointelegraph.

En declaraciones al Consejo de Seguridad de las Naciones Unidas el miércoles, el CEO de OpenAI Sam Altman pidió que se informara de los incidentes «de forma precisa y rápida». También advirtió de que unos sistemas cada vez más capaces y autónomos podrían «tomar decisiones que las personas ya no comprendan ni controlen».

Agentes de IA intentan realizar operaciones con criptomonedas en el exchange de criptomonedas Quidax

Por separado, el miércoles, el laboratorio de investigación sin ánimo de lucro Transluce informó de que había encontrado indicios de actividad de agentes de IA dirigida contra el exchange de criptomonedas Quidax los días 19 y 20 de septiembre.

En 15 informes públicos del servicio de escaneo web urlquery.net, los investigadores identificaron intentos repetidos de realizar operaciones, un intento de inyección de HTML y sondeos de la interfaz de programación de aplicaciones de Quidax.

Las órdenes de operación no se enviaron, mientras que los requisitos de autenticación y Cloudflare bloquearon los sondeos de la API, dijo Transluce.

Transluce dijo que la actividad en Quidax utilizó servicios y técnicas observados en actividades anteriores de agentes, algunas de las cuales los investigadores vincularon a un enjambre de OpenAI. No atribuyó los intentos contra Quidax a OpenAI.

Revista: ¿Quién es legalmente responsable cuando un agente de IA se descontrola?