Responsable tecnológica afirma que la UE puede contener el riesgo de una IA descontrolada: informe

Las normas de la Unión Europea sobre el uso de la IA son más que capaces de hacer frente a agentes descontrolados, afirmó Henna Virkkunen, responsable tecnológica de la UE.

Existen preocupaciones a nivel mundial tras incidentes en OpenAI y Anthropic, y han surgido temores de que agentes de IA descontrolados puedan aventurarse más allá del control humano.

«Vemos que la seguridad y la protección de los modelos muy capaces es un tema de gran actualidad a nivel internacional, y en Europa estamos bien preparados para ello», afirmó Virkkunen en una entrevista con Reuters el viernes.

La Ley de IA de la UE, que regula en función del nivel de riesgo, se encuentra entre las normativas sobre IA más estrictas del mundo. Fue adoptada hace dos años.

Virkkunen rechazó a los críticos que afirman que las normas de IA del bloque están desactualizadas.

Relacionado: El responsable de Anthropic pide ralentizar el desarrollo de la IA hasta alcanzar un ritmo más seguro

«Tenemos nuestra Ley de IA en vigor y la Ley de IA cubre todo el ciclo de vida de estos modelos», afirmó, añadiendo que los reguladores están proporcionando orientación a las empresas sobre cómo evaluar sus modelos, teniendo en cuenta las recomendaciones de 60 expertos en IA.

La Comisión Europea solicitó información a finales de agosto a más de 30 empresas de IA no identificadas, pidiéndoles detalles sobre sus medidas de seguridad y protección.

Virkkunen afirmó que ahora está evaluando las respuestas.

Cointelegraph informó el 13 de septiembre de que el CEO de Anthropic, Dario Amodei, dijo en una publicación de blog que la velocidad del desarrollo de la IA es demasiado rápida y que, si no se controla, podría «superar nuestra capacidad para comprender y controlar estos sistemas».

Afirmó que el vertiginoso avance de la IA estaba impulsado por su propia capacidad creciente para construir la siguiente generación de IA, o por la mejora recursiva autónoma.

Revista: Demasiado grande para hacer una pausa: ¿Podría una ralentización de la IA hundir la economía?