
El rey Carlos acogerá a líderes de la IA en medio del llamado de la industria a ralentizar el desarrollo
La reunión se celebra días después de que Dario Amodei y Sam Altman pidieran una mayor moderación en la frontera de la IA, advirtiendo que los sistemas que mejoran rápidamente podrían plantear riesgos cada vez más difíciles de controlar.

Los líderes de las empresas de IA más poderosas del mundo se reunirán en Escocia esta semana en una cumbre organizada por el rey Carlos III de Reino Unido para debatir sobre el desarrollo responsable de la IA, en medio del temor de la industria a que la tecnología pueda superar el control humano.
El evento se celebrará esta semana en Dumfries House y estará supervisado por la Ditchley Foundation, según informó The Sunday Times. Se ha invitado a líderes de empresas como Nvidia, OpenAI, Anthropic, IonQ y Google DeepMind para debatir cómo podría desarrollarse la IA «para el bien de la humanidad».
La cumbre se celebraría una semana después de que el CEO de Anthropic, Dario Amodei, el CEO de OpenAI, Sam Altman, y el CEO de SpaceXAI, Elon Musk, pidieran una mayor moderación en el desarrollo de la IA de frontera.
En una carta abierta publicada el viernes, Amodei advirtió que la tecnología había estado «avanzando drásticamente más rápido» desde el verano, impulsada por la capacidad de la IA para mejorarse a sí misma, un proceso conocido como mejora recursiva de sí misma.
Dijo que un «enjambre» de agentes de IA, como los que atacaron Hugging Face en julio, podría ser capaz de «apoderarse de toda internet» en los próximos seis a 12 meses. Altman coincidió en que las empresas «necesitan marcar el ritmo de la frontera».
Fuentes cercanas a Carlos dijeron que había mostrado interés en el desarrollo de la IA y sus posibles riesgos, informó The Sunday Times.
Relacionado: El jefe de Anthropic pide ralentizar el desarrollo de la IA hasta alcanzar un ritmo más seguro

