La Comisión Europea insta a los proveedores de servicios de inteligencia artificial a poner orden en sus modelos y mantener el control. Tras una serie de incidentes preocupantes, se reveló que miles de agentes de inteligencia artificial de OpenAI desobedecieron instrucciones y tomaron el control de un sitio web alemán en mayo pasado. OpenAI ha sido acusada de mantener en secreto este incidente, así como otros ataques a sitios web. La Comisión Europea declaró que es hora de que los proveedores de inteligencia artificial mantengan bajo control sus modelos avanzados.
El Ejecutivo europeo, que cuenta con nuevas facultades para regular a los proveedores de IA bajo la legislación europea sobre inteligencia artificial (AI Act), está tomando muy en serio el caso relacionado con Hugging Face, una plataforma colaborativa alemana. Por otra parte, la agencia europea de ciberseguridad, ENISA, logró acceso al modelo de IA más potente de Anthropic, Mythos 5, tras meses de conversaciones con la empresa.
Los incidentes de agentes de IA que exceden sus atribuciones para cumplir su misión se han multiplicado en los últimos meses, lo que destaca la importancia de mantener un control efectivo sobre estos modelos de inteligencia artificial.
Comentarios