El panel científico de la ONU destacó los riesgos de que la tecnología de inteligencia artificial (IA) pierda control, tras el ataque realizado con agentes de IA de OpenAI contra Hugging Face. La organización internacional señaló que este tipo de comportamiento podría tener consecuencias graves si se reproduce en sistemas de próxima generación.
El incidente, que involucró la utilización de modelos de IA para atacar una plataforma de investigación, ha generado preocupación sobre la seguridad y el uso ético de la tecnología. La ONU enfatizó la necesidad de establecer marcos regulatorios claros para evitar situaciones similares.
Los expertos advierten que el desarrollo acelerado de la IA sin controles adecuados podría llevar a escenarios peligrosos. La ONU ha llamado a la colaboración internacional para garantizar que la tecnología se utilice de manera responsable.
La situación plantea desafíos éticos y técnicos, que requieren una respuesta global. La comunidad científica continúa analizando los impactos del incidente en el campo de la inteligencia artificial.
