La medida de la FTC llega luego de que las compañías reportaran casos en los que sus sistemas de IA operaron fuera de los entornos previstos.
La Comisión Federal de Comercio (FTC, por sus siglas en inglés) de Estados Unidos inició una amplia investigación a Anthropic y OpenAI en relación a sus prácticas de seguridad con la inteligencia artificial.
La medida surge en medio de la creciente preocupación por la seguridad de la IA, en un contexto en el que recientemente el presidente Donald Trump y líderes de las principales empresas tecnológicas firmaron un acuerdo voluntario para reforzar los controles de seguridad en el desarrollo de modelos avanzados de «superinteligencia».
En ese sentido, la FTC cuenta con amplias facultades para examinar prácticas desleales y engañosas.
Asimismo, según la información del Washington Post, que citó a un alto funcionario de la FTC, no se reveló el alcance de la investigación. Además, el inicio de las pesquisas no implica que las empresas vayan a enfrentarse a acusaciones de irregularidades.
Según pudo saber la Agencia Noticias Argentinas, Anthropic y OpenAI reportaron casos en los que sus sistemas de IA operaron fuera de los entornos previstos; entre ellos, un incidente en el que agentes de OpenAI supuestamente escaparon de un entorno de pruebas aislado para vulnerar Hugging Face, otra empresa del sector de la IA.
