El compromiso reparte responsabilidades entre distintos niveles de cada empresa e incorpora a un auditor externo para comprobar si sus controles funcionan.
Cuatro controles que llegan al consejo de administración
Según el texto publicado por el Washington Examiner, los desarrolladores de modelos de frontera, los sistemas de IA más avanzados, deben supervisarlos durante su entrenamiento y despliegue. Entre los riesgos señalados figuran las amenazas informáticas, biológicas y químicas, y el acceso no autorizado a sistemas técnicos.
Un equipo interno separado debe comprobar que los controles funcionan y que se corrigen los problemas. Después, un auditor o evaluador externo independiente debe examinar esos controles. Por último, un comité independiente del consejo de administración debe recibir los informes y supervisar las medidas correctivas.
Ese último paso lleva los problemas detectados más allá de los equipos que construyen la tecnología y los pone ante los consejeros.
Seis ejecutivos firmaron junto a Trump
Entre los firmantes están Elon Musk; Sundar Pichai, de Google; Dario Amodei, de Anthropic; Mark Zuckerberg, de Meta; Greg Brockman, presidente de OpenAI; y Jensen Huang, de Nvidia.
El presidente de la Cámara de Representantes, Mike Johnson, describió el acuerdo como un conjunto de compromisos voluntarios del sector, informó ABC News. Las empresas también prometieron reunirse periódicamente para desarrollar normas y prácticas de seguridad.
La firma deja pendiente la prueba de su aplicación
El acuerdo no establece sanciones, un nuevo regulador ni un calendario para publicar los resultados de las auditorías. Su texto deja abierta la posibilidad de incorporar estas medidas a leyes o reglamentos en el futuro.
Para los clientes, el documento concreta lo que las empresas han prometido. Evaluar qué cambia exigirá pruebas de su aplicación: controles que funcionen, evaluaciones independientes y medidas cuando los problemas lleguen al consejo.
