Global · IA · Seguridad · Gobernanza · Anthropic · OpenAI
Anthropic se compromete a incorporar evaluadores externos con acceso interno
Dario Amodei plantea acceso continuo a herramientas y derecho a publicar hallazgos; Sam Altman anuncia que OpenAI seguirá ese paso.
Fecha de la fuente original:
Lo esencial
- Compromiso público anunciado el 12 de septiembre.
- Evaluación de prácticas y procesos, además de modelos terminados.
Revisión desde dentro de la empresa
Dario Amodei anunció que Anthropic invitará a un equipo externo a revisar sus prácticas de seguridad y los procesos de entrenamiento. El compromiso incluye oficinas, equipos y permisos comparables a los de evaluadores internos, además de conversaciones con empleados. La propuesta figura en su ensayo We Must Pace the Frontier.
Publicación de hallazgos y límites de acceso
Los revisores podrían publicar conclusiones sin control editorial de Anthropic. La empresa reservaría excepciones por seguridad, obligaciones legales, información comercial y confidencialidad de terceros; los evaluadores podrían advertir si una supresión afectó sus conclusiones. Amodei presenta la incorporación como un paso próximo. Según ANSA, Sam Altman respondió que OpenAI adoptará también evaluadores con acceso comparable al de empleados.