Global · Anthropic · IA física · Seguridad · IA · Política · Claude
Anthropic actualiza sus reglas para Claude y los equipos con acciones físicas
La nueva política, anunciada en octubre, entra en vigor el 12 de noviembre e incorpora condiciones para hardware autónomo.
Fecha de la fuente original:
Lo esencial
- Las reglas actualizadas entran en vigor el 12 de noviembre.
- Los equipos con riesgo de lesión necesitan supervisión y parada segura.
- Los usos de alto riesgo mantienen revisión humana e información a la persona afectada.
Alcance de la revisión
Anthropic anunció cambios que precisan prohibiciones sobre campañas engañosas, vigilancia y componentes de armamento. Las campañas incluyen tanto actividad política como comercial y herramientas para ocultar responsables o amplificar mensajes con cuentas falsas. La empresa afirma que muchas modificaciones aclaran restricciones ya aplicadas.
Acciones físicas
Los equipos controlados autónomamente por Claude que puedan causar lesiones deben ser observables por un operador cualificado, capaz de detenerlos. Deben mantener un estado seguro al desconectarse del modelo. Estos requisitos acompañan la incorporación de controles para hardware.
Decisiones de alto riesgo
En ámbitos como salud, derechos, finanzas y acceso a servicios esenciales, la persona supervisora debe poder revisar y cambiar recomendaciones. También debe informarse al afectado del uso de IA. Según Anthropic, esas obligaciones ya existían; la revisión aclara qué recomendaciones quedan comprendidas.