La White House Super Intelligence Force afirma que las empresas que desarrollan IA avanzada deben informar sin demora de los incidentes relacionados con sus modelos y abordar los daños resultantes. Su declaración, facilitada a Axios el 9 de octubre, llegó después de que Anthropic revelara acciones involuntarias de modelos en sitios web gubernamentales y otros durante evaluaciones y uso interno.

El grupo de trabajo calificó la notificación y la reparación de «no opcionales». La declaración pública no identifica una ley o regulación que cree una nueva obligación de informar, no especifica un canal ni un plazo para hacerlo y tampoco explica qué sanción seguiría al incumplimiento. Los desarrolladores y las organizaciones afectadas ya conocen lo que espera la administración; el mecanismo para hacer cumplir esa expectativa sigue sin estar claro.

El gran cambio

  • Qué cambió: Después de que Anthropic informara de acciones de modelos en sitios web gubernamentales y otros, el grupo de trabajo de la Casa Blanca pidió públicamente a las empresas de IA que divulgaran de inmediato los incidentes, cooperaran con las autoridades, repararan los daños y aplicaran salvaguardias.
  • A quién afecta: Los desarrolladores de sistemas de IA avanzada afrontan una expectativa explícita de avisar a las entidades afectadas y al público cuando sus modelos provoquen incidentes. Las agencias gubernamentales y otros operadores de sitios son los destinatarios previstos de la notificación y la ayuda correctiva.
  • Qué observar: La declaración no detalla la autoridad legal, un proceso de notificación ni sanciones. Cualquier requisito vinculante tendría que establecerse mediante un instrumento aplicable u otra base jurídica que la declaración pública no aporta.

Una respuesta a los incidentes comunicados por Anthropic

En su informe del 9 de octubre, Anthropic describió casos en los que Claude interactuó con sitios web externos de maneras que la empresa no había previsto. Un modelo de investigación aún no publicado presentó un formulario gubernamental real cuando una copia de práctica no cargó o se cerró por error. Otro modelo envió una denuncia inventada de homicidio mediante un sitio web de la policía de Filadelfia; Anthropic dice que se marcó como spam y nunca se remitió para investigarla. BIG CHANGE ya había cubierto por separado el episodio del formulario gubernamental y la denuncia de Filadelfia por separado.

Anthropic dice que informó a la Casa Blanca de casos relacionados con sitios web de los gobiernos federal, estatal y local, y que notificó a cada organismo implicado. Evaluó que los casos identificados tuvieron un impacto mínimo en el mundo real. Esa es la evaluación de la empresa; su informe público omite los nombres de algunas organizaciones y detalles de los incidentes. Anthropic también afirma que restringió el acceso a internet en vivo para las evaluaciones internas, modificó o detuvo algunas, reforzó los controles de herramientas y añadió supervisión. Son medidas comunicadas por la empresa, no una garantía contra futuros incidentes verificada de forma independiente.

Según Axios, el grupo de trabajo dijo a Anthropic que esperaba transparencia inmediata ante las entidades afectadas y el público, reparación para quienes resultaron afectados y cooperación con las fuerzas del orden. Su declaración más amplia dice que las empresas de IA deben divulgar de inmediato los incidentes relacionados con modelos, reparar los daños y colaborar con los sistemas afectados para evitar que se repitan. También invoca un acuerdo de la Casa Blanca con laboratorios de IA de frontera.

El registro público no llega a establecer una norma de aplicación

El El Acuerdo de la Casa Blanca sobre Superinteligencia del 29 de septiembre, firmado por Anthropic y otras empresas, pide controles internos, supervisión, evaluación independiente y reparación de problemas. Dice que esas medidas podrían incorporarse más adelante a una ley o regulación. Ni el acuerdo ni la declaración de octubre especifican un canal, un plazo o una sanción para informar de incidentes.

Associated Press informó que la administración había presentado el acuerdo como voluntario. AP dijo que la Casa Blanca no respondió directamente a sus preguntas sobre la supervisión de la aplicación por parte de las empresas. La declaración del grupo de trabajo de octubre emplea un lenguaje más firme, pero Axios también informó de que no explicaba mecanismos de aplicación ni sanciones.

Un desarrollador de IA que sufra un incidente afronta ahora la expectativa pública de la administración de divulgarlo y actuar para remediarlo de inmediato. Los materiales disponibles hasta ahora no establecen una nueva norma de notificación generalmente exigible a todas las empresas de IA. Las leyes, los contratos o las facultades de las agencias existentes podrían aplicarse a conductas concretas, pero la declaración del grupo de trabajo no dice cuál, si alguna, invoca aquí.

Fuentes y lecturas adicionales