El senador Bernie Sanders y el representante Greg Casar anunciaron el 23 de septiembre que habían presentado la Ley para Prohibir la Superinteligencia Artificial. El texto publicado de 19 páginas prohibiría la superinteligencia artificial, pausaría el desarrollo de ciertos modelos avanzados mientras un nuevo departamento federal redacta normas de seguridad y exigiría aprobación antes de que esos modelos lleguen a los usuarios. Es una propuesta legislativa. Ninguna de sus restricciones está vigente.

El gran cambio

  • Qué ha cambiado: Sanders y Casar pasaron de anunciar el 3 de septiembre que planeaban presentar una ley a anunciar, el 23 de septiembre, que la habían presentado, junto con un texto público que detalla las definiciones y facultades de aplicación propuestas.
  • Por qué importa: La propuesta va más allá de una superinteligencia futura aún sin definir. También prohibiría sistemas con ciertas capacidades precursoras enumeradas y pausaría temporalmente los modelos entrenados por encima de un umbral de cómputo especificado. Si el Congreso aprobara el texto, estas disposiciones podrían afectar a los desarrolladores mucho antes de que algún sistema cumpla la definición del proyecto de superinteligencia.
  • Qué conviene observar: El Congreso tendría que tramitar y aprobar la medida antes de que pudiera imponer obligaciones a los desarrolladores. El texto público aún tiene en blanco el número del proyecto de ley del Senado; un registro legislativo numerado y cualquier texto enmendado aclararían la siguiente etapa formal.

Dos restricciones distintas en el texto

La pausa temporal propuesta se aplicaría a un «sistema de inteligencia artificial avanzado», definido como uno entrenado con al menos 10²⁵ operaciones enteras o de coma flotante. El secretario del futuro departamento ajustaría ese umbral cada año para tener en cuenta las mejoras en la eficiencia del entrenamiento. Desde la promulgación hasta que el departamento estuviera plenamente dotado de personal y hubiera publicado normas de seguridad, no se podrían entrenar, modificar ni ajustar esos sistemas, salvo para eliminar características prohibidas o desactivarlos. Durante ese periodo, no se podrían desplegar sistemas avanzados que no se hubieran publicado. Las normas necesarias para poner fin a la pausa incluirían informes de planes de desarrollo, evaluaciones, auditorías de prácticas de seguridad y aprobación final antes de la publicación al público.

La prohibición propuesta emplea un criterio distinto. Abarca un sistema que supere el rendimiento cognitivo humano en la mayoría de los ámbitos o que tenga capacidad suficiente para planificar y ejecutar la destrucción o el sometimiento de la humanidad. La sección 9 también prohíbe sistemas que presenten cualquiera de las «características precursoras de superinteligencia» enumeradas. La lista incluye acelerar enormemente la investigación de IA, obtener acceso no autorizado a infraestructura protegida, seguir funcionando pese a intentos de apagado, ayudar a desarrollar armas, modificarse a sí mismos y eludir la supervisión humana. El texto no aplica el umbral de 10²⁵ operaciones a esa prohibición independiente de capacidades precursoras. La sección 9(b) también prohíbe desplegar, publicar, transferir o importar sistemas que previsiblemente puedan modificarse para producir cualquiera de las dos categorías. Un organismo regulador futuro tendría que decidir cómo se aplican estas descripciones de capacidades a sistemas concretos; el proyecto no ofrece puntuaciones de referencia que resuelvan esos juicios.

El borrador crearía un Departamento de Inteligencia Artificial a nivel de gabinete y exigiría autorizaciones para desarrollar o distribuir modelos avanzados. Otorgaría al departamento facultades de inspección y aprobación previa al despliegue. Para ciertas infracciones temerarias cometidas por responsables de empresas o personas no afiliadas, el borrador establece multas y penas de prisión de hasta 20 años. También contempla revocar autorizaciones y, tras la revisión especificada, confiscar activos y propiedad intelectual vinculados a una infracción. Son sanciones propuestas, no penas vigentes.

La disputa sobre el alcance

En el debate sobre políticas de IA, alrededor del minuto 53 del episodio 290 de All-In, los panelistas argumentaron que la medida podría congelar el desarrollo de la IA en Estados Unidos y empujar a las empresas a trasladarse al extranjero. Esa es su valoración de los posibles efectos. El texto no prohíbe todos los productos de IA existentes por el mero hecho de ser IA: fija un umbral de entrenamiento para la pausa temporal y pruebas de capacidad para la prohibición más amplia. Estas pruebas siguen teniendo consecuencias importantes, porque la lista propuesta de capacidades precursoras no está limitada por ese umbral de entrenamiento.

El investigador de IA Gary Marcus criticó la propuesta desde otra perspectiva tras el anuncio del 3 de septiembre. Respaldó la idea de un regulador de IA y dijo que una pausa temporal podría justificarse, aunque sostuvo que una prohibición unilateral permanente y las evaluaciones inciertas de capacidades van demasiado lejos. Su respuesta es anterior a la presentación del 23 de septiembre, por lo que debe leerse como una crítica al anuncio de la propuesta, no como un análisis de cada línea del texto publicado posteriormente.

Sanders y Casar sostienen que la prohibición reduciría los riesgos catastróficos y que los acuerdos internacionales y los controles de exportación deberían impedir que el desarrollo peligroso se trasladara a otros lugares. La cobertura de Associated Press recoge los argumentos de Sanders para ralentizar el desarrollo y la preocupación de que unas restricciones unilaterales de EE. UU. dejen intacto el desarrollo en otros lugares. Ni las afirmaciones de seguridad de los promotores ni los pronósticos económicos del panel demuestran qué ocurriría si el proyecto se convirtiera en ley. La primera prueba práctica es legislativa: si el Congreso examina la propuesta y cómo resuelve el lenguaje inusualmente amplio sobre capacidades precursoras.

Fuentes y lecturas adicionales