O senador Bernie Sanders e o deputado Greg Casar disseram em 23 de setembro que haviam apresentado o projeto de lei Ban Artificial Superintelligence Act. O texto publicado, com 19 páginas proibiria a superinteligência artificial, pausaria o desenvolvimento de determinados modelos avançados enquanto um novo departamento federal elaborasse regras de segurança e exigiria aprovação antes que esses modelos chegassem aos usuários. Trata-se de uma proposta legislativa. Nenhuma dessas restrições está em vigor.

A grande mudança

  • O que mudou: Sanders e Casar passaram de um anúncio, em 3 de setembro, de que planejavam apresentar uma proposta para o anúncio, em 23 de setembro, de que a haviam apresentado, com a publicação de um texto que detalha as definições propostas e os poderes de fiscalização.
  • Por que isso importa: A proposta vai além de uma futura superinteligência ainda indefinida. Também proibiria sistemas com capacidades precursoras listadas e pausaria temporariamente modelos treinados acima de um limite de computação especificado. Se o Congresso aprovar o texto, essas disposições poderão afetar desenvolvedores muito antes de qualquer sistema se enquadrar na definição de superinteligência do projeto.
  • O que acompanhar: O Congresso precisa avançar com a medida e aprová-la antes que ela possa criar obrigações para desenvolvedores. O texto público ainda deixa em branco o número do projeto no Senado; um registro legislativo numerado e eventuais alterações esclareceriam a próxima etapa formal.

Duas restrições diferentes no texto

A proposta de pausa temporária se aplica a um “sistema avançado de inteligência artificial”, definido como aquele treinado com pelo menos 10²⁵ operações de ponto flutuante ou inteiro. O secretário do futuro departamento ajustaria esse limite anualmente, levando em conta melhorias na eficiência do treinamento. Desde a promulgação até que o departamento estivesse plenamente formado e tivesse emitido regras de segurança, esses sistemas não poderiam ser treinados, modificados nem ajustados, exceto para remover características proibidas ou desativá-los. Sistemas avançados ainda não lançados não poderiam ser implantados nesse período. As regras necessárias para encerrar a pausa incluiriam relatórios de planos de desenvolvimento, avaliações, auditorias de práticas de segurança e aprovação final antes da disponibilização ao público.

A proposta de proibição usa um critério diferente. Abrange um sistema que supere o desempenho cognitivo humano na maioria dos domínios ou tenha capacidade suficiente para planejar e executar a destruição ou a subjugação da humanidade. A seção 9 também proíbe sistemas que apresentem qualquer uma das “características precursoras da superinteligência” listadas. Entre elas estão acelerar significativamente a pesquisa em IA, acessar sem autorização uma infraestrutura protegida, continuar funcionando apesar de tentativas de desligamento, ajudar a desenvolver armas, modificar a si próprio e escapar da supervisão humana. O texto não aplica o limite de 10²⁵ operações a essa proibição separada de precursores. A seção 9(b) também impede a implantação, divulgação, transferência ou importação de sistemas que possam ser modificados de maneira previsível para produzir qualquer uma das duas categorias. Um futuro regulador teria de decidir como essas descrições de capacidade se aplicam a sistemas específicos; o projeto não fornece pontuações de benchmark que resolvam essas avaliações.

A proposta criaria um Departamento de Inteligência Artificial em nível de gabinete e exigiria autorizações para desenvolver ou distribuir modelos avançados. Daria ao departamento poderes de inspeção e de aprovação antes da implantação. Para determinadas violações imprudentes por responsáveis por políticas de empresas ou indivíduos não vinculados a elas, o texto prevê multas e penas de prisão de até 20 anos. Também prevê revogação de autorizações e, após uma análise especificada, confisco de ativos e propriedade intelectual relacionados à violação. São penalidades propostas, não sanções em vigor.

A disputa sobre o alcance

Na discussão sobre política de IA, por volta dos 53 minutos do episódio 290 de All-In, os participantes argumentaram que a medida poderia congelar o desenvolvimento de IA nos Estados Unidos e levar empresas para o exterior. Essa é a avaliação deles sobre possíveis efeitos. O texto não proibiria todo produto de IA existente simplesmente por ser IA: ele especifica um limite de treinamento para a pausa temporária e critérios de capacidade para a proibição mais ampla. Esses critérios ainda são relevantes, pois a lista proposta de capacidades precursoras não está limitada pelo referido limite de treinamento.

O pesquisador de IA Gary Marcus seguiu outro caminho ao criticar o anúncio de 3 de setembro. Ele apoiou a ideia de um órgão regulador de IA e disse que uma pausa temporária poderia ser defensável, mas argumentou que uma proibição unilateral permanente e avaliações incertas de capacidade vão longe demais. Sua resposta é anterior à apresentação de 23 de setembro; deve ser lida como crítica à proposta anunciada, não como análise de cada linha do texto publicado posteriormente.

Sanders e Casar afirmam que a proibição reduziria riscos catastróficos e que acordos internacionais e controles de exportação impediriam que o desenvolvimento perigoso simplesmente migrasse para outros lugares. A reportagem da Associated Press registra a defesa de Sanders de desacelerar o desenvolvimento e a preocupação de que limites unilaterais dos EUA não impeçam atividades em outros países. Nem as alegações dos patrocinadores sobre segurança nem as previsões econômicas do painel comprovam o que aconteceria se o projeto virasse lei. O primeiro teste prático é legislativo: saber se o Congresso discutirá a proposta e como tratará a redação excepcionalmente ampla sobre capacidades precursoras.

Fontes e leitura complementar