O senador Bernie Sanders e o deputado Greg Casar disseram em 23 de setembro que tinham apresentado o projeto de lei Ban Artificial Superintelligence Act. O texto publicado, com 19 páginas proibiria a superinteligência artificial, suspenderia o desenvolvimento de determinados modelos avançados enquanto um novo departamento federal elaborasse regras de segurança e exigiria autorização antes de esses modelos chegarem aos utilizadores. Trata-se de uma proposta legislativa. Nenhuma destas restrições está em vigor.

A grande mudança

  • O que mudou: Sanders e Casar passaram de um anúncio, a 3 de setembro, de que tencionavam apresentar legislação para o anúncio, a 23 de setembro, de que o tinham apresentado, com a publicação de um texto que detalha as definições e os poderes de fiscalização propostos.
  • Porque é importante: A proposta vai além de uma futura superinteligência ainda indefinida. Também proibiria sistemas com as capacidades precursoras enumeradas e suspenderia temporariamente modelos treinados acima de um limite de computação especificado. Se o Congresso aprovar o texto, estas disposições poderão afetar os programadores muito antes de qualquer sistema se enquadrar na definição de superinteligência do projeto.
  • O que acompanhar:O Congresso tem de dar seguimento à medida e aprová-la antes que esta possa criar obrigações para os programadores. O texto público ainda deixa em branco o número do projeto no Senado; um registo legislativo numerado e eventuais alterações esclareceriam o próximo passo formal.

Duas restrições diferentes no texto

A proposta de pausa temporária aplica-se a um «sistema avançado de inteligência artificial», definido como um sistema treinado com, pelo menos, 10²⁵ operações de vírgula flutuante ou de números inteiros. O secretário do futuro departamento ajustaria este limite anualmente, tendo em conta melhorias na eficiência do treino. Desde a promulgação até que o departamento estivesse plenamente constituído e tivesse emitido regras de segurança, estes sistemas não poderiam ser treinados, modificados nem ajustados, exceto para remover características proibidas ou desativá-los. Os sistemas avançados ainda não lançados não poderiam ser implementados nesse período. As regras necessárias para pôr termo à suspensão incluiriam relatórios sobre planos de desenvolvimento, avaliações, auditorias das práticas de segurança e autorização final antes da disponibilização ao público.

A proposta de proibição utiliza um critério diferente. Abrange um sistema que exceda o desempenho cognitivo humano na maioria dos domínios ou tenha capacidade suficiente para planear e executar a destruição ou a subjugação da humanidade. A secção 9 também proíbe sistemas que apresentem qualquer uma das «características precursoras da superinteligência» enumeradas. Entre elas estão acelerar significativamente a investigação em IA, aceder sem autorização a infraestrutura protegida, continuar a funcionar apesar de tentativas de encerramento, ajudar a desenvolver armas, modificar-se a si próprio e escapar à supervisão humana. O texto não aplica o limite de 10²⁵ operações a esta proibição separada de capacidades precursoras. A secção 9(b) também impede a implementação, divulgação, transferência ou importação de sistemas que possam ser modificados de forma previsível para produzir qualquer uma das duas categorias. Um futuro regulador teria de decidir como estas descrições de capacidade se aplicam a sistemas específicos; o projeto não fornece pontuações de testes de referência que resolvam essas avaliações.

A proposta criaria um Departamento de Inteligência Artificial ao nível do gabinete ministerial e exigiria autorizações para desenvolver ou distribuir modelos avançados. Atribuiria ao departamento poderes de inspeção e de aprovação antes da implementação. Para determinadas violações cometidas com imprudência por responsáveis por políticas de empresas ou por pessoas não associadas a empresas, o texto prevê multas e penas de prisão até 20 anos. Prevê também a revogação de autorizações e, após uma análise especificada, o confisco de ativos e propriedade intelectual relacionados com a violação. São penalidades propostas, não sanções em vigor.

A disputa sobre o âmbito

Na discussão sobre política de IA, por volta dos 53 minutos do episódio 290 de All-In, os participantes argumentaram que a medida poderia congelar o desenvolvimento de IA nos Estados Unidos e levar empresas para o estrangeiro. Trata-se da avaliação que fizeram dos possíveis efeitos. O texto não proibiria todos os produtos de IA existentes apenas por serem produtos de IA: especifica um limite de treino para a suspensão temporária e critérios de capacidade para a proibição mais ampla. Estes critérios continuam a ser relevantes, uma vez que a lista proposta de capacidades precursoras não está sujeita ao referido limite de treino.

O investigador de IA Gary Marcus seguiu outra via ao criticar o anúncio de 3 de setembro. Apoiou a ideia de uma entidade reguladora da IA e afirmou que uma suspensão temporária poderia ser defensável, mas argumentou que uma proibição unilateral permanente e avaliações incertas de capacidade vão longe demais. A sua resposta é anterior à apresentação de 23 de setembro; deve ser lida como uma crítica à proposta anunciada, não como uma análise de cada linha do texto publicado posteriormente.

Sanders e Casar afirmam que a proibição reduziria riscos catastróficos e que acordos internacionais e controlos de exportação impediriam que o desenvolvimento perigoso simplesmente se deslocasse para outros lugares. A reportagem da Associated Press regista a defesa de Sanders de abrandar o desenvolvimento e a preocupação de que limites unilaterais dos Estados Unidos não impeçam atividades noutros países. Nem as alegações dos patrocinadores sobre segurança nem as previsões económicas do painel demonstram o que aconteceria se o projeto se tornasse lei. O primeiro teste prático é legislativo: perceber se o Congresso irá debater a proposta e como tratará a formulação excecionalmente ampla sobre capacidades precursoras.

Fontes e leituras complementares