O senador Bernie Sanders, independente por Vermont, e o deputado Greg Casar, democrata pelo Texas, apresentaram em 23 de setembro a Ban Artificial Superintelligence Act, que proíbe em caráter permanente o desenvolvimento e a implantação de superinteligência artificial nos Estados Unidos. O anúncio saiu no site oficial do senador, com o texto do projeto, um resumo de uma página e um resumo artigo por artigo. É o tipo de proposta que costuma ser lida como gesto político, e talvez seja, mas ela define em lei coisas que até aqui circulavam como debate de conferência.
A definição que o projeto adota para superinteligência artificial é dupla: uma IA que supere o desempenho e a capacidade cognitiva humana na maioria dos domínios, ou que tenha capacidade suficiente para destruir ou tirar o poder da humanidade, inclusive derrubando o governo federal. Além da proibição, o texto impõe uma pausa imediata no desenvolvimento de IA avançada até que um novo órgão regulador federal esteja de pé e tenha estabelecido regras claras de revisão de modelos. Esse órgão seria um Departamento de Inteligência Artificial com status de ministério, assessorado por cientistas e encarregado de monitorar sistemas de fronteira em todas as fases do ciclo de vida, supervisionar a remoção de capacidades perigosas, entre elas a de burlar comandos de desligamento e a de conduzir ciberataques não autorizados, e supervisionar a destruição de superinteligência artificial.
Pena de nível nuclear e dissolução da empresa
A gradação das penas é a parte mais chamativa. Pessoas jurídicas que tentarem violar ou contornar as pausas e proibições ficam sujeitas ao que o texto chama de pena de morte corporativa, isto é, dissolução compulsória. Pessoas físicas respondem com até 20 anos de prisão, e o comunicado explica a escolha do teto: é o patamar já previsto para desenvolvimento ilegal de armas nucleares. O projeto também fixa como política internacional dos Estados Unidos buscar acordos, coordenação com aliados e controles de exportação para impedir que superinteligência seja desenvolvida em qualquer lugar do mundo.
O que o comunicado não diz
Apresentar projeto não é aprovar projeto, e o comunicado oficial não informa apoio de outros parlamentares, relator, comissão designada nem calendário de tramitação. A justificativa citada no texto se apoia em três capacidades que os autores dão como demonstradas nos últimos meses: modelos que contornam restrições para invadir computadores, modelos capazes de criar vírus inéditos e modelos que automatizam a pesquisa que produz IA mais capaz. O comunicado não traz referência a estudo, relatório ou incidente específico para nenhuma das três afirmações, e este site não as verifica aqui. Casar afirma no mesmo texto que Donald Trump quer estimular o desenvolvimento, o que localiza o projeto no lado oposto da política do governo americano e ajuda a medir suas chances.
O que uma pausa americana faria com quem depende dela aqui
Nenhuma empresa brasileira treina modelo de fronteira, e é por isso que uma pausa nos Estados Unidos seria sentida aqui antes de ser discutida aqui. Praticamente toda a IA avançada que roda em produção no Brasil vem de quatro ou cinco fornecedores sujeitos à lei americana, e uma suspensão de desenvolvimento avançado congelaria não a capacidade de hoje, mas a próxima geração de tudo o que se contrata em dólar. Há um segundo detalhe que interessa a quem acompanha a regulação daqui: o projeto regula por capacidade, não por aplicação, o caminho oposto ao da União Europeia, que classifica por risco de uso. Regular capacidade exige medir capacidade, e a única pessoa que hoje mede a capacidade de um modelo de fronteira antes do lançamento é o próprio fabricante, com avaliadores externos contratados por ele. É a mesma lacuna que aparece, do outro lado do Atlântico, na queda de braço entre a Casa Branca e o instituto britânico de segurança de IA. Um projeto que proíbe superinteligência sem dizer quem certifica que ela não chegou empurra a definição para o regulamento que viria depois, e é ali, não no anúncio, que a coisa se decide.
