A Anthropic publicou sua posição sobre modelos de pesos abertos, começando por negar uma acusação recorrente. Dario Amodei afirma que a empresa nunca defendeu o banimento desses modelos, e classifica os que não têm capacidades perigosas como bem público, de valor para empresas, desenvolvedores e pesquisadores.
As três medidas propostas
A primeira é controle de exportação de chips avançados para a China, com o argumento de que a capacidade de produção doméstica chinesa é limitada, o que tornaria a medida eficaz. A segunda mira operações de destilação em escala industrial usadas para elevar artificialmente a capacidade de modelos, que a empresa considera mais problemáticas que a abertura dos pesos em si. A terceira é teste de segurança obrigatório para todo modelo suficientemente capaz, aberto ou fechado, antes do lançamento.
O argumento por trás
A preocupação declarada é dupla: governos autoritários construindo IA superior para dominância militar, e modelos que viabilizem uso indevido catastrófico, do ciberataque à ameaça biológica. A conclusão é que banimentos protecionistas erram o alvo, porque a ameaça real seria o desenvolvimento secreto bancado por Estados.
A terceira proposta é a que mais mexe com quem publica pesos: exigir teste de segurança antes do lançamento independe do modelo ser aberto, mas o custo de cumprir recai de forma desigual. Um laboratório com equipe de avaliação absorve; um grupo de pesquisa pequeno, que hoje publica pesos livremente, não necessariamente.
