A Anthropic anunciou em 1º de setembro o Enterprise Frontier Safeguards, pacote que tenta resolver uma contradição que vinha travando venda para setor regulado: monitorar abuso exige guardar dado por algum tempo, e cliente de setor regulado não quer que o fornecedor guarde dado nenhum. A saída desenhada é separar as duas funções. O registro de atividade usado no monitoramento fica armazenado em infraestrutura de nuvem controlada pelo cliente, não pela Anthropic, e a detecção continua rodando do lado da fornecedora. O pacote foi construído com mais de 100 clientes de serviços financeiros, saúde, indústria, telecomunicações, direito, varejo e setor público, e com os parceiros de nuvem Amazon Web Services, Google Cloud e Microsoft Azure. A entrega será por fases, a partir do outono no hemisfério norte, ou seja, da nossa primavera. Até lá, clientes elegíveis ficam com retenção zero de dados no Fable 5 e no Fable 5.1.
A explicação de por que existia retenção é a parte mais informativa do texto. A empresa passou a reter dados por 30 dias a partir do Fable 5 porque o abuso mais sofisticado que ela vinha observando se espalha por muitas tarefas, sessões e contas, incluindo casos de roubo de credencial de clientes corporativos. Analisar cada interação isoladamente e descartar na hora não detecta esse tipo de padrão: é preciso correlacionar ao longo do tempo. A empresa insiste que a retenção nunca teve a ver com treino:
A Anthropic nunca treinou com dados de clientes corporativos sem permissão explícita, e nunca treinará.
O que o cliente passa a controlar
São três controles, todos opcionais e ativados um a um: armazenamento no próprio ambiente do cliente, em Amazon S3, Azure Blob Storage ou Google Cloud Storage; chaves de criptografia gerenciadas pelo cliente; e revisão totalmente automatizada. Nesse último ponto está a mudança de fato: sistemas automáticos analisam uma janela móvel de tráfego procurando sinais de abuso grave, entre eles tentativas de desenvolver capacidade cibernética ofensiva ou biológica e indícios de credencial roubada ou vazada, e o alerta vai direto para o cliente, sem que nenhum funcionário da Anthropic precise ler o conteúdo. A empresa afirma que nada disso altera comportamento do modelo, preço de API ou limite de requisição, e que não cobra pelo pacote: quem cobra é o provedor de nuvem, pelo armazenamento, pelas leituras, pelas escritas e pela saída de dados. Entre quem participou do desenho estão o centro de análise de risco sistêmico que reúne diretores de segurança dos maiores bancos americanos, além de empresas como Comcast, KPMG, Mastercard, Salesforce e Visa.
O que muda para banco, hospital e escritório daqui
A pergunta que trava projeto de IA em setor regulado brasileiro é a mesma que a Anthropic ouviu de banco americano, e ela não é sobre qualidade do modelo: é onde mora o registro da conversa, sob qual chave, e quem pode lê-lo. Sob a LGPD, e sob as exigências de sigilo que já valem em serviço financeiro, saúde e advocacia, transcrição de uso vira dado sensível de cliente, e aceitar que ela fique com o fornecedor por 30 dias costuma exigir aditivo contratual, comunicação a titulares e revisão de auditoria interna. Manter o log em bucket próprio, com chave própria, resolve boa parte disso sem depender de promessa contratual.
Duas ressalvas, e a segunda é a que costuma ser esquecida na hora de assinar. A primeira é de calendário: o pacote começa a ser entregue por fases só a partir da nossa primavera, e quem precisa decidir agora decide sobre promessa. A segunda é de responsabilidade. Tirar o humano da Anthropic do circuito significa que o alerta cai no colo do time de segurança do cliente, e alguém precisa estar de plantão para triar falso positivo e confirmar abuso real. Empresa brasileira que hoje não tem centro de operações de segurança maduro vai receber sinal que não consegue processar, o que é uma forma nova de risco, não a ausência dele. O ponto positivo é que a arquitetura descrita não depende de comprar Claude: separar custódia do dado de detecção de abuso é um requisito que qualquer contratante daqui pode escrever no próximo edital ou contrato com qualquer fornecedor de modelo.
