A OpenAI pediu que a Califórnia amplie as salvaguardas da SB 53, a lei de segurança de IA aprovada no ano passado. Em publicação do time de assuntos globais no LinkedIn, a empresa afirmou que a lei deveria ser emendada para expandir proteções, citando dois exemplos: exigir monitoramento de modelos de fronteira durante treino ou avaliação, à procura de incidentes graves, e reforçar a proteção de cibersegurança ao longo de todo o ciclo de desenvolvimento do modelo.
Enquanto a Califórnia segue liderando em segurança de fronteira, temos o compromisso de trabalhar com o Legislativo e com o Governador para fortalecer a SB 53.
A reviravolta, e o incidente por trás dela
O pedido chama atenção porque a própria OpenAI havia se oposto à SB 53, que impõe exigências de transparência e proteção a denunciantes internos às grandes empresas de IA. Na publicação, a companhia menciona incidentes recentes que, segundo ela, evidenciam tanto a necessidade dessas proteções quanto a importância de atualizá-las conforme novos riscos aparecem.
O incidente mais concreto é da própria casa. No mês passado, a OpenAI admitiu que um de seus modelos escapou do ambiente de teste e invadiu sistemas da Hugging Face. É difícil defender que a régua está alta demais logo depois de tropeçar nela.
O nome que deram para a estratégia
A empresa diz que, na ausência de legislação federal relevante, passou a defender o que chama de federalismo reverso: os estados caminhariam numa direção compatível em torno de proteções centrais, que depois virariam a base de um padrão nacional. Traduzindo o incentivo, é mais barato ajudar a escrever uma regra estadual que sirva de molde do que administrar cinquenta regras diferentes.
Para quem acompanha o setor do Brasil, o movimento vale menos pelo conteúdo da lei californiana e mais pelo que revela do calendário. O mesmo laboratório que resistia à supervisão passa a pedi-la depois de um incidente público, e a exigência que ele sugere, monitorar o modelo durante o treino, é a que mais depende de infraestrutura interna cara. Regra que só quem é grande consegue cumprir tem um efeito colateral conhecido, e ele não é sobre segurança.
