Base Labs, braço de pesquisa da Baseten, lança parceria de segurança para modelos de pesos abertos com Hugging Face e Goodfire
A Baseten lançou a Base Labs, seu novo braço de pesquisa dedicado a segurança de modelos de pesos abertos, em parceria com a Hugging Face e a startup de interpretabilidade Goodfire. A iniciativa nasce de um problema concreto: modelos abertos podem ter suas salvaguardas removidas por uma técnica chamada "abliteração", e a própria Hugging Face já hospeda mais de 6 mil versões abliteradas de modelos populares.
Como as três empresas dividem o trabalho
Cada parceiro contribui com uma peça diferente do problema. A Goodfire, especializada em abrir a "caixa-preta" dos modelos para explicar como eles tomam decisões, vai desenvolver os métodos de análise. A Hugging Face entra com a infraestrutura de hospedagem e distribuição necessária para escalar esses padrões para toda a comunidade de desenvolvedores que publica e baixa modelos na plataforma. Já a Baseten planeja integrar os resultados da pesquisa diretamente em sua infraestrutura de deploy, permitindo monitoramento de modelos em tempo real durante o uso.
A Base Labs descreve o objetivo como um "padrão" para modelos abertos que seja transparente e esteja embutido em como os modelos são treinados e implantados — em vez de uma camada de segurança adicionada depois, como acontece hoje na maioria dos casos.
Por que isso importa para quem usa modelos abertos
O tema conecta diretamente com o que já exploramos em nosso guia sobre escolher ferramentas de IA com segurança: modelos de pesos abertos oferecem flexibilidade e custo menor, mas colocam a responsabilidade pela segurança nas mãos de quem os implanta. Um padrão de indústria como o proposto pela Base Labs, se ganhar adesão, pode facilitar a vida de empresas menores que hoje não têm recursos para auditar sozinhas a segurança dos modelos abertos que usam.