Destilação do DeepSeek transfere censura junto

O que aconteceu

O DeepSeek destilou seu modelo aberto em uma versão compatível com GPT-OSS. O modelo resultante manteve boa parte das regras de censura do original. Um artigo curto e uma demonstração mostraram que o destilado é sensivelmente mais conservador que a versão base equivalente. Os autores argumentam que a destilação copia a lógica de filtragem de conteúdo do modelo professor para o modelo aluno.

Por que isso importa para quem constrói

• Filtragem não intencional — um modelo destilado pode bloquear ou alterar saída que você esperava livre. Etapas seguintes que assumem texto completo quebram.
• Risco de conformidade — censura inesperada pode ocultar violação de política ou sinalizar conteúdo legítimo, o que gera falha em auditoria em ambiente regulado.
• Confiabilidade do fluxo — destilação troca desempenho por tamanho, e filtro oculto degrada a decisão do agente, sobretudo quando ele precisa lidar com contexto novo.
• Custo de teste — é preciso acrescentar testes que verifiquem se o modelo está filtrando, com um conjunto controlado de prompts que acionem a lógica de filtragem.

A leitura da Tyna

O achado é mais amplo do que o título sugere, e vale desacoplá-lo da palavra censura, que carrega debate político e desvia da questão técnica.

O que o estudo mostra é que destilação transfere comportamento que não está na documentação. A filtragem é o caso visível porque é fácil de perceber — você pede algo e o modelo recusa. Mas se comportamento de recusa atravessa a destilação sem estar declarado, não há razão para supor que seja o único. Viés de formato, preferência por determinado enquadramento, tendência a hedge em certos assuntos: tudo isso pode vir junto, e nada disso dispara um erro.

Para quem monta pipeline, a consequência prática é de contrato. Trocar um modelo por um destilado é vendido como decisão de custo e latência — mesma tarefa, menos recurso. O estudo mostra que não é a mesma coisa: é um modelo diferente com procedência herdada. A ficha técnica informa tamanho e velocidade, não o que veio junto do professor.

A recomendação que sai daqui e serve para qualquer troca de modelo: monte um conjunto de prompts de regressão com casos representativos do seu domínio, incluindo os limítrofes, e guarde as respostas do modelo atual como referência. Ao trocar, compare. Não é sofisticado, e é a única forma barata de perceber que o modelo novo passou a recusar aquele tipo de chamado que 3% dos seus clientes abrem.

Perguntas frequentes

P: Migrar para uma versão mais nova do GPT-OSS resolve?

R: Versões novas podem não herdar os mesmos filtros, mas ainda carregam políticas de conteúdo vindas do próprio treino. Sempre audite o comportamento contra os seus casos de uso.

P: Como detectar se um modelo destilado tem filtragem oculta?

R: Rode um conjunto de prompts que cubra os temas do seu fluxo e compare com um modelo de referência. Supressão ou omissão consistente indica filtragem.

P: Devo evitar destilação em produção?

R: Não necessariamente. Ela reduz custo e latência de forma real. Se for destilar, acrescente verificação explícita de filtragem e lógica de contingência ao pipeline.