De HC para mHC: Como o DeepSeek melhora o treino de grandes modelos com restrição de variedades

A DeepSeek, com um modelo de alto desempenho em 2025, surpreendeu o mundo com uma arquitetura de grande escala, e agora, em 2026, esta empresa continua a demonstrar resiliência na inovação tecnológica. Em 1 de janeiro, a DeepSeek publicou um novo artigo que propõe a arquitetura de restrição de manifold superconectado (mHC), apresentando melhorias sistemáticas para resolver problemas de estabilidade das redes superconectadas (HC) na formação de grandes modelos. Isto não só reflete a dedicação da DeepSeek aos detalhes técnicos, mas também indica que o design de arquiteturas de grandes modelos está a entrar numa fase de otimização mais refinada.

Problemas ocultos no treino de grandes modelos

A tecnologia de redes superconectadas (HC) é uma ideia excelente, mas enfrenta problemas críticos na prática. A arquitetura HC aumenta as conexões na rede para melhorar o desempenho do modelo, mas neste processo, compromete a propriedade de mapeamento de identidade — uma característica importante no treino de redes neurais, que ajuda a facilitar o fluxo de gradientes e a manter a estabilidade do treino.

Isso leva a duas consequências diretas:

• Instabilidade no treino: o fluxo de gradientes é dificultado, dificultando a convergência do modelo
• Limitações de escalabilidade: quanto maior o modelo, mais evidente se torna o problema, dificultando o treino de modelos de escala ultra grande

Para empresas que buscam modelos maiores e mais poderosos, este é um obstáculo que não pode ser ignorado.

A abordagem de solução do mHC

A solução da DeepSeek é bastante direta: já que o HC compromete a propriedade de mapeamento de identidade, basta restaurá-la.

A inovação central do mHC reside em dois níveis:

Nível teórico

Mapear o espaço residual do HC para uma variedade específica, recuperando a propriedade de mapeamento de identidade neste espaço geométrico particular. Parece complexo, mas essencialmente trata-se de impor restrições matemáticas que permitem à rede manter a estabilidade do treino ao mesmo tempo que aumenta as conexões.

Nível de engenharia

Combinar otimizações rigorosas na infraestrutura para garantir eficiência. Não se trata apenas de melhorias teóricas, mas de assegurar que esta arquitetura possa funcionar de forma eficiente na prática de treino.

De acordo com a avaliação da equipe do artigo, esta melhoria alcançou uma “melhoria de desempenho significativa e uma escalabilidade superior” — o que significa que modelos com mHC não só treinam de forma mais estável, mas também podem ser escalados para tamanhos maiores.

Por que esta inovação merece atenção

À primeira vista, trata-se de um artigo técnico. Mas há alguns pontos importantes a considerar:

Aperfeiçoamento contínuo da tecnologia. A DeepSeek surpreendeu a indústria em 2024 com uma relação custo-benefício impressionante, e o novo artigo demonstra que a empresa não se limita ao sucesso comercial, continuando a investir na base tecnológica. Essa dedicação é rara.

Aprofundamento no design de arquiteturas. A competição por grandes modelos evoluiu de “quem tem mais parâmetros” para “quem tem a arquitetura mais eficiente”. O mHC representa essa direção de competição mais refinada — resolver problemas de treino com designs mais inteligentes, ao invés de simplesmente aumentar recursos.

Evolução dos modelos de base. A DeepSeek afirma claramente no artigo que o mHC “ajudará a compreender mais profundamente o design topológico de arquiteturas e apontará direções promissoras para a evolução dos modelos de base”. Isso indica que eles veem essa melhoria como um exemplo de desenvolvimento futuro de grandes modelos.

Resumo

O lançamento da arquitetura mHC demonstra o compromisso contínuo da DeepSeek com a inovação tecnológica. Ao restaurar a propriedade de mapeamento de identidade e combiná-la com otimizações de engenharia, esta nova arquitetura resolve problemas práticos do HC na formação de grandes modelos. Embora melhorias de infraestrutura básica não sejam tão chamativas quanto o lançamento de novos modelos, elas são igualmente importantes para impulsionar o avanço da tecnologia de grandes modelos. Em um cenário de competição global de IA cada vez mais acirrada, esse tipo de avanço técnico está se tornando uma vantagem competitiva central para as empresas.