TEORIA · GENERALIZAÇÃO

Aprender não é apenas acertar o treino.

Um bom modelo encontra um padrão que funciona também em dados que nunca viu. Subajuste e sobreajuste são dois modos diferentes de falhar nesse objetivo.

Comparar os três comportamentos ↓
Underfitting · SubajusteO modelo ainda não conseguiu representar nem mesmo o padrão dos dados de treinamento.
Overfitting · SobreajusteO modelo se adaptou demais ao treino e perdeu desempenho diante de exemplos novos.

O OBJETIVO REAL

O que é generalizar?

Generalização é a capacidade de aplicar o padrão aprendido a exemplos novos, que não participaram do treinamento.

Acertar os exemplos conhecidos é importante, mas não basta. Um modelo útil precisa manter um bom desempenho quando recebe dados de validação, teste ou do mundo real.

SEPARAÇÃO DOS DADOS

Treino, validação e teste têm funções diferentes.

Separar os dados permite medir o aprendizado sem mostrar todas as respostas ao modelo durante o desenvolvimento.

TreinoAjusta pesos e bias.
ValidaçãoEscolhe arquitetura, épocas e hiperparâmetros.
TesteFaz a avaliação final em dados intocados.

TRÊS RESULTADOS POSSÍVEIS

O mesmo conjunto de dados pode produzir modelos muito diferentes.

Os pontos são exemplos observados. A linha representa o padrão aprendido pelo modelo.

Underfitting · Subajuste

O modelo é simples demais ou ainda não treinou o suficiente. Ele não representa adequadamente nem os dados conhecidos.

Erro no treino altoErro em dados novos altoCapacidade insuficiente

Ajuste adequado

O modelo captura a tendência principal sem tentar seguir cada pequena variação ou ruído das amostras.

Erro no treino baixoErro em dados novos baixoGeneralização adequada

Overfitting · Sobreajuste

O modelo é flexível demais e tenta reproduzir cada exemplo, inclusive ruídos e particularidades que não se repetem.

Erro no treino muito baixoErro em dados novos altoGeneralização ruim

ERRO × ÉPOCAS

As curvas de aprendizado ajudam a encontrar o momento de parar.

Compare sempre o desempenho nos dados usados para treinar com o desempenho em dados separados para validação.

1,00,750,50,2500255075100épocaserroponto de parada treinovalidação

Como ler o gráfico?

  1. No início, os erros de treino e validação são altos: há subajuste.
  2. Com o aprendizado, as duas curvas diminuem e o modelo melhora.
  3. O menor erro de validação indica um bom candidato para interromper o treinamento.
  4. Depois desse ponto, o erro de treino continua caindo, mas o de validação sobe: começou o sobreajuste.
Erro de treinamentoErro de validação

DIAGNÓSTICO RÁPIDO

Observe os dois erros em conjunto.

SituaçãoErro de treinoErro de validação/testeLeitura
UnderfittingAltoAltoO modelo não aprendeu suficientemente o padrão.
Ajuste adequadoBaixoBaixo e próximo do treinoO padrão aprendido funciona em dados novos.
OverfittingMuito baixoAlto ou aumentandoO modelo se especializou demais nos exemplos de treino.

COMO CORRIGIR?

Subajuste e sobreajuste pedem ações opostas.

Quando há underfitting

Precisamos dar ao modelo condições para representar melhor o padrão.

Causas frequentes

  • Arquitetura simples ou pequena demais.
  • Poucas épocas de treinamento.
  • Entradas pouco informativas.
  • Regularização excessivamente forte.
  • Taxa de aprendizado ou otimização inadequadas.

Ações possíveis

  • Aumentar a capacidade do modelo.
  • Treinar por mais épocas.
  • Criar ou selecionar características mais informativas.
  • Reduzir a regularização quando ela estiver limitando o aprendizado.
  • Revisar taxa de aprendizado, dados e processo de otimização.

Quando há overfitting

Precisamos reduzir a memorização e favorecer padrões que se repetem fora do treino.

Causas frequentes

  • Modelo complexo demais para a quantidade de dados.
  • Poucas amostras ou dados pouco representativos.
  • Treinamento prolongado além do ponto ideal.
  • Ruído, rótulos incorretos ou vazamento de dados.

Ações possíveis

  • Coletar mais dados ou usar aumento de dados.
  • Aplicar regularização L1/L2 ou dropout.
  • Reduzir camadas, neurônios ou parâmetros.
  • Usar parada antecipada baseada na validação.
  • Revisar a separação dos conjuntos e eliminar vazamentos.

Procedimento recomendado

  1. Separe treino, validação e teste antes de começar.
  2. Treine usando somente o conjunto de treino.
  3. Escolha arquitetura e épocas observando a validação.
  4. Use o teste apenas uma vez na avaliação final.

IDEIA PARA LEVAR

O melhor modelo não é o que mais memoriza o treino.

É aquele que encontra um equilíbrio entre capacidade e simplicidade, mantendo um erro baixo também diante de exemplos novos.

Aplicar os conceitos nos laboratórios →