5.2 · PREPARAÇÃO DOS DADOS

Normalização e padronização

Mudar a escala não altera o significado do atributo, mas torna suas magnitudes comparáveis. Isso é especialmente importante em modelos baseados em distância, gradiente, regularização e kernels.

DUAS TRANSFORMAÇÕES

Intervalo fixo ou distância da média?

Min–max · normalização

Transporta mínimo e máximo para um intervalo, normalmente [0, 1]. O menor valor vira 0 e o maior vira 1. É sensível a valores extremos.

x' = (x − xₘᵢₙ)/(xₘₐₓ − xₘᵢₙ)

Z-score · padronização

Centraliza a coluna na média e mede quantos desvios-padrão separam cada valor da média.

z = (x − μ)/σ

Quando faz diferença?

k-NN, k-means, SVM com RBF, PCA, regressões regularizadas e redes neurais são sensíveis à escala. Árvores costumam ser pouco afetadas por transformações monotônicas.

Calcule μ, σ, mínimo e máximo somente no treino. Guarde essas estatísticas e use exatamente as mesmas para transformar validação, teste e novas previsões.

PARA QUE USAR Z-SCORE?

Comparar valores usando a distância até a média.

O z-score troca a unidade original — reais, anos ou quilômetros — por uma unidade comum: o número de desvios-padrão que separa o valor da média da coluna.

Centralizar em zero

Depois da padronização, a média da coluna fica próxima de 0. Isso facilita a otimização de modelos treinados por gradiente.

x = μ → z = 0

Igualar a escala

O desvio-padrão passa a valer 1. Assim, renda, idade e distância podem participar de cálculos sem uma coluna dominar apenas pela unidade.

1 unidade z = 1 desvio σ

Interpretar posição

O sinal informa o lado da média e o módulo informa a distância: z negativo está abaixo; z positivo está acima.

z = −1,2 → 1,2σ abaixo de μ
z-scoreLeituraExemplo
z = 0Valor igual à média.Renda exatamente igual à renda média do treino.
z = +1Um desvio-padrão acima da média.Valor maior que o centro da coluna.
z = −2Dois desvios-padrão abaixo da média.Valor consideravelmente abaixo do centro.
|z| elevadoValor distante da maior parte da coluna.Pode ser extremo, mas exige análise do domínio.

Modelos que costumam se beneficiar

k-NN, k-means, SVM, PCA, regressões linear e logística regularizadas, redes neurais e outros métodos baseados em distância ou gradiente.

Quando escolher z-score

Quando as colunas possuem unidades muito diferentes e queremos preservar quanto cada valor está distante da média, sem obrigá-lo a ficar entre 0 e 1.

O que ele não faz

Não transforma automaticamente os dados em uma distribuição normal, não limita valores extremos e não corrige viés, erros de coleta ou rótulos incorretos.

Exemplo: suponha renda média μ = R$ 6.000 e desvio σ = R$ 2.000. Para uma renda de R$ 8.000, z = (8.000 − 6.000)/2.000 = 1. O valor está um desvio-padrão acima da média. Essa leitura pode ser comparada com o z-score de idade ou distância, mesmo que as unidades originais sejam diferentes.
Z-score não significa probabilidade por si só. Interpretações como “aproximadamente 95% entre −2 e +2” dependem de a distribuição ser aproximadamente normal. O cálculo do z-score pode ser usado sem normalidade, mas essa leitura probabilística não.

POR QUE NÚMEROS GRANDES ATRAPALHAM?

O algoritmo enxerga magnitude antes de entender significado.

Uma coluna em milhares e outra entre 0 e 5 podem contribuir de forma muito diferente para os cálculos, mesmo quando a segunda é tão importante quanto a primeira.

Distâncias ficam dominadas

Em k-NN, k-means e kernels, diferenças grandes pesam ao quadrado. Uma diferença de renda igual a 1.000 contribui com 1.000.000; uma diferença de idade igual a 10 contribui com apenas 100.

d² = 10² + 1000²

Gradiente fica desequilibrado

A superfície de custo pode ficar muito alongada. O gradiente desce em zigue-zague, exige taxa de aprendizado menor e pode demorar mais para convergir ou oscilar.

Δwⱼ ∝ erro × xⱼ

Regularização compara pesos

Quando as escalas são diferentes, o modelo precisa de pesos numericamente muito diferentes para compensá-las. Penalidades L1 e L2 passam a comparar coeficientes em escalas incompatíveis.

L₂ = λΣwⱼ²
Isso pode gerar preferência pela escala, mas não é automaticamente “viés estatístico”. Uma variável grande pode dominar a otimização, a distância ou a regularização e influenciar demais a resposta. Entretanto, normalizar não corrige amostra desbalanceada, rótulos preconceituosos, variável omitida ou desigualdade histórica. Esses são outros tipos de viés e precisam de diagnóstico próprio.
Números extremos também podem gerar instabilidade numérica. Produtos, quadrados e exponenciais muito grandes podem perder precisão ou resultar em infinito/NaN. Escala, clipping e transformações logarítmicas podem ajudar, desde que sejam adequados à distribuição.

LABORATÓRIO INTERATIVO

Normalize e padronize cinco colunas.

A tabela possui cinco amostras e cinco atributos com escalas diferentes. Edite qualquer célula: mínimo, máximo, média, desvio-padrão, min–max, z-score e todas as contas serão atualizados imediatamente.

AmostraIdade anosRenda R$Distância kmCompras unidadesSatisfação nota 1–5
A
B
C
D
E

Estatísticas calculadas coluna por coluna

O laboratório usa o desvio-padrão populacional didático: σ = √(Σ(xᵢ − μ)²/N), com N = 5.

AtributoMínimoMáximoMédia μDesvio σ

Todos os valores normalizados por min–max

Cada coluna passa a ocupar o intervalo de 0 a 1.

AmostraIdadeRendaDistânciaComprasSatisfação

Todos os valores padronizados por z-score

Valores negativos estão abaixo da média; positivos estão acima; zero coincide com a média.

AmostraIdadeRendaDistânciaComprasSatisfação

As cinco caixas usam as estatísticas da respectiva coluna, nunca as estatísticas de outra variável.

Se todos os valores de uma coluna forem iguais, sua amplitude e seu desvio serão zero. Neste laboratório o resultado transformado será mostrado como 0 para evitar divisão por zero; na prática, uma coluna constante não acrescenta informação e pode ser removida.

DECISÃO PRÁTICA

A distribuição e o modelo orientam a escolha.

Min–max

Útil quando limites são conhecidos e estáveis e há poucos extremos. Um novo valor fora dos limites do treino pode produzir resultado menor que 0 ou maior que 1.

Z-score

Boa escolha quando a distribuição é aproximadamente concentrada em torno da média. Não obriga os dados a terem distribuição normal.

Log e clipping

Podem ajudar com caudas longas e extremos, mas precisam de justificativa, ajuste no treino e monitoramento em produção.

Fontes consultadas: Google ML · normalização · scikit-learn · StandardScaler · scikit-learn · importância da escala.

Próximo: engenharia de atributos.

Transforme conhecimento do domínio em representações que facilitem o aprendizado.

Abrir engenharia de atributos →