MACHINE LEARNING · REGRESSÃO NÃO LINEAR

Representar uma relação que muda de direção.

Na regressão não linear, o efeito de uma entrada sobre a resposta não é constante em toda a escala. Usamos uma função curva para descrever essa dependência e calcular previsões.

Entender a parábola
−3−2−1012302468xy
A inclinação muda ao longo de x; uma única reta não representa essa relação.

01 · RELAÇÃO NÃO LINEAR

A variação de y depende do ponto em que x está.

Uma parábola é o exemplo matemático mais simples para visualizar uma relação curva.

Função quadrática

y = ax² + bx + c + ε
ŷ = ax² + bx + c

O termo permite que a inclinação mude. A função pode diminuir, atingir um mínimo e depois aumentar — comportamento impossível para uma única reta.

O papel dos coeficientes

acontrola a curvatura e o sentido da abertura
binclina e desloca a posição do vértice
cdefine a previsão quando x = 0
εrepresenta ruído e fatores não incluídos

02 · DA FUNÇÃO À PREVISÃO

Substituímos x na função curva.

Equação encontrada

ŷ = 0,5x² − 2x + 6

Como a = 0,5 é positivo, a parábola abre para cima. O efeito marginal não é constante: a derivada é dŷ/dx = x − 2.

Nova entrada x = 4

ŷ = 0,5x² − 2x + 6

ŷ = 0,5·4² − 2·4 + 6

ŷ = 0,5·16 − 8 + 6

ŷ = 8 − 8 + 6

ŷ = 6

03 · GRÁFICO INTERATIVO

Mova os pontos e molde a parábola.

Altere a, b e c, arraste os dados e compare a solução direta com o ajuste iterativo.

Arraste os círculos para mudar x e y.Tracejado laranja: resíduo eᵢ = yᵢ − ŷᵢ
Comece experimentando. Arraste os pontos, altere os coeficientes ou escolha um método de cálculo.

04 · TODA A MATEMÁTICA VISÍVEL

A função mudou; o conceito de erro permanece.

Amostraxᵢyᵢ realŷᵢ previstoeᵢ = yᵢ−ŷᵢeᵢ²
1. Transformação

Calcule xᵢ² para cada entrada.

xᵢ → [xᵢ², xᵢ, 1]
2. Previsão

Aplique os três coeficientes.

ŷᵢ = axᵢ² + bxᵢ + c
3. Resíduo

Compare o observado com a curva.

eᵢ = yᵢ − ŷᵢ
4. Custo

Some e tire a média dos quadrados.

MSE = (1/n)Σeᵢ²

05 · COMO ENCONTRAR a, b E c?

A curva também pode ser calculada de duas formas.

OLS com características polinomiais

Adicionamos como uma nova coluna. O problema passa a ter três coeficientes, encontrados simultaneamente pelas equações normais.

X = [x²   x   1]

θ̂ = (XᵀX)⁻¹Xᵀy

θ̂ = [a   b   c]ᵀ

A curva é não linear em x, mas linear nos coeficientes a, b e c. Por isso mínimos quadrados ainda funciona.

Gradiente descendente

Também podemos iniciar a, b e c com valores quaisquer e reduzi-los ou aumentá-los aos poucos.

∂MSE/∂a = (2/n)Σ(ŷᵢ−yᵢ)xᵢ²
∂MSE/∂b = (2/n)Σ(ŷᵢ−yᵢ)xᵢ
∂MSE/∂c = (2/n)Σ(ŷᵢ−yᵢ)

a ← a − η·∂MSE/∂a
b ← b − η·∂MSE/∂b
c ← c − η·∂MSE/∂c

06 · OUTRAS FUNÇÕES

Nem toda relação curva é uma parábola.

Comportamento observadoFunção candidataEquação ilustrativaCuidado
Crescimento que aceleraExponencialŷ = a·eᵇˣExtrapola rapidamente.
Cresce e depois estabilizaLogísticaŷ = L ÷ (1+e⁻ᵏ⁽ˣ⁻ˣ⁰⁾)Exige estimar limite e ponto de inflexão.
Retorno decrescenteLogarítmicaŷ = a·ln(x) + bRequer x positivo.
Oscilação periódicaSenoidalŷ = a·sen(bx+c)Frequência e fase precisam ser identificadas.

E AS REDES NEURAIS?

Uma RNA pode aprender a função sem receber uma parábola pronta.

Camadas ocultas combinam pesos, bias e funções de ativação para aproximar relações não lineares. A saída de regressão continua produzindo ŷ e o treinamento ainda reduz uma função de erro, mas a arquitetura possui muito mais parâmetros.

Estudar MLP e backpropagation

IDEIA PARA LEVAR

A previsão nasce de uma função aprendida nos dados.

Na reta, a inclinação é constante. Na curva, ela varia. Em ambos os casos, calculamos ŷ, medimos os resíduos e escolhemos coeficientes que reduzem o erro.

Revisar regressão linear