MACHINE LEARNING · REGRESSÃO LINEAR

Representar uma relação com uma equação.

A regressão linear descreve como uma variável de resposta y varia em função de uma ou mais variáveis explicativas x. Depois de encontrar os coeficientes da equação, podemos inserir novos valores de entrada e calcular uma previsão.

Construir o modelo
01234502468xy
A equação resume a tendência média; os resíduos mostram o que ela não explicou.

01 · RELAÇÃO ENTRE VARIÁVEIS

Uma entrada explica; uma saída responde.

Escolhemos uma função para representar matematicamente a relação observada nos dados.

Exemplo: dose e crescimento

Em um experimento, x pode representar a dose de fertilizante e y o crescimento medido da planta. A regressão procura uma tendência média: quanto esperamos que o crescimento mude quando a dose aumenta uma unidade?

y = m·x + b + ε
ŷ = m·x + b

y contém o valor real e o termo não explicado ε. A previsão ŷ contém somente a parte estimada pela função.

O significado de cada símbolo

xvariável explicativa ou entrada conhecida
yresposta realmente observada
ŷresposta prevista pela equação
minclinação: variação média de ŷ para cada +1 em x
bintercepto: previsão quando x = 0
εruído e fatores que a equação não representa

02 · DA EQUAÇÃO À PREVISÃO

Prever é substituir x e realizar a conta.

Equação encontrada

ŷ = 2,4x + 15

A inclinação 2,4 indica que, dentro da faixa estudada, cada unidade adicionada a x aumenta a previsão média em 2,4. O valor 15 é o ponto onde a reta cruza o eixo y.

Nova entrada x = 10

ŷ = m·x + b

ŷ = 2,4·10 + 15

ŷ = 24 + 15

ŷ = 39

Isso é uma previsão pontual. Ela não informa certeza absoluta e deve ser acompanhada do erro observado e, quando necessário, de um intervalo de previsão.

03 · GRÁFICO INTERATIVO

Mova os dados e os parâmetros da reta.

Arraste qualquer ponto. Depois altere m e b manualmente, calcule a solução direta ou acompanhe o gradiente descendente.

Arraste os círculos para mudar x e y.Tracejado laranja: resíduo eᵢ = yᵢ − ŷᵢ
Comece experimentando. Arraste os pontos, altere os coeficientes ou escolha um método de cálculo.

04 · TODA A MATEMÁTICA VISÍVEL

Cada ponto participa da função de custo.

Amostraxᵢyᵢ realŷᵢ previstoeᵢ = yᵢ−ŷᵢeᵢ²
1. Previsão

Aplique a reta em cada xᵢ.

ŷᵢ = m·xᵢ + b
2. Resíduo

Compare observação e previsão.

eᵢ = yᵢ − ŷᵢ
3. Quadrado

Evite cancelamento entre sinais.

eᵢ² = (yᵢ − ŷᵢ)²
4. Custo

Calcule a média de todos os erros.

MSE = (1/n)Σeᵢ²

05 · COMO ENCONTRAR m E b?

Duas formas de calcular a mesma reta.

Fórmula direta · OLS

Mínimos Quadrados Ordinários escolhe os coeficientes que tornam a soma dos resíduos quadráticos a menor possível.

m = Σ(xᵢ−x̄)(yᵢ−ȳ) ÷ Σ(xᵢ−x̄)²

b = ȳ − m·x̄
  1. Calcule as médias x̄ e ȳ.
  2. Calcule o numerador e o denominador de m.
  3. Use m e as médias para encontrar b.
  4. A reta ótima aparece em uma solução direta.

Gradiente descendente

Começa com valores iniciais e atualiza os coeficientes repetidamente na direção que reduz o MSE.

∂MSE/∂m = (2/n)Σ(ŷᵢ−yᵢ)xᵢ
∂MSE/∂b = (2/n)Σ(ŷᵢ−yᵢ)

m ← m − η·∂MSE/∂m
b ← b − η·∂MSE/∂b
  1. Faça o forward para todos os pontos.
  2. Calcule as derivadas do erro.
  3. Atualize m e b usando a taxa η.
  4. Repita até o custo estabilizar.

06 · VÁRIAS ENTRADAS

A reta se torna um plano ou hiperplano.

Regressão linear múltipla

ŷ = b + w₁x₁ + w₂x₂ + ··· + wₙxₙ

Cada peso expressa quanto a previsão varia com sua entrada quando as demais são mantidas constantes. A saída continua sendo uma soma linear.

Solução matricial

θ̂ = (XᵀX)⁻¹Xᵀy

X reúne todas as entradas; y reúne as respostas; θ̂ contém pesos e bias. Implementações reais usam solucionadores numericamente estáveis em vez de inverter a matriz literalmente.

07 · DA REGRESSÃO LINEAR AO PERCEPTRON

A soma linear é a ponte entre os dois modelos.

A regressão linear é uma precursora matemática do Perceptron: ela já combina entradas, pesos e bias em uma única expressão. O Perceptron conserva esse núcleo e acrescenta uma função de ativação para transformar o valor contínuo em uma classe.

REGRESSÃO LINEAR

Calcula uma saída contínua

ŷ = w₁x₁ + w₂x₂ + ··· + wₙxₙ + b

A própria soma ponderada é a previsão.

NÚCLEO HERDADO

Combinador linear

u = Σ(wᵢxᵢ) + b

As entradas são multiplicadas pelos pesos e somadas ao bias.

PERCEPTRON

Aplica uma decisão

ŷ = g(u)

A função degrau converte o potencial u em 0 ou 1.

A mesma entrada nos dois modelos

Considere duas entradas, dois pesos e um bias:

x₁ = 0,8 · x₂ = 0,6
w₁ = 0,7 · w₂ = 0,5 · b = −0,6

1. Primeiro, a soma linear

u = w₁x₁ + w₂x₂ + b

u = 0,7·0,8 + 0,5·0,6 − 0,6

u = 0,56 + 0,30 − 0,60

u = 0,26

2. Depois, cada modelo responde

Regressãoŷ = u = 0,26Entrega um número contínuo.
Perceptronŷ = degrau(0,26) = 1Como u ≥ 0, entrega a classe 1.
ElementoRegressão linearPerceptron
Entradasx₁, x₂, …, xₙx₁, x₂, …, xₙ
Parâmetrospesos w e bias bpesos w e bias b
Combinadoru = Σ(wᵢxᵢ) + bu = Σ(wᵢxᵢ) + b
Saídacontínua: ŷ = ubinária: ŷ = degrau(u)
Aprendizado clássicominimiza erros quadráticoscorrige pesos quando erra a classe
Problema típicoprever preço, consumo ou temperaturaseparar aprovado/reprovado ou 0/1

E AS REDES NEURAIS?

Uma RNA também pode aprender uma função de regressão.

Um neurônio com saída linear reproduz uma regressão linear. Camadas ocultas e ativações não lineares permitem aprender relações mais complexas. Esse caminho é estudado separadamente para não misturar a equação da reta com a arquitetura neural.

Abrir Perceptron Multicamadas

PRÓXIMO PASSO

Quando a taxa de variação não é constante.

Se uma reta deixa resíduos estruturados, podemos representar a relação com uma função curva.

Estudar regressão não linear