A regressão linear descreve como uma variável de resposta y varia em função de uma ou mais variáveis explicativas x. Depois de encontrar os coeficientes da equação, podemos inserir novos valores de entrada e calcular uma previsão.
A equação resume a tendência média; os resíduos mostram o que ela não explicou.
01 · RELAÇÃO ENTRE VARIÁVEIS
Uma entrada explica; uma saída responde.
Escolhemos uma função para representar matematicamente a relação observada nos dados.
Exemplo: dose e crescimento
Em um experimento, x pode representar a dose de fertilizante e y o crescimento medido da planta. A regressão procura uma tendência média: quanto esperamos que o crescimento mude quando a dose aumenta uma unidade?
y = m·x + b + ε ŷ = m·x + b
y contém o valor real e o termo não explicado ε. A previsão ŷ contém somente a parte estimada pela função.
O significado de cada símbolo
xvariável explicativa ou entrada conhecida
yresposta realmente observada
ŷresposta prevista pela equação
minclinação: variação média de ŷ para cada +1 em x
bintercepto: previsão quando x = 0
εruído e fatores que a equação não representa
02 · DA EQUAÇÃO À PREVISÃO
Prever é substituir x e realizar a conta.
Equação encontrada
ŷ = 2,4x + 15
A inclinação 2,4 indica que, dentro da faixa estudada, cada unidade adicionada a x aumenta a previsão média em 2,4. O valor 15 é o ponto onde a reta cruza o eixo y.
Nova entrada x = 10
ŷ = m·x + b
ŷ = 2,4·10 + 15
ŷ = 24 + 15
ŷ = 39
Isso é uma previsão pontual. Ela não informa certeza absoluta e deve ser acompanhada do erro observado e, quando necessário, de um intervalo de previsão.
03 · GRÁFICO INTERATIVO
Mova os dados e os parâmetros da reta.
Arraste qualquer ponto. Depois altere m e b manualmente, calcule a solução direta ou acompanhe o gradiente descendente.
Arraste os círculos para mudar x e y.Tracejado laranja: resíduo eᵢ = yᵢ − ŷᵢ
Comece experimentando. Arraste os pontos, altere os coeficientes ou escolha um método de cálculo.
04 · TODA A MATEMÁTICA VISÍVEL
Cada ponto participa da função de custo.
Amostra
xᵢ
yᵢ real
ŷᵢ previsto
eᵢ = yᵢ−ŷᵢ
eᵢ²
1. Previsão
Aplique a reta em cada xᵢ.
ŷᵢ = m·xᵢ + b2. Resíduo
Compare observação e previsão.
eᵢ = yᵢ − ŷᵢ3. Quadrado
Evite cancelamento entre sinais.
eᵢ² = (yᵢ − ŷᵢ)²4. Custo
Calcule a média de todos os erros.
MSE = (1/n)Σeᵢ²
05 · COMO ENCONTRAR m E b?
Duas formas de calcular a mesma reta.
Fórmula direta · OLS
Mínimos Quadrados Ordinários escolhe os coeficientes que tornam a soma dos resíduos quadráticos a menor possível.
m = Σ(xᵢ−x̄)(yᵢ−ȳ) ÷ Σ(xᵢ−x̄)²
b = ȳ − m·x̄
Calcule as médias x̄ e ȳ.
Calcule o numerador e o denominador de m.
Use m e as médias para encontrar b.
A reta ótima aparece em uma solução direta.
Gradiente descendente
Começa com valores iniciais e atualiza os coeficientes repetidamente na direção que reduz o MSE.
∂MSE/∂m = (2/n)Σ(ŷᵢ−yᵢ)xᵢ ∂MSE/∂b = (2/n)Σ(ŷᵢ−yᵢ)
m ← m − η·∂MSE/∂m b ← b − η·∂MSE/∂b
Faça o forward para todos os pontos.
Calcule as derivadas do erro.
Atualize m e b usando a taxa η.
Repita até o custo estabilizar.
06 · VÁRIAS ENTRADAS
A reta se torna um plano ou hiperplano.
Regressão linear múltipla
ŷ = b + w₁x₁ + w₂x₂ + ··· + wₙxₙ
Cada peso expressa quanto a previsão varia com sua entrada quando as demais são mantidas constantes. A saída continua sendo uma soma linear.
Solução matricial
θ̂ = (XᵀX)⁻¹Xᵀy
X reúne todas as entradas; y reúne as respostas; θ̂ contém pesos e bias. Implementações reais usam solucionadores numericamente estáveis em vez de inverter a matriz literalmente.
07 · DA REGRESSÃO LINEAR AO PERCEPTRON
A soma linear é a ponte entre os dois modelos.
A regressão linear é uma precursora matemática do Perceptron: ela já combina entradas, pesos e bias em uma única expressão. O Perceptron conserva esse núcleo e acrescenta uma função de ativação para transformar o valor contínuo em uma classe.
REGRESSÃO LINEAR
Calcula uma saída contínua
ŷ = w₁x₁ + w₂x₂ + ··· + wₙxₙ + b
A própria soma ponderada é a previsão.
NÚCLEO HERDADO
Combinador linear
u = Σ(wᵢxᵢ) + b
As entradas são multiplicadas pelos pesos e somadas ao bias.
Perceptronŷ = degrau(0,26) = 1Como u ≥ 0, entrega a classe 1.
Elemento
Regressão linear
Perceptron
Entradas
x₁, x₂, …, xₙ
x₁, x₂, …, xₙ
Parâmetros
pesos w e bias b
pesos w e bias b
Combinador
u = Σ(wᵢxᵢ) + b
u = Σ(wᵢxᵢ) + b
Saída
contínua: ŷ = u
binária: ŷ = degrau(u)
Aprendizado clássico
minimiza erros quadráticos
corrige pesos quando erra a classe
Problema típico
prever preço, consumo ou temperatura
separar aprovado/reprovado ou 0/1
E AS REDES NEURAIS?
Uma RNA também pode aprender uma função de regressão.
Um neurônio com saída linear reproduz uma regressão linear. Camadas ocultas e ativações não lineares permitem aprender relações mais complexas. Esse caminho é estudado separadamente para não misturar a equação da reta com a arquitetura neural.