Derivada Numérica

Derivada numérica por diferenças finitas

Uma aproximação por diferenças finitas estima a derivada de f(x) amostrando a função em pontos próximos. A mais simples é a diferença progressiva (forward): f'(x) ≈ (f(x+h) − f(x))/h, e a regressiva (backward) é a imagem espelhada dela. As duas carregam erro O(h). Passe para a diferença central f'(x) ≈ (f(x+h) − f(x−h))/(2h) e o erro cai para O(h²). Um stencil de 5 pontos (−f(x+2h)+8f(x+h)−8f(x−h)+f(x−2h))/(12h) empurra isso até O(h⁴). A segunda derivada tem fórmula própria: f''(x) ≈ (f(x+h)−2f(x)+f(x−h))/h². Mantenha h pequeno, mas evite ir ao microscópico: quando fica tiny demais, o cancelamento numérico (a perda de dígitos significativos) passa a dominar. A diferenciação automática (autograd em PyTorch, JAX) contorna tudo isso aplicando a regra da cadeia simbolicamente em tempo de execução, e aí esses erros nem aparecem.

Aplicações e contexto

Derivadas numéricas aparecem em simulação física (CFD, FEM, eletromagnetismo), machine learning (gradient descent, ainda que aqui o autodiff costume assumir o lugar das diferenças finitas), economia (sensibilidade marginal), controle de engenharia e computação gráfica. Mesmo uma função caixa-preta sem derivada analítica conhecida ainda pode ser diferenciada assim.

Perguntas frequentes

Que h devo usar? Uma regra de bolso prática é h ≈ √ε para forward e h ≈ ∛ε para central, onde ε é o epsilon da máquina (por volta de 10⁻⁸ e 10⁻⁵ em precisão dupla).

Por que não reduzir h indefinidamente? Ao subtrair números quase iguais, você perde dígitos significativos. Abaixo de certo h o erro volta a crescer.

Quando autodiff é melhor? Sempre que você tem o código-fonte de f. Ele entrega derivadas exatas até o arredondamento e dá conta de milhares de entradas de uma vez no modo reverso, e é justamente por isso que todo framework de ML moderno usa.