Como um modelo melhora, afinal: um pequeno passo ladeira abaixo. · Source

Um modelo não é escrito. É empurrado ladeira abaixo, um passo de cada vez.

Ninguém programa à mão os bilhões de ajustes de um modelo. Ele os encontra: mede o quanto está errado e então empurra cada botão um fio na direção de menos erro. Faça isso um milhão de vezes e uma rede em branco vira uma mente. O método tem um nome simples: descida de gradiente — descer a ladeira dos próprios erros.

Um número diz o quanto está errado. E um bilhão de botões para girar.

O treino esmaga cada erro em um único número — a perda. Quanto menor, melhor, e ela depende de todos os botões ao mesmo tempo. Como um muro de válvulas idênticas que se perde de vista: girá-las uma a uma, tentando combinações, levaria mais que a idade do universo. Não dá para buscar assim. Você precisa de uma direção — para que lado girar cada botão, agora.

Para que lado é ladeira abaixo? Pergunte à inclinação.

\nabla L(\theta) = \left( \dfrac{\partial L}{\partial \theta_1},\ \dots,\ \dfrac{\partial L}{\partial \theta_n} \right)

Para um botão, sua inclinação diz para que lado a perda sobe, e quão íngreme. Junte a inclinação de cada botão numa única seta e você tem o gradiente: a subida mais íngreme. Como ler uma encosta pelas botas na neblina: cego à montanha inteira, seus pés ainda sentem exatamente para que lado o chão se inclina. Em poucas palavras: o gradiente é a inclinação de todos os botões de uma vez, empacotada numa seta que aponta para a subida mais rápida.

Quer descer? Dê o passo contra a seta.

\theta_{t+1} = \theta_t - \eta\, \nabla L(\theta_t)

O gradiente aponta ladeira acima — o último lugar onde queremos estar. Então inverta: pegue os botões que você tem e dê um passinho no sentido oposto. E de novo. E de novo. Como afinar um violão: agudo demais, afrouxe um fio; grave demais, aperte um fio — nunca aos puxões, sempre se aproximando da nota. Em poucas palavras: botões novos = botões antigos menos um pequeno passo (o η) ladeira abaixo. Essa única linha, repetida um milhão de vezes, é aprender.

O tamanho do passo é tudo. Grande ou pequeno demais, os dois falham.

L(\theta - \eta \nabla L) \approx L(\theta) - \eta\, \lVert \nabla L \rVert^{2}

Esse tamanho de passo — η, a taxa de aprendizado — é o dial mais importante do treino. Em poucas palavras: um pequeno passo ladeira abaixo reduz a perda em cerca de (tamanho do passo) × (inclinação)², um avanço honesto e previsível — mas só enquanto o passo for pequeno o bastante para essa estimativa em linha reta valer. Como uma tacada de putt: bata forte demais e você passa direto pelo buraco; toque leve demais e para antes. O ritmo certo a faz cair.

Não dá para pesar cada exemplo a cada passo. Então pegue um punhado.

\nabla L(\theta) \approx \dfrac{1}{|B|} \sum_{i \in B} \nabla L_i(\theta)

A inclinação verdadeira exige rodar cada exemplo de treino — lento demais para fazer a cada passo. Então pegue um pequeno lote aleatório e tire a média só das inclinações dele. Como julgar um saco de café por um punhado: você não despeja o saco inteiro — uma concha honesta estima o resto. Em poucas palavras: um palpite barato e trêmulo da inclinação — e o tremor até ajuda a tirar você de buracos rasos. Isto é a descida de gradiente estocástica.

Esse é o motor inteiro. Você termina quando o chão fica plano.

\nabla L(\theta^{*}) = 0

Tire os nomes e aprender são quatro movimentos em laço: meça o quanto errou, leia a inclinação, dê o passo contra ela, repita. Bilhões de botões, uma só regra. Em poucas palavras: você chegou quando o gradiente toca o zero — não sobra inclinação, o chão é plano, não há para onde descer. Esse ponto plano é o fundo para o qual a caminhada inteira pendia. Uma rede em branco virou uma mente, e isto — uma descida paciente, cega e implacável — foi a única coisa que a pôs lá.

🌱 Mas qual fundo? Depende de onde você começou.

🌱 Uma paisagem tão vasta tem muitos vales, não um só. Chão plano significa apenas um fundo, não o fundo — comece em outro lugar, pise um pouco diferente, e você vai parar numa bacia totalmente distinta. Então o modelo que você obtém não é o único que servia; é aquele em que o seu caminho por acaso se acomodou. Existe sequer uma única resposta verdadeira esperando lá embaixo — ou só a cova em que você rolou, e a estrada que o levou até ela?