Como descer uma montanha que você não consegue ver. · Source

Noite, névoa, sem mapa — e uma montanha para descer

A névoa chegou antes de a luz ir embora. Agora Mira está em algum ponto alto da encosta — sem mapa, sem lanterna, sem estrelas, numa névoa tão espessa que ela não vê as próprias botas. Em algum lugar lá embaixo fica o vale: calor, água, abrigo. Ela não enxerga um passo do caminho. Mas existe uma coisa que a montanha não consegue esconder dela…

O chão diz uma coisa: para onde é descida

O chão sob as botas. Ela gira devagar no lugar, e os tornozelos relatam a inclinação: por aqui sobe, por ali desce, e uma direção despenca mais íngreme que todas. Um pedaço de montanha do tamanho de uma bota — isso é tudo o que ela pode saber. E basta para escolher um único passo. Mas qual deve ser o tamanho desse passo?

Salte e você passa do ponto; rasteje e o dia amanhece

Ela tenta a ousadia: um salto longo ladeira abaixo — e a bota aterrissa subindo, além do fundo da pequena depressão, encosta oposta acima. Saltos mais ousados a levariam cada vez mais para o alto, não para baixo. Tímida, então: passinhos de um palmo — mas nesse ritmo o amanhecer a encontrará ainda ali em cima. O passo precisa caber na encosta. Um ritmo nasce…

Sinta, dê um passo, pare. Sinta de novo.

Sentir a inclinação. Dar um passo medido pela linha mais íngreme. Parar. O chão sob as botas já é outro, com um conselho novo — então ela sente de novo, pisa de novo. Nenhum movimento precisa da montanha inteira: cada um usa só o pedaço onde ela está. Centenas de passos pequenos e honestos, e a encosta vai se desenrolando embaixo dela — até o chão ficar estranho…

Plano sob cada bota — mas é o fundo?

De repente todas as direções são planas; os tornozelos não relatam nada. A descida acabou — ela chegou! Mas o ar segue frio e rarefeito, nenhum som de água, nenhuma árvore. É uma concavidade: uma pequena bacia no alto da montanha, plana o bastante para enganar os pés. Ela percorre a borda — essas bacias raramente são fechadas. Um lado cede, de leve, de leve…

A noite dela tem nome: descida do gradiente

\theta \leftarrow \theta - \eta \nabla L

Ela cruza a borda e desce, enfim, até a água corrente. O que a trouxe até aqui é como as máquinas aprendem. A montanha é o erro de um modelo; a posição dela, os ajustes; a inclinação sob os pés, o gradiente; a passada, a taxa de aprendizado. Sentir, pisar, repetir: descida do gradiente. A linha abaixo é a noite inteira dela — lugar novo = lugar velho menos passada vezes inclinação.

🌱 Para uma máquina, a névoa nunca se dissipa

Ao amanhecer a névoa afina e Mira enfim vê a montanha que desceu. Uma máquina que aprende nunca ganha esse amanhecer: sua névoa é permanente, sua paisagem tem milhões de direções, e ela simplesmente para onde todo caminho é subida. Ela encontrou um vale — era o mais fundo? E se a água daqui é doce, quanto deveria pesar a pergunta?