Por que um modelo fica mais inteligente quanto mais pensa. · Source

Sua inteligência não fica fixa no treino. Deixe-o pensar mais.

Os mesmos pesos, o mesmo modelo — mas dedique mais esforço no instante em que ele responde, e ele acerta mais. Pensar é um botão à parte, separado do tamanho. Como uma longa exposição: um clique rápido do céu noturno mostra poucas estrelas; deixe a lente aberta mais tempo e milhares brotam da mesma escuridão. Nada mudou além do tempo que você deu.

Por padrão, cada pergunta recebe a mesma fração de segundo.

Pergunte qualquer coisa — uma charada ou uma soma — e ele responde em uma única passada, o mesmo esforço fixo para o trivial e para o diabólico. Nenhuma pergunta ganha um segundo pensamento. Como a campainha de um balcão: um toque e uma resposta salta, na hora, seja o pedido um copo d'água ou um banquete de cinco pratos. Rápido, mas nunca mais fundo quando precisa.

Então não pergunte uma vez. Pergunte cem vezes.

P(\text{success}) = 1 - (1-p)^{N}

A alavanca mais simples: deixe-o tentar a mesma pergunta vez após vez, cada tentativa independente caindo um pouco diferente. Um tiro pode errar; um leque de tiros raramente erra inteiro. Como riscar um fósforo úmido: uma risca pode não pegar, mas continue riscando e a chance de que nenhum acenda encolhe rápido. Se uma tentativa acerta com chance p, a de que todas as N errem é só (1−p)ᴺ.

Mas mais tentativas só ajudam se você identificar o vencedor.

Cem respostas não valem nada se algo não souber dizer qual é a certa. Esse juiz é a pegadinha — um verificador que pontua cada tentativa. Como um detector de metais sobre a areia: você pode cavar mil buracos, mas só acha o anel se algo lhe disser onde. Sem detector, você recorre ao voto de braço erguido — e a resposta favorita da multidão pode estar, com toda confiança e por unanimidade, errada.

Cada tentativa extra rende menos que a anterior.

\Delta P_N = p\,(1-p)^{N-1}

Os ganhos não chegam de graça para sempre. As primeiras tentativas fazem quase todo o trabalho; depois disso, cada nova tentativa move as chances um fio a menos que a anterior. Como espremer um limão: o primeiro aperto dá um jato, o próximo um fiozinho, e logo você força com tudo por uma única gota. A N-ésima tentativa soma apenas p(1−p)ᴺ⁻¹ — real, mas encolhendo geometricamente. Pensar mais sempre custa; nem sempre compensa.

Uma mente pequena, pensando muito, iguala uma grande que dispara.

C_{\text{test}} \approx 2\,N_{\text{params}}\,T_{\text{tokens}}

Isso compra uma segunda forma de ficar mais inteligente. A computação que você gasta ao responder é só o tamanho do modelo vezes o quanto ele gera — então deixar um modelo pensar K× mais tempo custa o mesmo que construir um K× maior. Como um serrote através de uma viga: uma lâmina pequena, com golpes pacientes o bastante, corta o que uma grande serra de serraria rasga numa só passada. Troque tamanho por tempo. Com moderação — force demais e os ganhos se achatam.

Agora dois aceleradores: quão grande você o constrói e quanto ele pensa.

A inteligência deixou de ser um único número que se assa no treino. Agora há dois aceleradores — o tamanho até onde você faz o modelo crescer e o tempo de pensar que lhe concede ao responder — e ambos compram precisão ao longo de uma curva suave e escalável. Como um carrinho de mão: um modesto, viagem após viagem, carrega o que uma grande carroça leva numa só carga. Força ou paciência — o trabalho chega do mesmo jeito.

Nenhum peso mudou. E ainda assim, com tempo, soube mais.

Nada no modelo se moveu. Nenhum fato novo foi aprendido. E ainda assim — com mais tempo para pensar — ele alcança respostas que antes não conseguia. Onde vivia esse saber enquanto permanecia impensado? Talvez pensar mais não crie a resposta de modo algum, apenas caminhe longe o bastante para encontrar uma que sempre esteve ao alcance. 🌱