Context window não é memória
Janela de contexto e memória resolvem problemas diferentes: uma é o espaço finito de uma interação, a outra é armazenamento persistente entre sessões.
BLOG
Tecnologia, código, experimentos e algumas opiniões não solicitadas.
Janela de contexto e memória resolvem problemas diferentes: uma é o espaço finito de uma interação, a outra é armazenamento persistente entre sessões.
System prompt, user prompt e janela de contexto têm papéis e prioridades diferentes numa chamada de API, e confundir os três gera expectativa errada.
Zero-shot e few-shot descrevem uma ideia simples, pedir com ou sem exemplo, escondida atrás de uma terminologia mais complicada do que precisa.
Contexto, instrução, restrições e exemplos mudam a qualidade de uma resposta de IA generativa mais do que qualquer técnica isolada de prompt engineering.
Testei cinco agentes de IA diferentes na mesma tarefa de trabalho e descobri que o problema nunca foi falta de ferramenta. Fui eu não ter perguntado antes se precisava de uma.
Uma reflexão sobre a pressa para colocar IA em produtos, a diferença entre usar IA para desenvolver e colocar IA em produção, e a pergunta que deveria vir antes de tudo isso.