Janela de contexto é a quantidade máxima de texto, medida em tokens, que um modelo de I.A. consegue considerar de uma vez: instruções, histórico da conversa, documentos enviados e a própria resposta.
Tudo o que passa do limite da janela fica de fora: o modelo simplesmente não enxerga. Os modelos mais recentes aceitam centenas de milhares de tokens, o suficiente para livros inteiros, mas janelas cheias custam mais e podem diluir a atenção do modelo no que importa. Por isso, em vez de colocar todos os documentos da empresa no contexto, assistentes corporativos usam RAG para buscar só os trechos relevantes a cada pergunta.
Converse com a equipe SINOON e descubra qual produto, curso ou serviço faz mais sentido pro seu momento.