O que é Token (I.A.)?
Token é a unidade de texto que um modelo de linguagem lê e escreve: um pedaço de palavra, uma palavra curta ou um sinal de pontuação. É também a unidade usada para cobrar o uso de modelos de I.A. por API.
Antes de processar um texto, o modelo o divide em tokens. Em inglês, um token corresponde em média a cerca de três quartos de uma palavra; em português, costuma ser preciso mais tokens para o mesmo conteúdo. Os provedores cobram separadamente os tokens de entrada (o que você envia, incluindo instruções e documentos) e os de saída (o que o modelo responde), por isso enxugar instruções e evitar reenviar documentos inteiros reduz o custo de um agente em produção.
- GlossárioLLM (Large Language Model)Um LLM é um modelo de I.A. treinado em grandes volumes de texto para prever e gerar linguagem natural, a tecnologia base por trás de assistentes como o Claude, usada tanto para conversar quanto para orquestrar agentes.
- GlossárioJanela de contextoJanela de contexto é a quantidade máxima de texto, medida em tokens, que um modelo de I.A. consegue considerar de uma vez: instruções, histórico da conversa, documentos enviados e a própria resposta.
- BlogManutenção de agente de I.A.: por que ele piora com o tempo e quanto custa manterPor que um agente de I.A. perde qualidade depois de alguns meses, quais custos continuam depois do lançamento e o que um plano de manutenção precisa cobrir.
Transforme o jeito que você trabalha com I.A.
Converse com a equipe SINOON e descubra qual produto, curso ou serviço faz mais sentido pro seu momento.