Agentes de IA✦ Gerado por IA

Anthropic acelera Claude com 'threads' para agentes de IA

A Anthropic lançou uma nova funcionalidade beta para sua API, os 'message threads', que promete acelerar as respostas do Claude em sessões longas. Essa inovação permite que agentes de IA enviem apenas as novas mensagens, otimizando o tempo de espera.

Edição de ·The Next Web AI·5 min de leitura·
CompartilharWhatsAppXLinkedInFacebook
💡

Principal Aprendizado

A nova funcionalidade 'message threads' da Anthropic acelera as respostas do Claude em 35% para agentes de IA em sessões longas, otimizando o tempo de desenvolvimento.

A Anthropic, criadora do modelo de linguagem Claude, acaba de introduzir uma funcionalidade em fase beta para sua API, os chamados 'message threads'. Essa novidade visa otimizar a comunicação entre agentes de inteligência artificial e o Claude, especialmente em interações mais extensas, conforme noticiado pelo The Next Web AI.

Tradicionalmente, em sessões longas, os agentes de IA precisavam reenviar todo o histórico da conversa a cada nova solicitação. Imagine um agente de codificação que realiza centenas de requisições: cada uma delas carregava consigo todas as mensagens anteriores e resultados de ferramentas. Quando esse histórico atingia centenas de milhares de 'tokens', reenviar tudo gerava um atraso considerável antes que o Claude pudesse começar a responder.

Como os 'threads' funcionam na prática

Com a implementação dos 'message threads', a dinâmica muda. Agora, um agente envia a conversa completa apenas uma vez. A partir daí, ele passa a enviar somente as informações novas, acompanhadas do identificador da última resposta do Claude. Essa abordagem simplificada reduz significativamente o volume de dados transmitidos a cada interação subsequente.

A Anthropic já ativou essa funcionalidade para a maioria dos usuários do Claude Code, seu agente de codificação. Os resultados iniciais são promissores: em requisições que variam de 500 mil a 1 milhão de tokens, o tempo de espera típico antes que o Claude comece a responder foi reduzido em cerca de 35%, segundo o The Next Web AI. Isso representa um ganho notável de eficiência, especialmente para desenvolvedores que trabalham com tarefas complexas e iterativas.

Impacto e considerações importantes

É crucial notar que, embora os 'threads' economizem tempo, eles não alteram os custos. O Claude ainda processa e lê a conversa completa a cada turno, e a Anthropic afirma que os preços e os limites de taxa permanecem inalterados. Para endereçar a questão dos custos em sessões longas, a empresa já havia reduzido os preços de cache em 75% em setembro, reconhecendo que essas interações podem elevar as despesas com IA.

Os 'threads' são mantidos em memória, criptografados e nunca são gravados em disco. Eles expiram cinco minutos após a última requisição, o que significa que os desenvolvedores precisam manter suas próprias cópias de cada conversa. A Anthropic também esclarece que os 'threads' não são elegíveis para suas configurações de retenção zero de dados ou para os padrões de dados de saúde HIPAA. A funcionalidade beta está disponível para todos os modelos Claude, tanto na plataforma da Anthropic quanto através de parceiros como AWS, Microsoft Foundry e Google Cloud.

O que isso muda para você

Para profissionais brasileiros que atuam com desenvolvimento de IA ou que dependem de agentes inteligentes para otimizar fluxos de trabalho, a chegada dos 'message threads' do Claude é uma notícia relevante. A redução de 35% no tempo de resposta em sessões longas pode se traduzir em maior agilidade no desenvolvimento de protótipos, na execução de testes ou na automação de tarefas complexas, como a geração de código ou a análise de grandes volumes de texto.

Essa otimização significa que seus agentes de IA podem operar de forma mais fluida e eficiente, liberando tempo valioso para focar em aspectos mais estratégicos do seu projeto. Embora não haja economia direta de custos com a API por essa funcionalidade, a melhoria na performance pode indiretamente aumentar a produtividade da sua equipe. O próximo passo é explorar a integração desses 'threads' em seus projetos atuais com Claude, avaliando como essa aceleração pode impactar positivamente seus prazos e a qualidade das entregas.

📰 Com base em reportagem de The Next Web AI. Texto produzido com apoio de inteligência artificial, com curadoria e edição de Robson Benfica Conceição, com análise própria do que a notícia muda para quem trabalha no Brasil. Veja como produzimos.

📬 Newsletter Gratuita

As principais notícias de IA do dia, curadas por Robson Conceição. Grátis, todo dia no seu e-mail.

Gostou do conteúdo?

Compartilhe com quem também quer entender IA no trabalho.

CompartilharWhatsAppXLinkedInFacebook

Leia também