Pular para o conteúdo principal

Otimização de Tokens RTK

RTK (Rust Token Killer) é um sistema inteligente de filtragem de saída de comandos integrado ao AI Cockpit Reasoning que reduz o consumo de tokens LLM em 60-90% através da compressão inteligente de saídas de comandos do terminal. Este recurso ajuda você a economizar custos e estender o contexto de conversação mantendo funcionalidade completa.

O que é RTK?​

RTK é uma ferramenta CLI baseada em Rust que atua como um wrapper transparente em torno dos seus comandos de terminal. Quando habilitado, ele intercepta as saídas de comandos e aplica filtragem inteligente para remover informações verbosas, repetitivas ou desnecessárias, preservando o contexto essencial necessário para o entendimento da IA.

Principais Características​

  • Integração Automática: Incluído no AI Cockpit Reasoning - nenhuma instalação externa necessária
  • Design Opt-in: Desabilitado por padrão, facilmente alternado via botão na UI
  • Filtragem Inteligente: Algoritmos de compressão específicos para cada comando
  • Operação Transparente: Funciona perfeitamente com comandos existentes
  • Multiplataforma: Suporta Linux, Windows e macOS

Como o RTK Funciona​

Visão Geral da Arquitetura​

Solicitação do Usuário → AI Cockpit → Execução de Comando → RTK Wrapper → Saída Filtrada → Contexto LLM

Quando você habilita o RTK:

  1. Interceptação de Comando: AI Cockpit detecta quando um comando deve ser encapsulado
  2. Execução RTK: O comando é prefixado com RTK (ex: rtk git status)
  3. Filtragem Inteligente: RTK executa o comando original e filtra sua saída
  4. Entrega de Contexto: Apenas a saída comprimida e essencial é enviada ao LLM

Exemplo: Git Status​

Sem RTK (100 caracteres):

On branch main
Your branch is up to date with 'origin/main'.

nothing to commit, working tree clean

Com RTK (47 caracteres):

* main...origin/main
clean — nothing to commit

Resultado: 53% de redução no tamanho da saída, mantendo todas as informações essenciais.

Habilitando o RTK​

Via Toggle na UI​

O RTK pode ser habilitado/desabilitado usando o botão de alternância na interface do chat:

  1. Procure pelo ícone ⚡ (raio) no cabeçalho do chat ou área de texto
  2. Clique para alternar RTK ligado/desligado
  3. Ícone verde = RTK habilitado
  4. Ícone cinza = RTK desabilitado
Botão de alternância RTK na interface do chat

Clique no pequeno badge "i" ao lado do toggle RTK para visualizar informações detalhadas sobre:

  • O que o RTK faz
  • Como funciona (processo de 4 etapas)
  • Benefícios (redução de tokens, economia de custos, preservação de contexto, performance)
  • Exemplos do mundo real com métricas
  • Comandos suportados
Modal de informações RTK

Análise de Redução de Tokens​

Resultados de Testes Reais​

Baseado em testes reais com Claude Sonnet 4.5 no AWS Bedrock:

MétricaSem RTKCom RTKEconomia
Saída do Comando100 chars47 chars53%
Total de Tokens de Entrada61,56660,005-1,561 (-2.5%)
Custo Total$0.191943$0.187637-$0.004306 (-2.2%)

Por Que as Economias Parecem Pequenas​

Em uma conversa típica, a saída de comando representa apenas uma pequena porção do total de tokens:

Prompt do Sistema:       ~17,000 tokens (85%)   ← Não afetado pelo RTK
Histórico da Conversa:    ~2,900 tokens (14.5%) ← Não afetado pelo RTK
Saída do Comando:           ~100 tokens (0.5%)  ← RTK economiza 53 tokens aqui

Insight Chave: RTK economizou 53 de 100 tokens (53% de redução) na saída do comando, mas isso representa apenas 0.5% do contexto total.

Cenários de Alto Impacto​

RTK mostra economias dramáticas com comandos verbosos:

1. Git Log (100 commits)​

git log --oneline --graph --all -100
  • Sem RTK: ~5,000 tokens
  • Com RTK: ~500 tokens
  • Economia: 4,500 tokens (90%)

2. Listagem de Diretório Grande​

ls -la /usr/bin
  • Sem RTK: ~10,000 tokens
  • Com RTK: ~1,000 tokens
  • Economia: 9,000 tokens (90%)

3. Containers Docker​

docker ps -a
  • Sem RTK: ~3,000 tokens
  • Com RTK: ~300 tokens
  • Economia: 2,700 tokens (90%)

4. Pods Kubernetes​

kubectl get pods --all-namespaces
  • Sem RTK: ~4,000 tokens
  • Com RTK: ~400 tokens
  • Economia: 3,600 tokens (90%)

Comandos Suportados​

RTK possui filtros especializados para as seguintes categorias de comandos:

Controle de Versão​

  • git - Todos os comandos git (status, log, diff, etc.)
  • gh - GitHub CLI

Operações de Arquivo​

  • ls - Listagens de diretório
  • tree - Árvores de diretório
  • find - Busca de arquivos
  • grep, rg - Busca de texto
  • cat, head, tail - Conteúdo de arquivo

Containers & Cloud​

  • docker - Gerenciamento de containers
  • kubectl - Kubernetes
  • aws - AWS CLI

Banco de Dados​

  • psql - PostgreSQL

Rede​

  • curl, wget - Requisições HTTP

Ferramentas de Build​

  • npm, pnpm, yarn - Gerenciadores de pacotes (subcomandos específicos)
  • cargo - Ferramenta de build Rust
  • go - Ferramenta de build Go

Quando Usar RTK​

✅ Sempre Habilitar Para:​

  1. Repositórios Grandes

    • Muitos commits, branches ou arquivos
    • Operações git frequentes

  2. Operações Container/Cloud

    • Docker com muitos containers
    • Clusters Kubernetes
    • Listagens de recursos AWS

  3. Operações de Sistema de Arquivos

    • Diretórios grandes
    • Buscas recursivas
    • Visualizações em árvore

  4. Múltiplos Comandos

    • Conversas com 5+ execuções de comando
    • Sessões de debugging iterativas

  5. Gerenciamento de Contexto

    • Aproximando limites de token
    • Conversas longas
    • Tarefas complexas de múltiplas etapas

❌ Considere Desabilitar Para:​

  1. Comandos Simples Únicos

    • Verificações de status pontuais
    • Comandos com saída mínima

  2. Debugging do Próprio RTK

    • Quando você precisa ver a saída bruta do comando
    • Solução de problemas de execução de comando

  3. Testes Rápidos

    • Prototipagem rápida
    • Validações simples

Melhores Práticas​

  1. Habilite por Padrão: Para uso em produção com comandos verbosos
  2. Monitore Logs: Verifique taxas de compressão no console
  3. Use com Comandos Verbosos: Benefício máximo com git log, docker ps, etc.
  4. Desabilite para Debugging: Quando você precisa de saída bruta para solução de problemas
  5. Verifique Comandos Suportados: Certifique-se de que seus comandos frequentemente usados são suportados

Recursos Adicionais​

  • Documentação Técnica: RTK_TOKEN_REDUCTION.md
  • Código Fonte: src/bin/rtk/ no repositório da extensão
  • Serviço Wrapper: src/services/command-wrapper/RtkCommandWrapper.ts
  • Comandos Suportados: Veja RTK_SUPPORTED_COMMANDS em RtkCommandWrapper.ts

Última Atualização: 2026-04-27
Versão: 1.0.0
Status: Pronto para Produção ✅