tscg: Ajan aracı kapasitesini genişleten Token-Context derleyici
tscg, SKZL AI'den, ajansal iş akışları için AI ajanlarının bağlam bütçesini optimize eden deterministik bir derleyicidir. Karmaşık JSON araç şemalarını, modellerin daha büyük araç setlerine ve RAG verilerine atıfta bulunabilmesi için token verimli bir gramer haline sıkıştırır, böylece bağlam pencerelerini aşmaz. Araç, ayrıntılı araç tanımları için %50–72 token tasarrufu rapor eder ve kompakt, öngörülebilir araç temsilleri ihtiyaç duyan yerel veya kısıtlı LLM'leri dağıtan AI mühendislerini hedef alır.
Gerçekten hangi görevler için kullanabilirsiniz?
Araç, bir MCP sunucusu ve bir npm paketi olarak gönderilir ve Claude Desktop, Cursor ve Windsurf gibi MCP uyumlu ana bilgisayarlarda Node.js tabanlı dağıtımları hedefler. Entegrasyonlar, ajan kodunun araç çağrılarını veya RAG zincirlerini bir araya getirdiği yerlerde kullanılabilir hale getiren LangChain ve Vercel AI SDK desteğini içerir. Pratikte, ekipler, ajanların çalışma zamanında birçok harici aracı listelemesi veya referans vermesi gerektiğinde istem yükünü azaltmak için bunu uygular.
Model davranışını ve doğruluğunu ne kadar etkiler?
Bağımsız testler ve geliştirici notları, tscg kullanımının istem 'gürültüsünü' azalttığını ve bağlam penceresi taşmasını önlediğini bildirmektedir; bu sonuçlar, Phi-4 gibi daha küçük yerel modeller için araç çağrı doğruluğunu artırabilir. Uygulamanın, deneylerde 800'den fazla araçla yapılan çalışmalarda, diğer türlü tam araç setini kullanamayan ajan sistemlerinin çok büyük araç setlerini yönetmesini sağladığı kanıtlanmıştır.
Çalışma zamanı ve gizlilik özellikleri nelerdir?
tscg, dış bağımlılık olmadan TypeScript ile uygulanmıştır ve hızlı bir şekilde çalıştırılır; 50 araç seti için bildirilen çalışma süresi yaklaşık 2.4 milisaniyedir. GPU gereksinimi olmadan standart CPU'larda çalışır ve derlemesini yerel olarak gerçekleştirir; dış API çağrılarına gerek yoktur, bu da çevrimdışı veya özel dağıtımları destekler. Paket, Anthropic, OpenAI ve Ollama ana bilgisayarları için sağlayıcıya duyarlı biçimlendirme içerir.
Alet sayısı sınırlamalarına odaklanan mühendisler için pratik, yerelleştirme paketi değil
tscg, kısıtlı modeller içinde çağrılabilir araç sayısını artırması gereken AI mühendisleri için pratik bir seçenektir; araç-bağlam ticareti sorununu çözmesi nedeniyle ajans AI araştırma topluluğunda yüksek bir itibara sahiptir. Şema sıkıştırmadaki uzmanlığı, yerelleştirme özel özellikler arayan ekiplerin bu odaklanmış kapsamın hedefleriyle eşleşip eşleşmediğini düşünmeleri gerektiği anlamına gelir.