programmatic-tool-calling-ai-sdk
by cameronking4·★ 17·综合分 42
一个MCP支持的SDK,通过用Vercel沙箱中执行的JavaScript生成代码替换工具调用,降低80%的LLM成本。
ai-llmdeveloper-toolsproductivity
2
Forks
0
活跃 Issue
6 个月前
最近提交
2 天前
收录于
概述
Programmatic Tool Calling AI SDK是一种创新方法,通过将多次往返工具调用简化为单一代码生成和执行,来优化LLM交互。它包装MCP工具和本地工具,然后在隔离的Vercel环境中生成JavaScript代码来高效编排它们。该解决方案支持Anthropic、OpenAI以及通过AI网关的100多个模型,在令牌使用(减少80%)、延迟(快3-5倍)和上下文效率方面显示出显著改进。
试试问 AI
装完之后,这里有 5 个你可以让 AI 做的事:
你:降低需要多次LLM工具调用的应用成本
你:通过并行执行优化MCP工具编排
你:使用Vercel沙箱隔离构建高效AI应用
你:这如何降低80%的LLM成本?
你:支持哪些MCP传输协议?
什么时候选它
当你的应用需要多次工具调用且需要优化成本和性能时,尤其是同时使用本地工具和MCP服务器时,选择这个。
什么时候不要选它
如果你不能使用Vercel服务(沙箱需要Vercel账户)或者需要严格的工具执行保证而非代码生成,不要选择这个。
此 server 暴露的工具
从 README 抽取出 4 个工具getUserGet user by ID
calculateAverageCalculate average of numbers
mcp_firecrawl_scrapeScrape URL content using Firecrawl MCP
mcp_github_searchSearch GitHub repositories using MCP
说明:Tool names inferred from usage examples and architecture diagram. MCP tools appear to be dynamically injected through the MCP Bridge.
可对比工具
openai-toolsanthropic-toolsai-sdk
安装
# 安装发布的包
npm install @task-orchestrator/programmatic-tools
# 必需的对等依赖项
npm install ai@^5.0.0 @vercel/sandbox@^1.0.0 zod@^3.0.0 ms@^2.1.0
# 可选的MCP支持
npm install @ai-sdk/mcp@^0.0.11Claude Desktop MCP服务器配置:
{
"mcpServers": {
"programmatic-tools": {
"command": "node",
"args": ["programmatic-tools/mcp.js的路径"]
}
}
}FAQ
- 这如何降低80%的LLM成本?
- 它不是在LLM和工具之间进行N次往返,而是生成JavaScript代码,在单次执行中编排所有工具,将LLM调用从N次减少到约2次。
- 支持哪些MCP传输协议?
- 支持HTTP、SSE和Stdio传输,并通过标准化使不同MCP服务器之间的代码访问可预测。
programmatic-tool-calling-ai-sdk 对比
最后更新于 · 由 README + GitHub 公开数据自动生成。