LLaMa-MCP-Streamlit
by Nikunj2003·★ 43·综合分 36
基于Streamlit的AI助手，通过MCP实现与LLaMa 3.3或Ollama模型的工具交互。
ai-llmdeveloper-toolsproductivity
18
Forks
1
活跃 Issue
15 个月前
最近提交
2 天前
收录于
概述
该项目创建了一个对话式AI界面，利用模型控制协议(MCP)实现实时外部工具执行。它提供使用Streamlit的用户友好聊天体验，支持NVIDIA NIM API (LLaMa 3.3:70b)和Ollama后端。架构包含MCP客户端功能，用于连接各种外部工具和服务。项目结构良好，UI组件、代理逻辑和MCP配置分离清晰。
试试问 AI
装完之后，这里有 5 个你可以让 AI 做的事：
你:创建可通过MCP执行命令的交互式聊天界面
你:构建具有文件系统工具访问权限的自定义AI助手
你:开发具有外部工具集成功能的LLM应用程序原型
你:支持哪些MCP服务器？
你:我可以用它与其他LLM提供商吗？
什么时候选它
当你需要一个快速构建的带有UI界面的MCP集成AI助手原型时，特别是如果你已经在使用Streamlit或Docker。
什么时候不要选它
不要用于生产部署，因为文档有限，且该项目似乎是一个原型而非完整的应用程序。
可对比工具
streamlit-mcpmcp-streamlit-examplesnvidia-mcp-serverollama-mcp
安装
安装步骤
- 克隆仓库
- 在
.env文件中设置环境变量：
```bash # NVIDIA NIM API API_ENDPOINT=https://integrate.api.nvidia.com/v1 API_KEY=your_api_key_here
# Ollama API_ENDPOINT=http://localhost:11434/v1/ API_KEY=ollama ```
- 使用Poetry安装依赖：
``bash poetry install ``
- 运行Streamlit应用：
``bash poetry run streamlit run llama_mcp_streamlit/main.py ``
要使用Claude Desktop，添加到claude_desktop_config.json：
{
"mcpServers": {
"llama-mcp-streamlit": {
"command": "python",
"args": ["path/to/llama_mcp_streamlit/utils/mcp_server.py"]
}
}
}FAQ
- 支持哪些MCP服务器？
- 该项目支持通过NPX或Docker运行的MCP服务器，包括文件系统服务器(@modelcontextprotocol/server-filesystem)。在utils/mcp_server.py文件中修改配置。
- 我可以用它与其他LLM提供商吗？
- 目前项目支持NVIDIA NIM (LLaMa 3.3:70B)和Ollama。其他提供商需要修改agent.py文件中的API配置。
LLaMa-MCP-Streamlit 对比
最后更新于 · 由 README + GitHub 公开数据自动生成。