五个项目,一个生态系统
规范层定义规则。三种运行时实现(Rust、Python、TypeScript)将规范付诸实践。
AI-Protocol
与供应商无关的规范。YAML 清单定义如何与每个 AI 服务商通信——零硬编码逻辑。
- 37 服务商清单(6 V2 + 36 V1)
- STT/TTS/Rerank 清单(Jina、OpenAI、Cohere)
- JSON Schema 验证
- 流式事件规范化
- 错误分类标准
- 热重载配置
ai-lib-rust
高性能 Rust 运行时。V2 标准错误码、功能开关、基于算子的流式管道、编译时安全、亚毫秒级开销。
- ProviderDriver(OpenAI/Anthropic/Gemini)
- MCP 工具桥 + 命名空间隔离
- Computer Use + SafetyPolicy
- 扩展多模态验证
- 嵌入与缓存
- 插件系统
- 185+ 测试,发布于 Crates.io
ai-lib-python
开发者友好的 Python 运行时。V2 标准错误码、按能力扩展、完整异步支持、Pydantic v2 类型、生产级遥测。
- ProviderDriver(OpenAI/Anthropic/Gemini)
- MCP 工具桥 + 命名空间隔离
- Computer Use + SafetyPolicy
- STT/TTS/Rerank 扩展
- Pydantic v2 类型安全
- 模型路由与负载均衡
- 75+ V2 测试,发布于 PyPI
ai-lib-ts
TypeScript/Node.js 运行时,面向 npm 生态。协议驱动、流式优先,支持 Resilience、Routing、MCP 与多模态。
- V2 清单解析 + 标准错误码
- Resilience(Retry、CircuitBreaker、RateLimiter、Backpressure)
- ModelManager + CostBasedSelector + FallbackChain
- SttClient、TtsClient、RerankerClient
- McpToolBridge、EmbeddingClient、Plugins
- BatchExecutor + PreflightChecker
- 原生 fetch,发布于 npm
开发工具
示范项目
基于 AI-Lib 生态构建的参考应用——直观感受协议与运行时的实际效果。
AI Debate
多模型 AI 辩论竞技场。正方与反方四轮交锋,最后由裁判给出裁决。基于 ai-lib-rust 与 ai-protocol 构建。
- 4 轮辩论流程(开篇→反驳→辩护→结辩→裁决)
- 可选 Tavily 网络搜索工具调用
- 多服务商:DeepSeek、智谱、Groq、Mistral、OpenAI、Anthropic
- 自动回退、实时 SSE 流式
- Axum + SQLite,现代深色 UI
ZeroSpider
协议驱动的自主 AI 智能体运行时。智能模型选择、多模型协商与硬件集成。
- 通过 ai-lib-rust + ai-protocol 实现协议驱动提供方
- 智能路由:成本、速度、质量、可靠性
- 多模型协商与并行任务执行
- 通道:Telegram、Discord、Matrix
- 远程部署、硬件(GPIO、STM32)
协议驱动设计
「所有逻辑都是算子,所有配置都是协议。」每个服务商的行为都在 YAML 中声明——运行时不含任何硬编码的服务商逻辑。
声明式配置
服务商端点、认证、参数映射、流式解码器和错误处理——均在 YAML 清单中声明,由 JSON Schema 验证。
基于算子的管道
流式响应流经可组合算子:Decoder、Selector、Accumulator、FanOut、EventMapper。每个算子均由协议驱动。
热重载就绪
无需重启即可更新服务商配置。协议变更自动传播到运行时。通过配置而非代码添加新服务商。
生态系统架构
三层协同工作——规范定义规则,运行时执行规则,应用消费统一接口。
工作原理
从用户请求到统一的流式事件——每一步都由协议驱动。
选择你的运行时
同一协议,各有优势。选择适合你技术栈的运行时。
| 能力 | AI-Protocol | Rust SDK | Python SDK | TypeScript SDK |
|---|---|---|---|---|
| 类型系统 | JSON Schema | 编译时(Rust) | 运行时(Pydantic v2) | 编译时(TypeScript) |
| 流式 | SSE/NDJSON 规范 | tokio async streams | async generators | AsyncIterator + fetch |
| 弹性 | 重试策略规范 | 熔断器、限流器、背压 | ResilientExecutor 及所有模式 | RetryPolicy、CircuitBreaker、RateLimiter |
| V2 驱动 | ProviderContract 规范 | Box<dyn ProviderDriver> | ProviderDriver ABC | ManifestV2 + HttpTransport |
| MCP | mcp.json 规范 | McpToolBridge | McpToolBridge | McpToolBridge |
| Computer Use | computer-use.json 规范 | ComputerAction + SafetyPolicy | ComputerAction + SafetyPolicy | — |
| 多模态 | multimodal.json 规范 | MultimodalCapabilities | MultimodalCapabilities | SttClient、TtsClient、RerankerClient |
| 嵌入 | — | 向量运算、相似度 | 向量运算、相似度 | EmbeddingClient |
| 分发 | GitHub / npm | Crates.io | PyPI | npm |
| 最适合 | 规范与标准 | 系统、性能关键 | ML、数据科学、原型开发 | Node.js、npm 生态、全栈 |
支持 37 个 AI 服务商
通过协议配置驱动,无需任何硬编码即可接入全球和中国区主流 AI 服务商。6 个 V2 清单含 MCP/CU/多模态声明。