PRODUCT A • API GATEWAY 统一网关高并发 • 极低延迟
API 平台 (OpenRely API Gateway)
专为 AI 原生应用与高并发微服务场景打造。100% 兼容 OpenAI SDK 规范,聚合全球主流顶尖大模型,提供毫秒级智能路由与 SLA 99.99% 企业级高可用保障。
1 秒无缝协议兼容
无需重构业务代码。直接在官方 OpenAI SDK(Python / Node.js / Go / Rust)中修改 base_url 即可即刻起飞。
毫秒级智能负载路由
动态多节点负载均衡,当上游节点限流或延迟升高时,自动秒级无感故障转移至健康集群。
SLA 99.99% 企业级灾备
企业级分布式多活集群,冗余热备,为生产环境关键业务保驾护航。
快速接入示例 (Quickstart)
100% 兼容 OpenAI SDK 规范。无需重构业务调用逻辑,只需将 base_url 替换为 https://api.openrely.ai/v1,即可享受毫秒级低延迟智能路由。
main.py
import openai# 1. 改一行代码:将 base_url 指向 OpenRely 统一 API 网关client = openai.OpenAI( base_url="https://api.openrely.ai/v1", api_key="sk-openrely-your-key-here")# 2. 像调用 OpenAI 原生 SDK 一样无缝调用全系大模型response = client.chat.completions.create( model="deepseek-v4-pro", # 支持 deepseek-v4-pro, gpt-4o, claude-3-5-sonnet messages=[ {"role": "user", "content": "用 Python 写一个极速 AI 网关路由算法"} ], stream=True)for chunk in response: print(chunk.choices[0].delta.content or "", end="")