详细内容

下载量破万,《AI 原生应用架构白皮书》免费下载

AI 网关快速集成
-
AI Agent
-
LLM API
-
AI Agent
-
LLM API
-
AI Agent
-
LLM API
-
AI Agent
-
LLM API
为 Agent 开发、LLM API 管理,提供易用、可靠的集成服务。
已支持 100 多种大语言模型和版本,提供开源和云上商业化版本。
News
全过程指引\
\
2025年11月25日\
\
Nginx Ingress 迁移指引 Higress v2.1.9\
\
2025年11月18日\
\
Higress v2.1.9:44 项引擎更新 + 18 项控制台更新 Ingress NGINX 退役\
\
2025年11月13日\
\
遗憾,Ingress NGINX 要退役了 落地案例\
\
2025年11月12日\
\
森马如何用阿里云 AI 网关,轻松实现“AI+业务”高效落地
AI 网关
为开发者提供了一站式的 AI 插件集和增强后端模型调度处理能力,使得 AI 与网关的集成更加便捷和高效。


多模型代理
AI 网关能够将外部调用不同大模型的请求,通过统一的调用方式转发到内部对应的大模型上,使得后端模型调度更加灵活;Higress AI 网关支持常用的100多个模型的统一协议转换,并支持模型级 Fallback 。
MCP 转换
Higress 可以将存量 RESTful API 快速转化为 MCP Server,用户无须从0开始构建;支持自建 Higress MCP Markeplace,让拥有大量存量 API 的企业能够快速享受 MCP 的红利。


语义缓存
AI 网关支持精确缓存及语义缓存推理的结果上下文,对于常见的相似或重复的问题节省 Token 并减小时延,从而提升调用体验。
令牌限流
AI 网关能够对大模型使用的 Token 数量进行追踪,在消费者使用超额时进行限制,从而更好管理调用 AI 服务中的用户额度,为 Token 使用分析提供数据支持。

AI 应用场景下的最佳实践服务于多领域企业级用户


联系我们
通过以下方式,加入并关注我们,获取 higress.ai 最新动态;如您在使用过程遇到问题,请联系我们。
钉钉群
微信群
微信公众号
菜单
友情链接:
|
|
|
|
|
|
|
|
|
|






