API 网关 协调和管理各类 API 和 AI 请求

构建应用的关键基础设施

  • 降本省流

    相比自建,通过软硬一体技术,性能提升1倍以上,GZIP 解压性能提升3倍以上
  • AI 增强

    提供 LLM 和 MCP 服务代理、用户鉴权、流量管控等,支持 Token 压缩、LLM 负载均衡、智能路由等
  • 企业级安全

    集成 JWT/OIDC 等登录认证体系,提供 WAF 防护机制、TLS 加密、API 安全防护和 WASM 沙箱机制
  • 生态集成

    支持容器、微服务、FC、阿里云百炼、人工智能平台 PAI 等服务发现机制,集成可观测、安全护栏能力,支持三方插件扩展
  • 1/0

    产品动态

    产品简介

    API 网关分为云原生 API 网关和 AI 网关两个产品。云原生 API 网关将 API 管理、流量网关和微服务网关能力深度整合,是高性能、高扩展性网关。AI 网关面向 AI 场景全新打造,统一代理大模型 API 和 MCP Server,并提供丰富的集成和治理能力。
    API 网关

    应用场景

    API 网关是构建微服务应用和 AI 应用的关键基础设施,我们总结了经典应用服务暴露和流量管控、AI 应用流量入口与集成、MCP Server 统一管理和访问,以及API 全生命周期管理4类常见应用场景。

    AI 应用访问大模型的统一入口

    AI 应用访问大模型的统一入口

    面向 LLM,统一代理各主流大模型和自建大模型服务,提供 OpenAI 兼容的访问方式,并提供二次 API KEY 签发、限流、安全防护、观测等治理能力。
    架构图-参考实现

    MCP Server 统一管理和访问

    MCP Server 统一管理和访问

    面向 MCP Server,提供 MCP Server 代理、安全认证,以及统一观测、限流等治理能力。
    架构图-参考实现

    经典应用服务暴露及流量管控

    经典应用服务暴露及流量管控

    兼容 K8s Ingress 标准,支持微服务、函数服务等多种后端服务,支持 K8s、Nacos 等多种发现方式,具备高集成、易使用、易扩展、热更新的特点。
    架构图-参考实现

    API 全生命周期管理

    API 全生命周期管理

    提供 API 设计、开发、发布及下线的全生命周期管理能力,并支持多环境管理,帮助团队更高效、安全地管理和发布 API,推动业务的快速迭代和创新。
    架构图-参考实现

    安全合规

    API 网关从访问、流量防护、内容安全输出三方面,提供一站式的安全合规保护。

    卡片头部图

    流量防护安全

    恶意流量防护:集成阿里云 WAF,提供流量防护功能,同时支持实例级别防护和路由级别防护,可以有效识别 Web 业务流量的恶意特征,在对流量进行清洗和过滤后,将正常、安全的流量返回给服务器,显著降低网站服务器被恶意入侵导致服务器性能异常等问题,保障网站的业务安全和数据安全。
    限流防护:限流是流量控制中最常用的手段之一,能有效地防止外部请求超出后端服务的承载能力,从而显著降低发生级联雪崩的风险。在高并发场景下,限流可以通过阻止一部分请求来保证后端服务一直可用。
    卡片头部图

    访问安全

    消费者认证鉴权:支持全局认证、路由级认证和消费者鉴权,确保只有授权请求才能访问服务,除了 JWT/OIDC 这种标准的机制,也提供了自定义认证模式,还集成了 IDaaS,支持支付宝、淘宝等三方认证机制。
    黑白名单:通过配置黑、白名单来拒绝或允许特定 IP 的访问请求,支持在网关全局、域名和路由级别配置 IP 黑名单和白名单,满足精细化的访问控制诉求。
    卡片头部图

    内容安全

    用户输入安全:集成阿里云安全服务,对网关请求和响应内容进行实时扫描的能力,以识别潜在的风险信息(如违规信息、恶意链接、敏感信息等)。通过配置不同的防护等级(低、中、高、观察模式),可以灵活控制拦截的严格程度。
    大模型输入输出安全:集成阿里云安全服务,通过对大模型的输入和输出进行实时检查,显著降低违规信息被无意间暴露或传播的风险。

    客户案例

    API 网关在电商零售、SaaS、金融、新能源、制造、物流交通等行业沉淀了很多标杆案例,以样板间的作用帮助各个企业快速构建应用基础设施,提升可用性、安全性和易用性。

    bannerbannerbannerbanner
    1
    极氪汽车
    云原生 API 网关帮助我们统一了网关架构,降低 50% 的资源成本。此外,全链路灰度方案通过“流量泳道”,快速拉起隔离的开发环境,提升研发效率、节省资源开销。另外,任务调度 SchedulerX 针对 App 社区定时推荐、在线订单定时确认、用户定时通知等场景实现了统一管理和调度,并与云产品(监控、日志)打通,提升易用性。
    了解更多
    2
    茶百道
    茶百道使用云原生 API 网关替代了原有的 Traefik ingress,整体性能提升 1 倍,并且做到了 ingress 通用规则的平滑迁移。
    3
    国泰产险
    目前国泰所有访问大模型的流量均通过 AI 网关进行代理,在日均消耗近亿 Token 的同时,做到了对每个请求都进行敏感信息过滤,不论是输入大模型的内容还是由大模型产生的内容都进行了全面审计,大大降低使用大模型的数据安全风险。通过网关的 AI 插件,国泰产险做到了每个 Token 都知道是谁在用,用在哪个场景,给后续分析和成本管控提供了坚实的数据支撑。
    了解更多
    4
    Soul
    我们通过云原生 API 网关,将流量、安全、微服务网关三合一,大幅降低请求链路条数、降低架构复杂度、运维和故障排查成本,例如降低整个链路 RT 峰值从500ms下降至峰值50ms,服务发布期间502降为0,499平均降低10%等。
    了解更多