网关的发展趋势,网关开源项目Higress
大家好,我是袁庭新。
基于大模型的AI原生应用越来越多,后端开发者扮演着构建AI原生应用的重要力量;同时,以容器和微服务为代表的云原生技术已加速渗透到传统业务中,安全、稳定和效率成为大家关注的重点。
这个模块主要是聊聊AI原生应用在各行各业的发展情况,看看企业是怎么利用AI原生技术来加快业务创新,还有怎么在改进过程中提高效率、提升性能、降低成本和加强安全防护的。目的就是为了给将来成为一线工程师的同学们分享些实用的经验,让大家都能学学。
先来看看软件架构的演进历程,从单体架构、垂直架构,到SOA架构、微服务架构,再到云原生架构,演变到现如今的AI原生架构。从云原生到AI原生,网关也发生重大的变化。从早期的流量网关、ESB-企业服务总线,到微服务网关、云原生网关,发展到现在的AI网关。
AI原生应用架构面临些技术的新挑战,像API多、长连接、高延时和大宽带等问题。因此,如何设计一个能随时随地控制和管理应用流量,为企业AI调用提供更好的安全性的AI网关变得尤为重要。
问题来了,我们到底需要多少个网关?接入网关、流量网关、安全网关、业务网关、云原生网关、AI网关......等等。同时,还需要考虑网关的稳定性、安全性、是否方便集成、性能是否出众、是否智能化等问题。
Higress是一款云原生API网关,可以帮助开发者零代码构建AI原生应用。介绍下Higress生态,它是AI先行者,国内首发AI插件集,帮助用户低代码构建AI应用,阿里云内部PAI、百炼、通义已经全部接入Higress。生态丰富,AI领域Al Proxy对接了20+大模型厂商,且对微服务领域、容器领域和安全领域都做了集成。社区活跃,自2022.11开源以来累计发布版本35+。易于扩展,国内首发Wasm插件市场,支持C++/Rust/Go/AssemblyScript等多语言开发插件。最后一点,关键它还是开源的,同时还提供了商业版。
云原生 API 网关Higress,是基于真实的业务需求而孵化出来的。比如通义APP、模型服务灵积、人工智能平台PAI用的都是Higress网关。在AI应用、AI模型服务平台、AI模型等业务领域,都有很好的实践案例。