NGINX.COM
Web Server Load Balancing with NGINX Plus

本文转载自 The New Stack

构建更智能的上下文感知网络以满足人工智能 (AI) 驱动型应用的需求,八层和现有的应用交付基础设施将为之铺平道路。


图片来源:由 Kolpakova Svetlana 在 Shutterstock 上发布

在经典伪纪录片《摇滚万万岁》(Spinal Tap) 中有一句最经典的台词,主吉他手 Nigel Tufnel 指着扩音器表盘上的更高档位喊道,“调到 11”。

“调到 8”或许有失力度,但现在用来描述传统网络堆栈的新层次 — 语义层 — 再合适不过了。新增八层主要是因为 AI 应用及其新需求。

作为几十年来指导网络设计和通信的概念框架,OSI(开放系统互联)模型在 AI 时代面临着新的挑战。随着 AI 不断渗透到技术的方方面面(包括网络)传统的 OSI 七层模型可能无法有效应对 AI 驱动型网络的全部要求和实际情况。

因此,我提议对 OSI 模型进行扩展,新增第八个层次,以满足网络环境中 AI 的独特要求和功能需求。现有各层侧重于数据传输的技术方面,而八层则不同,它关系到对传输中数据的语义理解和智能处理。

 

什么是八层,为何现在需要它?

如今,网络已不仅仅是数据管道,而是愈加智能化的实体,可根据所处理数据的内容和上下文做出决策。OSI 模型由七层组成,包括物理层、数据链路层、网络层、传输层、会话层、表示层及应用层。每一层都有特定的功能和协议来支持联网设备之间的通信。

OSI 七层主要侧重于数据传输的语法方面,如编码、格式化和纠错。在云原生世界中,四层(传输)和七层(应用)已成为最广泛使用的层。

由于 HTTP 及其他 Web 协议在向用户和服务提供功能中逐渐成为主要关注点,这些分层日益混为一谈。即使是应用层,也只注重性能而忽视内容。总体而言,OSI 各层本身并不考虑传输中数据的语义或上下文。

但目前,AI 应用中出现了语义缓存,即应用交付和网络技术融入了对应用内容和用户期望的理解,以提升用户体验并提高应用性能。

这些新功能扩展了 OSI 模型当前的结构范围,并将组合成定义更清晰的八层。八层将位于应用层(七层)之上,着重于理解数据的含义、意图和上下文信息。通过结合语义分析,八层有助于做出更智能的上下文感知网络和应用交付决策。

 

八层的工作原理

正如应用传输技术和协议 (HTTP) 用于七层一样,机器学习、深度学习及自然语言处理 (NLP) 等 AI 技术将用于八层,以分析和理解传输中的数据。NLP 技术可用于处理和解析消息正文,以便提取关键信息,识别相关实体,并确定整体含义和上下文。

分类模型可能会将 HTTP 请求路由到最适合处理人类语言的 API 端点。情感分析算法可用于评估数据背后的情感基调和意图。这有助于根据数据的紧迫性、重要性或复杂性对数据进行优先级划分或路由。

借助这些技术,在八层能够训练机器学习模型,以识别数据中的模式、异常和变化。此类模型可以从历史数据中学习,并适应不断变化的网络条件或用户行为。

AI 驱动型检测将实时运行,对流经网络的数据进行处理。这就需要高效算法和硬件加速,以最大限度地减少延迟,并确保及时做出决策。例如,它可以根据内容的重要性或紧迫性对流量进行优先级划分,根据数据的预期用途对其执行路由,或者根据用户的意图调整网络行为。冒犯性或危险性内容将会被过滤和标记,或者隔离到更复杂的内容审核系统中,然后再视情况进行转发。例如,可以根据通话的内容,通过对比系统记录的类似攻击来识别深度语音攻击。

 

全新 ADC 的灵魂

八层应位于可实时应用模型的新兴 AI 网关内部。也就是说,此类网关将需要与现有 API 网关、应用交付控制器 (ADC) 及内容交付网络 (CDN) 共存和交互。它们必须顺畅、超快速地协同运行,才能提高七层的性能、弹性和安全性。语义检查和理解会造成延迟,并需要处理 AI 模型持续生成的密集推理流量,而紧邻部署能够一举解决这两个问题。

通过直接集成八层功能与 API 网关、ADC 及 CDN,语义处理能够在更靠近边缘的位置进行,可减少往返延迟,并便于实时制定决策。这种八层与现有应用交付基础设施的融合将为构建更加智能、响应迅捷的上下文感知网络铺平道路。此类网络能够根据 AI 驱动型应用不断变化的需求做出调整,即能够随需而变。

Hero image
免费白皮书:
NGINX 企阅版全解析

助力企业用户规避开源治理风险,应对开源使用挑战

关于作者

Liam Crilly

产品管理高级总监

关于 F5 NGINX

F5, Inc. 是备受欢迎的开源软件 NGINX 背后的商业公司。我们为现代应用的开发和交付提供一整套技术。我们的联合解决方案弥合了 NetOps 和 DevOps 之间的横沟,提供从代码到用户的多云应用服务。访问 nginx-cn.net 了解更多相关信息。