AWS 中国峰会 · Breakout Session · Amazon Web Services × Agora

被记住 ·
被托付。

对话式智能体的物种分化与同源进化
场合AWS 中国峰会 · 上海世博中心
日期2026.06.23
讲者姚光华 Colin ＋ 史沅昊 Yuanhao
形式与 AWS 解决方案架构师联合 Session
全场主线 · THE ARC02
这场在讲什么

两个物种，一颗引擎。

对话式智能体 消费级 · 被记住 让 AI 像人 —— 用户第二天还想找它说话 企业级 · 被托付 让 AI 像系统 —— 法务敢签、SLA 敢赔 SAME DNA · TWO FORMS —— 形态截然不同，底下是同一颗引擎
这场演讲把两个半球合成一张地图：
先讲分化（它们为什么长得不一样），再讲同源（它们为什么共用一份工程）。
序幕 · RTE LEADER03
序幕 · 我们站在哪组数字上说话

站在 900 亿分钟生产数据上。

900 亿+
单月支撑通话分钟数 · RTE 行业领导者
声网 / Agora · 2026.Q2 内部统计
2024.10.01
OpenAI 选择声网 RTE 网络，承载实时语音 API 全球落地
A QUIET ENDORSEMENT
同样的工程能力，今天我们用来支撑你的企业级智能体，也用来支撑你的消费级智能体。
The same engine that powers OpenAI's Realtime API — now powers both species of your Agents.
后面这些判断，都站在这组数字上面做出来。同源 DNA，驱动两个物种。
ACT 01
SPECIATION
物种分化
2024 年我们用「陪伴 / 服务」描述两个方向。2026 年该换一套更准的语言：这是一次物种分化。
01 分化 02 被记住 03 被托付 04 同源 05 云上
元分类升级 · UPGRADED05
对话式智能体的元分类

两年过去，这个分类要换更精准的词。

2024 年的原始定义 2026 年的精准定位 陪伴智能体 服务智能体 消费级智能体 COMPANIONSHIP · PROSUMER 企业级智能体 SERVICE · ENTERPRISE AN EVOLUTIONARY VIEW · ONE SPECIES, TWO NICHES, TWO FORMS
换词不是换包装。
是因为这两条路从这里开始，要按完全不同的标准验收。
物种分化 · SPECIATION06
演化生物学视角

不是两种产品，是一个物种的两种形态。

消费级智能体 生态位 · 家庭 / 个人 / 硬件 形态 · 像人 REMEMBERED · 被记住 企业级智能体 生态位 · 客服 / 外呼 / 企业系统 形态 · 像系统 ENTRUSTED · 被托付 一个物种 · 两个生态位 同源 DNA · 同一颗引擎 NOT TWO DIFFERENT PRODUCTS —— ONE SPECIES, TWO ECOLOGICAL NICHES, TWO FORMS
二元拱顶石 · CORNERSTONE07
对话式智能体的新定位

让 AI 像人，还是让 AI 像系统。

COMPANIONSHIP / PROSUMER
消费级智能体 —— 让 AI 像人
成功标准是「被记住」。用户第二天愿不愿意再找它说话。
SERVICE / ENTERPRISE
企业级智能体 —— 让 AI 像系统
成功标准是「被托付」。法务敢签、风控敢过、SLA 敢赔。
二者底层，是同一个引擎。Consumer agents make AI feel like a person. Enterprise agents behave like a system. Beneath both — the same engine.
MONEY QUOTE · 01 · 拱顶石
消费级是被记住， 企业级是被托付。
这不是两种不同的产品 —— 是同一个物种，在两个生态位下分化出的两种形态。
ACT 02 · 物种一 · 半球一
REMEMBERED
被记住
消费级智能体 · 让 AI 像人。先看这个半球最疼的那道伤口：3 天，就被扔进抽屉。
01 分化 02 被记住 03 被托付 04 同源 05 云上
3 天剧本 · A 3-DAY SCRIPT10
一个 3 天的故事

留存曲线的形状，只有三天。

01开箱「哇它会说话！」新鲜感拉满，朋友圈发了三条。
02聊半小时问它能干嘛，它一口气讲了 30 件事。还行。
03逗一句没了下文。对话越来越像在背词卡。
04抽屉吃灰下次拿出来是搬家。这是当前 9 成消费级 AI 硬件的留存形状。
21% 用户对当前 AI 产品的使用满意度 · 45% 糟糕体验之后的用户流失率。
Deepgram & Opus Research · 2025
更大的模型、更快的响应、更多的功能 —— 但留存曲线没有改善。
真正的分水岭 · THE REAL DIVIDE11
玩具 VS 伙伴

分水岭不是智能，是角色。

TOY · 功能盒子
是一组功能
用户预期即用即走 · 越玩越无聊 · 留存陡降归零。
COMPANION · 被赋予角色的存在
是一个角色
用户预期持续相处 · 越熟越有意思 · 留存缓升稳住。
当前 9 成 AI 硬件卡在哪？它们是「装了 LLM 的功能盒子」，不是「被赋予角色的存在」。
四个非伙伴症状 · FOUR FAILURE MODES12
4 SYMPTOMS → 4 COMPONENTS

4 个症状，对应 4 个组件的失败。

① IDENTITY
身份漂移
上午像客服，下午像哥们，晚上像心理医生。
② + ③ MEMORY
记忆失忆
你昨天说妈妈生病了，它今天问你「天气真好对吧」。
④ SPATIAL
临场缺席
你叹气时它在念叨；你在客厅，它的注意力在卧室。
④ TEMPORAL
节奏失控
你说一半它抢话，你问完它愣 2 秒，语调永远 happy。
① 身份 ② 关系 ③ 历史 ④ 临场（空间 + 时间）——
被记住这半球的全部工程，都挂在这 4 个组件上。
① 身份 · IDENTITY13
① IDENTITY · 它是谁

身份不是它记得自己叫什么，是它记得你是谁。

不是一句 system prompt，也不是给它起个名字。
是一套可以被它一致表达出来的存在。
01语调TONE · 独特的语调，不只是音色。温和、慢半拍。
02反应模式PATTERN · 一致的反应模式。先共情，再问，再答。
03喜恶TASTE · 鲜明的喜恶。怕吵 · 喜静。
04边界BOUNDARY · 稳定的自我边界。不假装它是人。
工程上是 persona embedding + 微调 + 一致性兜底。产品上只有一句话：先想清楚，你要造的是哪一个「它」。
② 关系 · ③ 历史14
② RELATIONSHIP · ③ HISTORY

关系的容量，等于共同记忆的容量。

DAY 1 · 浅 你告诉它，猫叫「豆豆」。 第一次对话里的一个事实。 DAY 30 · 中 它主动问「豆豆最近怎么样」。 主动召回，开始有关系。 DAY 365 · 深 它知道豆豆爱吃哪个牌子。 长期共同历史，不可替代。 三层记忆 · MEMORY STACK SHORT TERM 本次对话上下文 · context window MID TERM 本周 / 本月主题汇聚 · RAG · summary LONG TERM 画像 / 关键事件 / 偏好 · 结构化存储 历史不是录音，是从录音里长出来的、对你的理解
音频是耗材，语义是资产。
关系容量曲线 · CAPACITY CURVE15
关系容量的三级跳 × 物理上限

伙伴感，可以被一个数字量化。

0.29 TB · 物理上限 工具 智能音箱「你叫醒我」 熟人 记得几个偏好的 AI 玩具 伙伴 填满生命上下文配额 关系容量 共同记忆
一生听 10 亿词 → 只有 25% 值得记 → 折成 3.2 年音频 → 装进 0.29 TB。
这是一个人一生中真正值得被保存的「生命上下文」上限，也是机器人成为伙伴的记忆配额上限。当前 9 成消费机器人卡在工具和熟人之间。
MONEY QUOTE · 02
没有共同历史的机器人， 永远是陌生人。
身份不是它记得自己叫什么，是它记得你是谁。关系的容量，等于共同记忆的容量。
中心论点 · 3 ROLES + 1 ENGINE17
伙伴感的工程结构

角色三件套，加一个引擎。

角色三件套 · CHARACTER TRIO —— 产品方的责任，厂商自己来 ① IDENTITY 身份 它是谁？为什么存在？ ② RELATIONSHIP 关系 它和用户是什么关系？ ③ HISTORY 历史 共同记得什么？ 承载在 · CARRIED BY ④ REAL-TIME ENGAGEMENT · CONVOAI ENGINE —— 技术方的责任 实时互动引擎 让身份、关系、历史，在每一次对话里被感知 · 被表达 · 被记住。 临场感 = 实时听见 × 立刻想起 × 当下回应 —— 落点是交互
这是一道二选一都不行的题。
ACT 03 · 物种二 · 半球二
ENTRUSTED
被托付
企业级智能体 · 让 AI 像系统。换到另一个生态位，验收标准整个换了一套。
01 分化 02 被记住 03 被托付 04 同源 05 云上
体验 GAP · POLARIZED19
当前电话客服智能体的体验

两极分化，而且分得很开。

21%
用户对 AI 客服满意
Deepgram & Opus Research · 2025
45%
糟糕体验之后流失
400 位北美商业领袖调研
智利电话客服真实录音 · SERNAC · 2025
「别像计算机一样和我说话。」
客户在抱怨「别像计算机」—— 但他根本没意识到，自己正在跟计算机说话。
这是一个 Good Case。电话智能体的天花板是：用户根本不需要分辨。
图灵测试 · QUIETLY PASSED20
客服 Agent 真实生产数据

电话智能体，已经悄悄迈过门槛。

96.5%
通过图灵测试。基于 1,170 通真实有效对话，仅 3.5%（86 通）被用户明显感知为 AI。
ConvoAI 真实生产数据
接听 2,475 · 100.0% 真人接听 2,180 · 88.1% 有效对话 1,170 · 47.3% 感知为 AI 86 · 3.5%
86 通「明显感知」的九维信号拆解里，情绪 / 重复 / 不耐烦一项就占 60 通 —— 多数「识破」来自不耐烦，而不是听出机器音。
MONEY QUOTE · 03 · 1950 → 2026
76 年前，图灵问机器能否骗过人类。 今天，96.5% 的用户已经分辨不出。
In 1950, Turing asked: can machines fool humans? 76 years later — 96.5% can no longer tell.
营销战场 · 2× 超越22
真实生产数据 · 日均营销转化率

AI 电话智能体，已经超越真人销冠。

行业最佳人工 1.5% —— 受过良好培训与管理的一线销冠，行业天花板 ConvoAI 3.08% —— 真实生产数据 2.05× AI ÷ 人 = 2.05 倍 · 日均营销转化率 · CONVOAI 电话智能体生产数据
不再是「AI 能否替代人工」的问题。
是「人工能否追上 AI」的问题了。
五维金标准 · GOLD STANDARD23
不做会出什么事故 → 我们用什么兜底

企业级智能体必须做的 5 件事。

01运行时数据串租户 / 突增拖垮邻居 / 海外扩容等几周 → 全球 SD-RTN 200+ 节点 · RTE 30000+ 终端适配
02记忆5 轮就忘订单号 / 检索 1–2 秒节奏崩 / 知识更新慢念旧政策 → 毫秒级分层记忆 RAG 端到端
03安全法务风控签不了字 / 监管要审计日志拿不出 / 海外数据驻留违规 → 99.99% · SOC 2 / GDPR · SLA 赔付
04工具说了「改地址」其实啥也没改 / 出错无法回滚 / 协议私有接一个重写一次 → MCP + Function Call
05弹性双 11 / 春节直接挂 / 单供应商挂服务全挂 / 没 SLA 赔付损失不赔 → 900 亿分钟 RTE 月均支撑
这五件事没有一件跟「模型多聪明」有关。它们全都是「出事了谁负责」。
MONEY QUOTE · 04
5 件事少做一件， 就不算企业级。
被记住看的是「第二天还想不想找它」，被托付看的是「出事了谁赔」。这是两套完全不同的验收。
ACT 04
EVOLUTION
同源进化
两个物种长得完全不一样。但把壳掀开，底下是同一段 DNA、同一颗引擎。
01 分化 02 被记住 03 被托付 04 同源 05 云上
一颗引擎，两个出口26
对话式 AI · 产品线架构

一颗引擎，上接被记住，下接被托付。

入口层 · ENTRY 客户端 APP（RTC） / 智能硬件（RTSA） / 传统电话（PSTN · SIP） 传输层 · SD-RTN 全球 200+ 节点 · 毫秒级实时网络 引擎层 · CONVOAI CORE AI VAD · 优雅打断 · 注意力锁定 · 抽帧截图 · 降噪 · 回声消除 模型层 · MODELS ASR / LLM 单模与多模 / TTS 音色复刻 / 数字人 STUDIO · ENGINE · BENCHMARK · CALL AGENT · ROBOTICS 1 —— 5 件套覆盖两个半球
两条能力线 · TWO TRACKS27
被记住要什么 · 被托付要什么

上面两条线不同，下面这层是同一份工程。

被记住 · REMEMBERED —— 消费级要的能力 身份一致 长期记忆 临场节奏 个性表达 同一颗引擎 · 共享底座 低延迟 · 抗噪听清 · 优雅打断 · 多模态时间轴 · 级联可观测可兜底 被托付 · ENTRUSTED —— 企业级要的能力 多租户隔离 审计与合规 工具可回滚 SLA 可赔付 两条能力线不同，但底下这一层是同一份工程 —— 这就是同源进化
工程问题 #1 · LATENCY28
ENGINEERING PROBLEM #1

对话感，死于等待。

GREEN · 活人感 0–200 ms 面对面对话的理想区间，大脑听不见任何延迟。 YELLOW · 可接受 ≈ 400 ms 电话区间。人在做延迟补偿，开始消耗注意力。 RED · 关系破裂 ≥ 1.5 s 不再是对话，是在等系统反应。伙伴感碎，托付也碎。 任何一个工程环节多 200 MS，都是在杀死伙伴感、打破托付 SOTA · OPENAI TOLAN: P90 < 1.5S
延迟在消费级是关系指标，在企业级是履约指标。同一条曲线，两种代价。
工程问题 #2 · #329
ENGINEERING PROBLEM #2 · #3

毁掉对话的不是噪声，是人声。

01稳态噪声STATIONARY · 空调、风噪、机械持续运行 —— 已解决。
02瞬态噪声TRANSIENT · 敲击、关门、犬吠 —— 部分解决。
03非对话人声NON-TARGET HUMAN · 电视、家人、路人、同事 —— 致命。
PARALLEL FUNCTIONS · 多功能并列
语音 / 视觉 / 传感器各跑各的
三条时间轴，谁也不知道对方发生了什么。
WOVEN ON ONE TIMELINE · 多模态编织
声 · 视 · 触在统一时间轴上同步
你叹一口气：同时看表情、判断你在哪儿，然后转头问「怎么了」。
选择性注意力锁定 + 十年 SD-RTN 的时间轴对齐 —— 这两件事都不在模型里。
工程问题 #4 · ARCHITECTURE30
ENGINEERING PROBLEM #4

敢商用，才是架构的底线。

为什么我们坚持级联架构，不选端到端？
01 · OBSERVABLE
可观测
每一段延迟、每一个失败点，都能被定位。
02 · TUNABLE
可调优
ASR / LLM / TTS 可以独立替换、独立升级。
03 · RESILIENT
可兜底
出问题的时候，系统不会整体失控。
在消费机器人和企业客服里，稳定性本身就是用户体验。一次失控的对话，比 10 次平庸的对话更伤关系。
MONEY QUOTE · 05
模型决定能力上限。 引擎决定体验下限。
MODELS SET THE CEILING. ENGINES SET THE FLOOR. —— 在对话即交互的时代。
ACT 05 · 与亚马逊云科技联合
ON AWS
云上兑现
世界观讲完了。这一段是工程支柱：低延迟推理、弹性扩缩、多模型统一，以及一次全球峰值重保。
01 分化 02 被记住 03 被托付 04 同源 05 云上
SOLUTION A · 推理延迟优化33
POWERED BY AMAZON WEB SERVICES

把模型推理压回活人感区间。

NEED
目标 < 200 ms
要稳定落进「活人感」理想区间，模型推理这一段不能拖后腿。
WITH AWS
EC2 G6e + vLLM
单卡承载完整模型，vLLM 做框架级推理加速。
TOGETHER
推理延迟 4× 优化
稳定落入活人感区间。
注：SD-RTN 实时网络区域内延迟 < 40 ms，与模型推理是不同环节、独立叠加，不能混算成同一个数。
这条链路上，谁多花 200 ms，谁就在杀死对话感。
SOLUTION B · C34
弹性扩缩容 · 多模型统一

扛得住峰谷，换得动模型。

SOLUTION B · 弹性扩缩容
实时对话流量有明显峰谷
EC2 / EKS 承载引擎，Auto Scaling 按指标自动扩缩，ALB 做负载均衡，CloudWatch 做延迟 / 吞吐 / 错误率全链路监控。
结果：从容应对峰值，资源高效利用。
SOLUTION C · 多模型统一
一个网关，统一多模型
Amazon Bedrock 接入 Claude（复杂推理 / 高质量对话）、Nova（图文 / 成本优化）、Nova Sonic（语音输入输出 / 低延迟），LiteLLM 做统一 API 与路由。
结果：灵活切换，不被单一模型绑死。
供应商可替换，是企业级的底线之一，不是加分项。
RESULT · PRODUCTION AT SCALE35
MrBeast 超级碗直播

全球峰值，是这么扛下来的。

1 亿+
全球在线观众
REACH
640
EC2 C6a 实例 · 跨 4 大洲多 Region
SCALE
472 TB
峰值日出站流量
PEAK
5 min
全程响应 + 现场保障
SUPPORT
Global multi-region EC2 C6a · capacity planning + event support。
企业级不是在 PPT 上写「高可用」，是有人在那个晚上守着。
带走 · TAKEAWAYS36
如果只带走一页

三句话，判断你在哪个生态位。

1
先认生态位
你要的是被记住，还是被托付？两套验收标准，选错了后面全错。
2
角色自己握，引擎交出去
身份 / 关系 / 历史是你的产品资产。临场引擎交给专业的人做。
3
企业级那五件事一件都不能少
运行时 · 记忆 · 安全 · 工具 · 弹性。少做一件，就进不了采购流程。
两个物种，一颗引擎。你选哪个生态位都可以，但别把两套标准搞混。
MONEY QUOTE · 06 · 收口
把对话式智能体， 从 Demo 做成 Production， 从玩具做成伙伴。
被记住，被托付 —— 两个物种，同一颗引擎。
谢谢

被记住 ·
被托付。

姚光华 Colin · 声网 AI 产品线负责人
场合AWS 中国峰会 · 上海世博中心
日期2026.06.23
相关档案15_2026-06-23_AWS中国峰会_被记住被托付
说明据 40 页动效版重构 · 已剔除 2 页纯视觉页