科大讯飞面向超大规模教育场景的 Agent 系统架构演进与工程实践|AICon上海

当前,以 Agent 为核心的新一轮技术浪潮正在席卷产业。那么,世界模型的下一个突破在哪?Agent 从 Demo 到工程化还差什么?研发体系不重构,还能撑多久?

6 月 26 日-6 月 27 日,AICon全球人工智能开发与应用大会将在上海举办。本次大会将围绕以上问题,邀请来自腾讯、阿里、快手、华为、飞猪等 50+头部企业的技术负责人、高校与科研机构的一线专家,分享 Agent 在真实生产环境中的落地经验与前瞻思考。深入探讨 Agent 从原型到量产的工程挑战、数据与记忆的基础设施底座、安全可信的落地保障,以及大模型推理优化、智算架构升级等关键命题。

科大讯飞高级系统架构师王搂已确认出席 “Agent 系统架构与工程化实践” 专题,并发表题为《面向超大规模教育场景的 Agent 系统架构演进与工程实践》的主题分享。本次演讲将重点分享如何用图灵完备的编排平台承接复杂 DAG、如何用节点状态机和消息驱动调度支撑混合交互、如何在工程上平衡“稳定流水线”与“局部闭环纠偏”、如何借助 CRDT、Distro 和 P2P 镜像分发解决分布式授权、水平扩展与大模型快速部署问题。同时也会讨论一个核心判断:在 Agent 系统里,决定上限的不只是模型能力,调度、工具、权限、记忆与监控这些 harness 设计同样关键。

科大讯飞面向超大规模教育场景的 Agent 系统架构演进与工程实践|AICon上海

王搂,科大讯飞高级系统架构师,从事复杂系统架构和设计 10 年以上,AI 开发 5 年以上,经历过引擎开发,工作流编排系统,引擎托管系统,Agent 开发运行平台等相关工作经历。重点参与了 BG 统一 Agent 运行底座 Wish 平台的开发,在引擎推理加速,工作流编排调度,Agent 运行底座与系统架构等方面具备丰富经验。他在本次会议的详细演讲内容如下:

演讲提纲:

  1. 为什么 AI 平台必须从”能力串联”升级为”自闭环系统”

    AI 应用从”单能力、短链路、短会话”演变为”多能力、复杂 DAG、长会话”

    大模型并没有消灭系统工程,反而把 Observe / Orient / Act 的工程问题全部暴露出来

    在复杂业务里,决定系统表现的往往不只是模型,而是整个运行时如何让系统更快感知、更快纠偏、更快恢复

  2. WISH 平台的核心定位:不是一个画布,而是 Agent 时代的运行时底座

    对标编程语言与 IDE 的设计思路:变量、分支、循环、子工作流、异常处理

    为什么“harness 和模型同等重要”:调度、工具、权限、记忆、监控共同决定系统上限

    不是所有问题都应该交给自由 Agent:教育场景更需要“稳定流水线 + 局部闭环纠偏”的混合架构

  3. 编排与调度:如何支撑复杂 DAG 的高效执行与调试

    调度器内核:节点状态机设计(未调度→预备→就绪→执行→已执行)

    基于消息驱动的数据传递:统一处理流式与非流式混合场景

    FaaS 落地:代码执行与调度解耦、命名空间隔离、字节码缓存、依赖管理

    一个关键经验:循环速度比单次“完美决策”更重要,系统必须优先保证可观测、可调试、可回退

  4. 服务托管与治理:如何把数百个引擎纳入统一框架

    统一托管框架:一次编写、无限次托管,启动自检 + 崩溃现场自动收集

    结构化 action space 的工程价值:节点、工具、工作流比“代码即动作”更适合权限控制、审计和治理

    负载均衡基础假设失效时的应对:基于授权限流的最大空闲调度策略

    分布式授权精准控制:基于 CRDT PN-Counter 的无冲突并发解决方案

    基于 Distro 协议的自组织集群:让水平扩展真正具备工程可行性

    高并发下再小概率的事件也一定会发生:记一次高并发复杂场景下的踩坑经历——内存复用导致的请求串乱

    高性能基础上的又一次性能飞跃:如何让服务发现性能翻倍

  5. 混合云弹性与线上稳定性:Agent 系统不能只会做题,还要能活在生产环境里

    多云自动化构建、发布与扩缩容系统设计

    基于 P2P 的高速镜像分发(提速 20 倍以上)

    精准监控与应急三板斧:重启、迁移、扩容

    从“人工盯系统”到“系统自我感知和自我恢复”的演进

  6. 未来规划:从运行时走向更严格的 Agent 基础设施

    以整个 AI 链路为单位的整体弹性伸缩

    工作流描述语言 WDL 的形式化与严格化验证

    “拉”模式大展身手,跳出复杂分布式授权的天花板

听众收益:

  • 对于教育超复杂场景下,Agent 运行与调度的清晰认知

  • 对于 Agent 的能力边界认知

  • 对于 Agent 时代下,对于底层 AI 基础设施超高要求的复杂度认知

除此之外,本次大会还策划了端侧 AI、物理与数字空间智能化、世界模型与多模态智能突破、Agent 架构与工程化实践、Agent 安全与可信治理、企业级研发体系重构、AI 原生数据工程、AI 时代的个人提效与组织变革等 14 个专题论坛,届时将有来自不同行业、不同领域、不同企业的 50+资深专家在现场带来前沿技术洞察和一线实践经验。

更多详情可扫码或联系票务经理 13269078023 进行咨询。

科大讯飞面向超大规模教育场景的 Agent 系统架构演进与工程实践|AICon上海