消费级显卡可以快速上手跑！面壁智能MiniCPM-o 4.5发技术报告

今天，面壁智能联合OpenBMB开源社区、清华大学THUNLP实验室和THUMAI实验室，正式发布MiniCPM-o 4.5技术报告。

用户与AI无法并行交流，AI无法实时感知环境、不能被打断插话，存在交互时空割裂，用户体验差，严重制约多模态AI落地应用。

MiniCPM-o 4.5是面壁智能今年2月发布的全双工全模态模型，也是业界首个端到端全双工全模态大模型。

利用MiniCPM-o 4.5，不用联网、仅用一张消费级显卡，你就能在个人电脑上拥有一个“边看、边听、边说、还能主动提醒”的类人AI助手。

目前，MiniCPM-o 4.5已基于llama.cpp完成模型量化和推理性能优化，实测最低12GB显存的RTX 5070即可流畅运行全双工模式（RTF0.4)，极大降低了个人端侧部署的准入门槛。M1-M5 Max（包含M5 Pro）的MAC设备亦可使用，建议内存超过16G。

下面这支视频展示了MiniCPM-o 4.5在个人笔记本上的完整部署与运行过程，包括全双工语音对话、实时视觉理解、主动提醒等能力演示。

技术报告发布之外，MiniCPM-o 4.5还同步推出在线体验Demo、全模态全双工API、端侧安装包Comni和Demo仓库。

MiniCPM-o 4.5极致流畅的全双工交互体验，核心依托于面壁智能与清华大学联合研发的Omni-Flow流式全模态框架。

通过时分复用机制，Omni-Flow流式全模态框架将视觉、音频、文本等多模态并行信息流，精准对齐、拆分重组为周期性时序信息组。

模型以每秒一次的高频次持续刷新环境认知，实时更新对场景和用户意图的理解，全程无需依赖外部VAD语音活动检测工具，原生支持持续感知、即时响应、自由打断。

在模型架构上，MiniCPM-o 4.5采用轻量化端到端全模态设计，整体仅9B参数，由四大核心模块高效协同构成：

模块化分工设计各司其职、高效联动，既保留了大模型强大的理解推理能力，又规避了复杂声学任务对核心算力的损耗。

在保证语音流畅自然、情感饱满的前提下，最大限度降低交互延迟，彻底解决流式对话卡顿、滞后、衔接生硬的行业难题。

在多项权威评测基准中实现越级对标，MiniCPM-o 4.5综合性能比肩甚至超越多款行业前沿大模型。

在视觉能力上，模型OpenCompass综合得分77.6、MMBench英文得分87.6，整体表现对标Gemini 2.5 Flash，图像理解、数学推理、文档解析能力表现优异。

Daily-Omni、Video-Holmes等多项评测数据显示，MiniCPM-o 4.5优于Gemini 2.5 Flash等大模型的表现；在LiveSports-3K-CC全双工视频基准测试中，胜率达到54.4%，领先各类专用流式视频模型。

INT4量化版本显存占用大幅降低，仅需12GB显存即可运行，解码速度可达212 tokens/s，相较同类模型提速40%以上，响应延迟更低，性价比与落地优势拉满。

MiniCPM-o 4.5全面支持中英双语实时语音对话，语音生成质量行业领先，中文CER、英文WER错误率低于CosyVoice2等主流模型，情感表现力更强。

延续MiniCPM-V系列优势，拥有前沿的OCR文档解析能力，支持高清图像、高帧率视频处理，多语言解析能力覆盖30余种语言。

同时，模型原生兼容传统轮次对话、Omni-Flow全双工流式交互两种模式，无缝切换，兼顾精准问答与实时流式交互需求，适配各类使用场景。

为让技术真正落地普惠，MiniCPM-o 4.5打造了全渠道、全人群的开放落地体系，兼顾普通用户体验与开发者二次开发需求。

面向普通用户，官方开放无需注册、无需下载的在线体验Demo，同时推出适配Windows、macOS系统的桌面端Comni一键安装包，简化部署流程，普通用户可快速上手体验全双工AI交互能力。

面向广大开发者，平台免费开放全双工实时WebSocket API，提供完整规范的接口文档，支持快速接入各类应用；同时完整开源Demo前后端代码，开放Linux部署方案，支持开发者自由二次开发、自定义调试，助力各类全模态AI应用快速落地。

依托原生全双工、持续感知、主动交互的核心能力，MiniCPM-o 4.5突破了传统AI单次问答的场景局限，解锁了大量全新流式交互应用场景。

在生活服务领域，有望作为沉浸式智能陪伴助手，在用户运动、烹饪、日常劳作时实时答疑、主动提醒、全程指导。

在无障碍公益领域，可为视障人群提供实时环境感知服务，主动播报路况、设备状态、环境变化，成为可靠的“视觉辅助助手”。

在智能车载领域，可以持续监测路况与驾驶员状态，主动预警风险、提示可用车位、辅助泊车，提升驾驶安全性。

在具身智能领域，可作为机器人核心大脑，持续感知动态环境、自主决策交互时机，适配智能机器人、智能家居等智能化场景，覆盖生活化、公益化、工业级多维度需求。

可以说，MiniCPM-o 4.5把“主动式AI”从概念变成了可以在你电脑上跑起来的东西。

但这不妨碍它已经立起了一个新的起点——全双工全模态、端侧可部署、全栈开源，这条路线跑通了。

目前，MiniCPM-o 4.5在线体验、API、端侧安装包、Demo代码仓库，所有入口都已在GitHub和面壁官网上线。

https://github.com/OpenBMB/MiniCPM-o/blob/main/docs/MiniCPM_o_45_technical_report.pdf