“让 AI 看视频”正在成为多模态应用的高频需求,但“支持视频输入”这句话的含金量差别巨大:有的模型真正在建模时序与音频,有的只是把视频抽帧当图片处理。选型时若只看宣传页的三个字,后期返工的成本往往很高。本文按离线分析、视觉推理、实时交互三条技术路线,梳理 Gemini、Qwen 与字节 SeedRealtime 的真实能力边界与调用要点,供开发者选型参考。
第一道分水岭:离线分析,还是实时交互?
选型的第一步不是比较模型参数,而是明确业务形态。这两类需求的技术栈完全不同。
离线分析的典型场景包括会议纪要生成、教学视频内容提取、短视频合规审核等。业务形态是“输入一个视频文件,输出一段结构化文字”。Gemini 与 Qwen 的多模态模型即可覆盖。
实时交互的典型场景包括视频客服、远程协助、互动教学。模型需要一边看画面、一边听声音,并在对话过程中即时回应。“上传—等待—返回”的异步模式在此类场景中并不适用。目前可选的方案较少,字节跳动的 SeedRealtime 是少数已落地的产品,已上线豆包 App 的视频通话功能。
Gemini:能力上限最高,调用流程需注意
Gemini 3.1 Pro 原生支持 text、image、video、audio 四类输入,上下文窗口达 1M token,是目前视频理解能力的天花板之一。但其调用并非传入 base64 即可完成:
长视频需先通过 Files API 上传,轮询至状态变为 ACTIVE 后,才能以文件引用方式发起请求;
视频超过 5 分钟时建议开启 background=True,否则请求大概率超时;
该模型当前仍处于 Preview 状态,接口存在变动可能,生产环境接入需预留兼容方案。
Qwen:视频理解与工具调用的组合能力 Qwen3.7-Plus 是通用视频理解方向的旗舰模型,1M 上下文,支持最长两小时视频输入,并具备 function calling 与内建工具能力。对于“看视频 → 判断 → 执行”的 agent 流程,这一组合可以省去拼接多个模型的中间层。
QVQ-Max 则是专门的视觉推理模型。官方示例显示,它能基于当前画面“预测接下来可能发生什么”,适合工业质检、操作规范判断等需要时序推理的场景。
Qwen 的视频输入调用相对友好,直接在请求中传入 videos 字段即可:
{ "model": "qwen3.8-max", "videos": ["/path/to/clip.mp4"], "text": "按时间顺序总结这个视频的场景变化" } 需要留意官方文档中的一句说明:“Local sampled frames are sent as ordered images.” 即本地视频会被采样为有序图像序列发送。若只需大致的内容摘要,这一方式完全够用;但若涉及秒级精度的动作分析,采样率就是必须确认的关键参数。
SeedRealtime:实时视频对话的可行选择
当用户开着摄像头与系统对话时,异步的上传—等待—返回模式不再适用。SeedRealtime 采用原生音视频全双工架构,边看、边听、边说,无需等待对方说完再处理。
官方披露的细节包括:多人场景下可同时完成认人、辨声与说话人区分;嘈杂环境中能屏蔽无关对话并判断接话时机。该能力已全量上线豆包 App 的视频通话功能,经过了消费级场景验证。
需要说明的限制是:目前暂无公开的独立 API,若产品不在字节生态内,接入需走商务合作,选型前应先行确认。
容易被忽略的维度:音频
许多场景中,声音承载的信息密度不亚于画面——产品演示视频的旁白参数,往往比画面显示的内容更完整。Gemini 原生支持音频输入;Qwen 的 omni 系列可配合 ASR 输出带时间戳的字幕;SeedRealtime 则在架构层面完成了音视频联合建模。对于语音信息占比高的场景,选型时应确认模型是否真正解析了音轨,而非仅抽帧看画面。
选型建议(分场景)
长视频离线分析(会议、教学、审核):优先考虑 Gemini 3.1 Pro。需重点确认 Files API 上传流程、后台模式是否开启,以及 Preview 状态带来的接口变动风险。
通用视频理解 + 工具调用:Qwen3.7-Plus 更合适。它支持两小时视频上限,并具备 function calling 能力,适合需要"看完即执行"的 agent 流程。
视觉推理与因果判断:选择 Qwen QVQ-Max。此类场景对时序推理精度要求高,采样率的影响需要提前评估。
实时视频对话:SeedRealtime 是当前少数可选项。但需注意其目前主要在豆包生态内,若产品不在字节体系内,接入需走商务确认。
视频生成与二创:可关注 Gemini Omni Flash、MiniMax H3。需明确这类模型属于生成能力,与本文讨论的理解能力不可混为一谈,选型时不要混淆两类需求。
结语 视频理解模型的选型,本质上是先回答"业务需要离线分析还是实时交互",再在对应路线内比较上下文长度、采样方式、音频处理与工具调用能力。建议在选型阶段直接翻阅官方文档中的输入限制与处理方式说明,而非仅依据宣传页的功能列表——这一步能省去大量后期返工。