Gemini Agentic Video:不再按固定 FPS“看完整段视频”,Token 最多降 88% 的关键是主动找片段

Google 把视频理解从固定 1 FPS 采样升级成 Agentic Processing:模型根据问题主动搜索时间线、选择 Frames / Audio / Transcript,并对关键片段提高 FPS 重采样。Google 自报 Token 最多减少 88%、分析成本最多降低 66%、准确率最高提升 7%。

浏览 33
Gemini Agentic Video:不再按固定 FPS“看完整段视频”,Token 最多降 88% 的关键是主动找片段封面

Google 在 2026 年 9 月 1 日发布 Gemini Agentic Video Understanding。它不是一个新的独立“视频模型”,而是一种新的 video processing mode:传统 Static Processing 默认按固定 1 FPS 抽帧;Agentic Processing 则让模型根据用户问题主动搜索时间线、决定看哪些片段、用什么 FPS,以及优先读取 Frames、Audio 还是 Transcript。Google 发布说明

这项变化真正解决的是长视频的成本与细节矛盾。过去要么高频抽帧,把数十分钟甚至数小时视频全部塞进上下文,Token 很快膨胀;要么降低 FPS,又容易错过一闪而过的动作。Agentic Video 的思路更像人看监控录像:先粗略找范围,再回到关键几秒仔细看。

Static 是“按固定 FPS 全程看”,Agentic 是“先找再看”

Google 的 launch 文章把两种流程区别写得很清楚。Static Processing 会以固定帧率读取视频,默认 1 FPS,可以通过 API 调整;Agentic Video 则调用内部视频工具,根据问题动态 Search、Scan、Inspect 目标片段,并跨视觉帧、音频和 transcript 选择必要信号。Google 发布说明

Google 官方 Agentic Video 工作流程图:模型从 Query 出发,主动定位并加载相关视频片段后再生成回答。来源:Google。
Google 官方 Agentic Video 工作流程图:模型从 Query 出发,主动定位并加载相关视频片段后再生成回答。来源:Google。

例如用户问“演讲里什么时候第一次宣布产品价格”,模型没有必要对 90 分钟视频每秒都保持高分辨率分析。它可以先从 transcript 或低成本浏览中定位候选时间,再读取那几段画面确认具体字幕和视觉信息。

Gemini API 当前开发者文档还给出了可观察的执行痕迹:Agentic Processing 会在 interaction.steps 中出现 processing_callprocessing_result,表示模型正在请求某段视频或音频 transcript。对于需要解释 Agent 执行过程的应用,这比只得到最终答案更容易做进度展示和调试。

Token 最多 -88%、成本最多 -66%、准确率最高 +7%,三个都是“Up to”

Google 报告,在标准 video-analysis benchmarks 上,Agentic Video Understanding 可以把 token consumption 最多降低 88%、analysis cost 最多降低 66%,同时 accuracy 最高提升 7%Google 发布说明

Google 官方 Agentic Video benchmark 图。来源:Google;所有改善数字均为厂商自报且属于 up-to 结果。
Google 官方 Agentic Video benchmark 图。来源:Google;所有改善数字均为厂商自报且属于 up-to 结果。

这里最不能丢的是 up to。这不是“任何视频都固定节省 88% Token”,更不是模型参数本身突然节省 88%。效率来自只取与问题相关的时刻和模态。对一个 10 秒短片、需要逐帧检查全片的任务,Agentic 模式未必比 Static 更合适;Google 当前开发者文档甚至明确建议,短于 5 分钟且延迟敏感、或者需要整个视频 frame-level precision 的场景可以继续用 Static。Gemini API 文档

反过来,长视频或只查某个具体时刻的问题更适合 Agentic,因为模型不必把整段媒体全部填进 context window。

动态 FPS 让模型可以回到“那几秒”重新看

固定 1 FPS 最大的问题,是很多快动作会直接落在两个采样点之间。Google 给出的能力案例包括 sub-second moment retrieval、anomaly detection、counting actions / objects,以及 long-form needle-in-a-haystack search。Google 发布说明

Agentic Loop 在找到可疑时间窗口后,可以提高 FPS 重新采样那一小段。例如检测高速动作、画面异常或精确计数时,模型不需要从头到尾都按高 FPS 付出 Token,而是只在真正需要的几秒提高观察密度。

这其实把视频理解从“预先决定采样率”变成了“模型在执行过程中决定采样率”。对开发者而言,过去需要自己写一套粗扫、切片、二次取帧的逻辑,现在更多调度由 Gemini 内部 Agentic Loop 完成。

9 月 1 日首发支持 3.7 / 3.6 / 3.5,当前文档已经把 3.8 Flash 加进来

9 月 1 日的发布页写的是 Gemini 3.7 Flash、3.6 Flash 和 3.5 Flash-Lite 首批支持,并可通过 Google AI Studio 的 Gemini API 与 Gemini Enterprise Agent Platform 使用。Google 发布说明

到本文复核时,Gemini API 开发者文档已经更新为 3.8 Flash、3.7 Flash、3.6 Flash、3.5 Flash Lite 均支持 Agentic Video Understanding,并且代码示例已经直接使用 gemini-3.8-flash

启用方式仍很简单:对具体 video input 设置 processing: "agentic"。Google 表示它沿用标准 Gemini API token pricing,不额外收 feature fee。

这里也能看出为什么把它理解成“processing mode”比“新模型”更准确:随着新的 Flash 版本上线,这种 Agentic Video 能力可以被继续接到新的模型上。

Multi-turn 还有一个容易忽略的状态问题

当前 Gemini API 文档说明,视频上下文可以跨多轮保留。在 stateful 模式里,服务端通过 previous_interaction_id 保持上下文;在 stateless 模式里,开发者需要把之前返回的 processing_call / processing_result 等 steps 带到下一轮,否则视频上下文会丢失,跟进问题质量会明显下降。

这意味着 Agentic Video 不只是“少 Token 的视频问答接口”,它已经带有明显的 Agent runtime 特征:模型会调用内部 processing tool、返回执行 step,并依赖状态管理支持后续追问。

更大的变化,是视频也开始进入 Agentic Processing

Agentic Video 的价值并不只是一个 88% 的数字。更重要的是,模型开始对“如何读取输入”拥有执行权:不是把所有素材先静态预处理完,再让模型回答,而是让模型根据任务主动决定下一步应该读取什么证据。

这与 Agent 在网页、终端和文件系统中的工作方式越来越相似:先理解目标 → 找相关区域 → 调工具取证 → 必要时重新检查 → 再回答。 对长会议、课程、监控、体育动作、内容剪辑和视频知识库,这种模式可能比单纯扩大上下文窗口更有效。

但目前能确认的仍然是 Google 官方 benchmark 与产品文档,本站没有对 88% / 66% / 7% 做独立复测。真正进入生产环境后,仍需要按自己的视频长度、问题类型、响应延迟和 follow-up 方式,对 Static 与 Agentic 做 A/B。

本文为公开资料整理与技术学习参考,不提供采编、转载或发布服务。

浏览 33
AI 基础设施 NVIDIA PAIR:把家里的 RTX、DGX Spark 和 Mac 变成本地 AI 请求集群,但它不是“显存池化”封面 NVIDIA PAIR:把家里的 RTX、DGX Spark 和 Mac 变成本地 AI 请求集群,但它不是“显存池化” 可以把 NVIDIA PAIR 理解成家里本地 AI 的“派单前台”:RTX 主机、DGX Spark、Mac 就像几名能力不同的员工,PAIR 看谁在线、谁装了对应模型、谁现在最空闲,就把下一份 AI 工作交给谁。它特别适合多 Agent 并发,但不会把 16GB + 24GB 显存拼成 40GB,也不会把一个大模型拆到多台机器上。 48