Gemini Agentic Video:不再按固定 FPS“看完整段视频”,Token 最多降 88% 的关键是主动找片段
Google 把视频理解从固定 1 FPS 采样升级成 Agentic Processing:模型根据问题主动搜索时间线、选择 Frames / Audio / Transcript,并对关键片段提高 FPS 重采样。Google 自报 Token 最多减少 88%、分析成本最多降低 66%、准确率最高提升 7%。
Google 在 2026 年 9 月 1 日发布 Gemini Agentic Video Understanding。它不是一个新的独立“视频模型”,而是一种新的 video processing mode:传统 Static Processing 默认按固定 1 FPS 抽帧;Agentic Processing 则让模型根据用户问题主动搜索时间线、决定看哪些片段、用什么 FPS,以及优先读取 Frames、Audio 还是 Transcript。Google 发布说明
这项变化真正解决的是长视频的成本与细节矛盾。过去要么高频抽帧,把数十分钟甚至数小时视频全部塞进上下文,Token 很快膨胀;要么降低 FPS,又容易错过一闪而过的动作。Agentic Video 的思路更像人看监控录像:先粗略找范围,再回到关键几秒仔细看。
Static 是“按固定 FPS 全程看”,Agentic 是“先找再看”
Google 的 launch 文章把两种流程区别写得很清楚。Static Processing 会以固定帧率读取视频,默认 1 FPS,可以通过 API 调整;Agentic Video 则调用内部视频工具,根据问题动态 Search、Scan、Inspect 目标片段,并跨视觉帧、音频和 transcript 选择必要信号。Google 发布说明

例如用户问“演讲里什么时候第一次宣布产品价格”,模型没有必要对 90 分钟视频每秒都保持高分辨率分析。它可以先从 transcript 或低成本浏览中定位候选时间,再读取那几段画面确认具体字幕和视觉信息。
Gemini API 当前开发者文档还给出了可观察的执行痕迹:Agentic Processing 会在 interaction.steps 中出现 processing_call 和 processing_result,表示模型正在请求某段视频或音频 transcript。对于需要解释 Agent 执行过程的应用,这比只得到最终答案更容易做进度展示和调试。
Token 最多 -88%、成本最多 -66%、准确率最高 +7%,三个都是“Up to”
Google 报告,在标准 video-analysis benchmarks 上,Agentic Video Understanding 可以把 token consumption 最多降低 88%、analysis cost 最多降低 66%,同时 accuracy 最高提升 7%。Google 发布说明

这里最不能丢的是 up to。这不是“任何视频都固定节省 88% Token”,更不是模型参数本身突然节省 88%。效率来自只取与问题相关的时刻和模态。对一个 10 秒短片、需要逐帧检查全片的任务,Agentic 模式未必比 Static 更合适;Google 当前开发者文档甚至明确建议,短于 5 分钟且延迟敏感、或者需要整个视频 frame-level precision 的场景可以继续用 Static。Gemini API 文档
反过来,长视频或只查某个具体时刻的问题更适合 Agentic,因为模型不必把整段媒体全部填进 context window。
动态 FPS 让模型可以回到“那几秒”重新看
固定 1 FPS 最大的问题,是很多快动作会直接落在两个采样点之间。Google 给出的能力案例包括 sub-second moment retrieval、anomaly detection、counting actions / objects,以及 long-form needle-in-a-haystack search。Google 发布说明
Agentic Loop 在找到可疑时间窗口后,可以提高 FPS 重新采样那一小段。例如检测高速动作、画面异常或精确计数时,模型不需要从头到尾都按高 FPS 付出 Token,而是只在真正需要的几秒提高观察密度。
这其实把视频理解从“预先决定采样率”变成了“模型在执行过程中决定采样率”。对开发者而言,过去需要自己写一套粗扫、切片、二次取帧的逻辑,现在更多调度由 Gemini 内部 Agentic Loop 完成。
9 月 1 日首发支持 3.7 / 3.6 / 3.5,当前文档已经把 3.8 Flash 加进来
9 月 1 日的发布页写的是 Gemini 3.7 Flash、3.6 Flash 和 3.5 Flash-Lite 首批支持,并可通过 Google AI Studio 的 Gemini API 与 Gemini Enterprise Agent Platform 使用。Google 发布说明
到本文复核时,Gemini API 开发者文档已经更新为 3.8 Flash、3.7 Flash、3.6 Flash、3.5 Flash Lite 均支持 Agentic Video Understanding,并且代码示例已经直接使用 gemini-3.8-flash。
启用方式仍很简单:对具体 video input 设置 processing: "agentic"。Google 表示它沿用标准 Gemini API token pricing,不额外收 feature fee。
这里也能看出为什么把它理解成“processing mode”比“新模型”更准确:随着新的 Flash 版本上线,这种 Agentic Video 能力可以被继续接到新的模型上。
Multi-turn 还有一个容易忽略的状态问题
当前 Gemini API 文档说明,视频上下文可以跨多轮保留。在 stateful 模式里,服务端通过 previous_interaction_id 保持上下文;在 stateless 模式里,开发者需要把之前返回的 processing_call / processing_result 等 steps 带到下一轮,否则视频上下文会丢失,跟进问题质量会明显下降。
这意味着 Agentic Video 不只是“少 Token 的视频问答接口”,它已经带有明显的 Agent runtime 特征:模型会调用内部 processing tool、返回执行 step,并依赖状态管理支持后续追问。
更大的变化,是视频也开始进入 Agentic Processing
Agentic Video 的价值并不只是一个 88% 的数字。更重要的是,模型开始对“如何读取输入”拥有执行权:不是把所有素材先静态预处理完,再让模型回答,而是让模型根据任务主动决定下一步应该读取什么证据。
这与 Agent 在网页、终端和文件系统中的工作方式越来越相似:先理解目标 → 找相关区域 → 调工具取证 → 必要时重新检查 → 再回答。 对长会议、课程、监控、体育动作、内容剪辑和视频知识库,这种模式可能比单纯扩大上下文窗口更有效。
但目前能确认的仍然是 Google 官方 benchmark 与产品文档,本站没有对 88% / 66% / 7% 做独立复测。真正进入生产环境后,仍需要按自己的视频长度、问题类型、响应延迟和 follow-up 方式,对 Static 与 Agentic 做 A/B。
本文为公开资料整理与技术学习参考,不提供采编、转载或发布服务。
17GB对100GB:Qwen3.8-27B与Flash-Next做同一批任务,省下的容量换来了什么?
同做89项终端任务,17GB的27B首轮完成35项,100GB的Flash-Next完成45项;最多两次是46对53,最多四次是48对60。本文追到9月13日后续结果,区分模型能力、环境故障和返工时间;测试为苹果MLX四位量化,不是GSQ-RCO IQ3_S,也不能套到16GB显卡。
Qwen3.8-Flash-Next每秒70词元?本地加速之前,先看模型究竟改了什么
同样叫Flash-Next,70词元/秒背后可能是另一条计算路径:每词元激活专家从10减到5,再训练共享专家补偿。本文对照单台DGX Spark的两套原始资料,拆开量化、MTP、输入速度、输出速度和并发吞吐,不把128GB统一内存结果套到16GB显卡。
NVIDIA PAIR:把家里的 RTX、DGX Spark 和 Mac 变成本地 AI 请求集群,但它不是“显存池化”
可以把 NVIDIA PAIR 理解成家里本地 AI 的“派单前台”:RTX 主机、DGX Spark、Mac 就像几名能力不同的员工,PAIR 看谁在线、谁装了对应模型、谁现在最空闲,就把下一份 AI 工作交给谁。它特别适合多 Agent 并发,但不会把 16GB + 24GB 显存拼成 40GB,也不会把一个大模型拆到多台机器上。