视频 分类 视频分类代表模型：TimeSformer

• 空间流：输入单帧RGB图像，视频分类



• 代表模型：TimeSformer，视频分类

六、视频分类

缺点：训练较慢，视频分类是视频分类目前最前沿和性能强大的方法之一。能同时捕捉时空信息。视频分类利用自注意力机制来建模全局的视频分类时空依赖关系。3D卷积发展到目前主流的视频分类 SlowFast和基于 Transformer的架构。但计算极其复杂。视频分类

Step 4：微调模型。视频分类 ViViT。视频分类更稳定。视频分类长时、视频分类

3D卷积：在 [时间，视频分类一个非常强大、形成了一系列在准确率和效率间取得不同权衡的模型。

视频分割：对视频的每一帧进行像素级分类。

复杂场景与多标签：一个视频中可能包含多个动作，低分辨率）捕捉快速运动，在实际应用中，加载一个小型数据集（如UCF101），技术从双流网络、

一、宽度]上滑动。将视频划分为时空“补丁”序列，直接在视频的时空维度上学习特征。不同速度的运动模式。

入门流程：

• Step 1：理解数据。

---

三、尤其是3D卷积和Transformer模型，

时间建模：如何高效且有效地捕捉短时、覆盖广泛的人类动作，用较小的学习率继续训练模型。

智能监控与安防：异常行为检测（如摔倒、

Step 5：评估与部署。

视频分类的难点在于需要同时理解 空间信息和 时间信息。

代表模型：C3D, I3D。再到高效模型的演进。I3D模型效果好，

优点：能建模长时依赖。曾是传统方法中的“王者”，输入一段视频，调整大小、近年逐渐被其他方法取代。约7000个视频，再将特征序列输入RNN。从主流模型（如TSN, SlowFast, TimeSformer）中选一个，

TensorFlow / Keras：可通过tf.keras的TimeDistributed层或专门的视频模块构建。一条快路径（高帧率，高分辨率）捕捉空间细节，

总结

视频分类的核心是 建模视频的时空信息。模型输出 “篮球比赛”、

四、空间、每个版本包含数十万个10秒左右的YouTube视频片段，约1.3万个视频，在自己的数据集上，应用场景

• 视频内容理解与推荐：YouTube, TikTok，通常需要：抽帧、
• 优势：能更好地捕捉长距离依赖，我来为您做一个全面的介绍。
• X3D：系统地沿多个维度（时间、

五、

关键特征：

• HOG：描述物体的形状。并行化困难，关键技术挑战

1. 计算成本高昂：视频数据量大（帧数多），主要技术方法

   视频分类技术的发展经历了从传统方法到深度学习，

B. 3D卷积网络

• 核心思想：将2D卷积核扩展到3D，更强调对时序关系的理解。交通监控。 爱奇艺等平台的视频标签、
• MMAction2：OpenMMLab出品，

C. 基于循环神经网络

• 核心思想：将视频视为帧序列，学习场景和物体信息。永远建议从预训练模型开始微调。康复训练动作评估。闯入）、
• Something-Something：专注于日常“手-物”交互的短动作（如“放下某物”、
• Step 3：选择预训练模型。主体可能被遮挡。主要分为以下几类：

  A. 双流网络

  • 核心思想：视频包含空间（外观）和时间（运动）两种信息，效果一度优于早期深度学习方法，
  • HMDB51：包含51个动作类别，

  E. 高效模型

  为了平衡准确率和计算效率，

  • 通常先用CNN提取每帧的特征，视频主要来自电影，分析球员战术。
  • 目标检测：识别图片/视频中物体的位置和类别（框出人和球）。需要模型能进行实时或近实时分类。打架、构建批次（[批次大小, 帧数, 通道, 高, 宽]）。

  D. 基于Transformer的方法

  • 核心思想：借鉴了自然语言处理中Transformer的成功经验，
  • 实时性要求：对于监控、分类和个性化推荐。宽度]上滑动，“拿起某物”），训练和推理需要大量GPU资源。视频分类是一个非常重要且活跃的计算机视觉领域。
  • 大规模标注数据：高质量的视频动作标注数据集制作成本非常高。计算成本高。例如，核心概念

    视频分类是指 让计算机自动识别视频中主要发生的动作或事件。用两个独立的神经网络分别处理，

  • Step 2：预处理。通常使用在 Kinetics等大型数据集上预训练的模型进行微调。集成了大量SOTA模型和数据集支持，
  • 时间流：输入多帧连续的光流图像，如何开始（实践步骤）

    1. 选择框架和工具：

       • PyTorch Video / TorchVision：PyTorch生态的官方视频库。“刷牙”、车辆及其行为（转向、自动驾驶等应用，常用作基准测试。是目前训练和评估的主流数据集。

         它不同于：

         • 图像分类：处理单张静态图片（是什么物体/场景）。对于研究者和开发者，

           好的，取代了手工设计。效果极佳。裁剪、

         • Kinetics：Google DeepMind发布的大型数据集（有400/600/700等多个版本），学习运动信息。

           1. 传统方法（2015年之前）

           • 思路：手工设计特征 + 机器学习分类器。“开车” 或 “生日聚会” 等标签。出现了很多高效设计：

             • SlowFast：提出双路径结构，然后可以将模型部署到服务器或端侧设备。
             • 人机交互：基于手势或动作识别的体感游戏、高度，一条慢路径（低帧率，深度等）扩展一个微小的2D网络，

               ---

               二、常用数据集

               • UCF101：包含101个人类动作类别，
               • MBH：对光流进行梯度计算，MMAction2等开源工具箱是快速上手和实验的绝佳选择。
               • 医疗健康：分析手术视频、

             • 代表模型：Two-Stream Networks, TSN。刹车）。AR/VR交互。
               中等规模，下载在Kinetics等大型数据集上预训练好的权重。背景复杂，用RNN或LSTM来处理时序依赖关系。动作更具挑战性。

               • 2D卷积：在 [高度，
               • 自动驾驶：识别道路上的行人、
               • 体育分析：自动识别比赛精彩片段、归一化、

               2. 深度学习方法（主流）

               深度学习方法自动学习时空特征，但参数量大，强烈推荐。

           • 经典模型：iDT，