方向调研 · 文献阅读
从视频异常检测研究中确定项目问题
项目首先梳理视频异常检测、交通事故识别、多目标跟踪、边缘计算与大模型复核相关研究。调研发现,单一算法往往集中于离线精度,较少同时处理边缘算力、连续监控、候选事件传输与结果解释,因此将研究目标收敛为“前端快速筛查、服务器中转、后端可信复核、网页统一展示”的系统路线。
DEVELOPMENT ARCHIVE · V1.1
记录路瞳从研究问题、原型验证到边云协同系统落地的每一次关键选择。
从一篇论文引发的工程性设计构想,到系统设计与落地
方向调研 · 文献阅读
项目首先梳理视频异常检测、交通事故识别、多目标跟踪、边缘计算与大模型复核相关研究。调研发现,单一算法往往集中于离线精度,较少同时处理边缘算力、连续监控、候选事件传输与结果解释,因此将研究目标收敛为“前端快速筛查、服务器中转、后端可信复核、网页统一展示”的系统路线。
模型基线 · 目标感知
以轻量YOLO权重建立车辆、行人和两轮车目标检测基线,并逐步比较不同规模模型的速度、显存占用和检测稳定性。这个阶段验证了开发板承担第一层视觉筛查的可行性,也明确了后续不能只依赖单帧检测框,需要继续加入时序关联与风险判别。
数据准备 · 视频输入
编写视频预处理脚本,统一输入视频的尺寸、帧率与编码条件,并建立逐帧读取、模型推理和结果保存流程。原始数据、处理数据与输出结果被分开管理,为后续跟踪、光流、事件缓存和重复实验提供了稳定的数据入口。
本地联调 · 可视化
首版展示工具将视频输入、检测帧和分析状态放到同一界面中,用于观察模型输出是否连续、风险区域是否合理以及处理进度是否正常。该工具主要服务开发调试,也成为后来网页工作台中“上传任务、前端返回帧、任务状态”三类界面的原型。
时序关联 · 多帧检测
加入多目标跟踪与轨迹历史维护,为每个交通参与者建立连续ID、位置序列和对象间关系。系统由“当前帧看到了什么”进一步发展为“目标是谁、如何移动、是否持续接近”,为对象对风险计算、异常持续性约束和事件前后帧留存提供基础。
数学判别 · 风险状态机
围绕目标距离、边界框重叠、相对接近趋势、轨迹变化和持续帧数构建风险评分,再通过normal、suspicious、danger状态控制事件进入条件。短时持续性约束用于抑制单帧抖动和偶然遮挡,让前端输出保留可解释的几何依据。
运动证据 · 光流增强
加入平均运动强度、高运动像素比例、运动突变和方向冲突等光流统计量。当目标框能够稳定关联时,光流作为额外风险证据;当高速碰撞、形变或遮挡导致检测掉线时,热点区域仍可维持异常关注,使系统同时支持pair-driven与flow-driven两类候选路径。
事件管理 · 结构化传输
事件管理器负责候选状态维护、触发合并、前后帧缓存、事件clip导出与结构化文件组织。事件包将视频片段、逐帧关注区域、目标标注和事件摘要绑定为同一个可传递单元,避免上传整段监控视频,也让后端获得可复核的上下文与证据线索。
任务中心 · 服务器中转
服务器负责接收网页视频、创建任务ID、保存任务状态、向板端分发视频、接收事件包并等待后端结果。网页、开发板和复核服务不再直接互相依赖文件路径,而是围绕同一任务记录读取和回写状态,形成可追踪、可恢复的中转机制。
后端复核 · 多视角理解
后端从事件包读取clip、摘要和逐帧关注区域,重建注意力计划并生成全局、ROI、上下文与关键帧等多视角输入。VLM负责抽取视觉事实和事故线索,LLM负责整合前端结构化信息、多视角结论与排除证据,最终输出事件类别、目标命中关系、证据摘要和中文复核说明。
参数校准 · 稳定化评测
后端围绕人工校验候选事件包、多个后端版本、提示词方案、稳定化参数和多视角输入开展反复复跑。每条事件进一步派生全局视频、ROI视频、上下文视频、关键帧、注意力计划与结构化JSON,累计整理500余项中间数据和复核记录。当前文档记录的global_presence一致率为0.7500,final_label一致率为0.5667;结果证明候选事件复核路线可运行,同时也暴露出目标对齐和误报抑制仍需继续校准。
板端Worker · 结果回写
板端Worker定时从服务器领取任务,下载视频后调用前端分析链并上传事件包、预览帧和阶段状态;后端完成复核后将结果写回同一任务。围绕结果目录与任务ID进行修正后,网页能够读取对应任务的复核包,而不会混入其他任务结果。
网页结果 · 关键截图
网页开始按任务状态展示上传、板端分析、事件包就绪和后端完成等阶段,并读取关键帧、风险等级、置信度、结构化标签、证据摘要与推理说明。同期整理五张关键截图和项目标识,用于技术文档与答辩材料说明完整工作链路。
公网部署 · 故障排查
系统通过Nginx反向代理将网页和任务接口统一到公网域名,并围绕SSH连接、HTTPS握手、移动热点网络、服务器结果目录和接口状态进行多轮排查。测试表明HTTP可到达但特定热点可能重置TLS连接,因此部署说明中保留了网络替换、证书握手和健康接口等检查步骤。
路线评估 · 音视频多模态
项目曾设计将关键音频按事件clip起止时间同步截取,并与两个JSON文件和视频片段共同组成多模态事件包。进一步检索发现,MAVAD公开仓库仍标注数据与代码待发布,现阶段缺少适合直接训练的同步道路碰撞音视频数据,因此音频模块暂未写入V1.1主链,连续事件缓存机制则继续保留。
场景数据 · 人工标注
围绕Balanced Accident Video Dataset建立视频级场景标注流程,每段视频均匀截取四帧并合成为一张预览图,标注网页只需选择交通密度类别即可写入CSV。训练集用于模型学习,测试集保留为独立验证来源,减少逐帧标注造成的重复劳动和同一视频标签不一致。
场景CNN · 四分类实验
使用MobileNetV3-Large在AutoDL RTX 5090上训练四分类模型,训练输入包含7144张图像,验证输入包含1256张图像。30轮训练最高验证准确率为58.20%,训练准确率接近98%;混淆矩阵显示正常与稀疏边界、正常与密集边界,以及样本较少的特殊场景均存在明显混淆。
标签重构 · 三分类实验
考虑公开数据中恶劣天气和强模糊样本不足,重新标注原特殊类视频,将任务收敛为密集、正常、稀疏三类。采用384×216输入、强数据增强、batch size 96和1e-4学习率训练20轮,最高验证准确率达到66.85%。该模型定位为风险参数校准器,因此采用置信度门控,而不承担事故最终判断。
场景自适应 · 板端融合
场景分类器以低频方式与目标检测并行运行,输出三类交通密度概率。当最高置信度达到0.70时,系统按密集、正常或稀疏场景调整suspicious、danger阈值与持续帧条件;置信度不足时自动回退到原有规则判断。该模块的目标是减少非必要事件包,而不会覆盖几何风险与光流证据。
技术报告 · 板端交付
在保留V1.0主体内容的基础上,将CNN场景分类、动态风险校准、模块顺序和后续优化方向写入V1.1技术报告,并重新核对公式下标、章节位置和前端层次。新版板端文件夹只保留运行所需Python脚本和简要说明,训练模型作为独立资产管理,便于开发板测试和版本回退。
产品界面 · 多层网页
网页由单一展示界面升级为多层产品站:首页承担项目路线与价值概览,资料页提供十篇参考论文,分析页负责视频上传与板端返回帧,详情页承接关键帧、硬指标、VLM分析、LLM复核和最终判断。各页面统一使用浅色粒子背景、独立主题色和明确跳转关系,目前开发者日志已加入同一页面体系。