EgoCross相关总结与翻译一、文章主要内容本文聚焦多模态大型语言模型（MLLMs）在跨领域第一视角视频问答（EgocentricQA）中的泛化能力评估问题。现有相关基准和研究多局限于烹饪、清洁等日常活动场景，而现实应用中模型常面临视觉风格与语义内容差异显著的领域迁移挑战。为此，研究团队提出EgoCross基准，该基准涵盖手术、工业、极限运动和动物视角四个多样化且具有挑战性的领域，对应798个视频片段，包含约1000个问答对，覆盖预测、识别、定位和计数四大核心QA任务，且每个问答对均提供开放式问答（OpenQA）和封闭式问答（CloseQA）两种格式，支持精细化评估。研究通过对8个最先进的MLLMs（包括通用型、第一视角专用型）进行实验，发现多数模型在跨领域场景下表现不佳，CloseQA准确率低于55%（随机概率为25%），OpenQA准确率低于35%，且从日常场景基准EgoSchema迁移到EgoCross时性能显著下降（降幅达1.6倍）。同时，团队开展提示学习、监督微调（SFT）和强化学习（RL）等初步研究，发现RL在提升跨领域性能方面效果最显著，平均准确率提升22%，为后续领域自适应、稳健的第一视角视频理解研究提供了方向。二、文章创新点首次定义并推动跨领域第一视角视频问答任务：指出该任务在现实应用中的重要性却未被充分探索，填补了现有研究在领域迁移评估方面的空白。构建首个跨领域第一视角视频问答基准EgoCross：选取四个高实用性且与日常 EgoCross: Benchmarking Multimodal Large Language Models for Cross-Domain Egocentric Video Questio...
EgoCross相关总结与翻译一、文章主要内容本文聚焦多模态大型语言模型（MLLMs）在跨领域第一视角视频问答（EgocentricQA）中的泛化能力评估问题。现有相关基准和研究多局限于烹饪、清洁等日常活动场景，而现实应用中模型常面临视觉风格与语义内容差异显著的领域迁移挑战。为此，研究团队提出EgoCross基准，该基准涵盖手术、工业、极限运动和动物视角四个多样化且具有挑战性的领域，对应798个视频片段，包含约1000个问答对，覆盖预测、识别、定位和计数四大核心QA任务，且每个问答对均提供开放式问答（OpenQA）和封闭式问答（CloseQA）两种格式，支持精细化评估。研究通过对8个最先进的MLLMs（包括通用型、第一视角专用型）进行实验，发现多数模型在跨领域场景下表现不佳，CloseQA准确率低于55%（随机概率为25%），OpenQA准确率低于35%，且从日常场景基准EgoSchema迁移到EgoCross时性能显著下降（降幅达1.6倍）。同时，团队开展提示学习、监督微调（SFT）和强化学习（RL）等初步研究，发现RL在提升跨领域性能方面效果最显著，平均准确率提升22%，为后续领域自适应、稳健的第一视角视频理解研究提供了方向。二、文章创新点首次定义并推动跨领域第一视角视频问答任务：指出该任务在现实应用中的重要性却未被充分探索，填补了现有研究在领域迁移评估方面的空白。构建首个跨领域第一视角视频问答基准EgoCross：选取四个高实用性且与日常 RELATED READING
延伸阅读
更多一线实战笔记与深度复盘，助您持续精进
