资讯 人工智能
此为临时链接,仅用于文章预览,将在时失效

CoRL 2026|诺亦腾机器人开放 HiPHI-Hand,支持英伟达 EgoHand 训练

作者:郑佳美
2026/11/10 15:28

HiPHI-Hand 提供亚毫米级精度的三维手部真值与同步的第一视角视频,将采用与 HiPHI 相同的研究许可在 Hugging Face 公开发布。在CoRL 2026 上,参会者可佩戴诺亦腾机器人 SOL 头戴设备,实时观看自己双手的三维重建画面。

CoRL 2026|诺亦腾机器人开放 HiPHI-Hand,支持英伟达 EgoHand 训练

专注于 Physical AI 的具身数据公司诺亦腾机器人(Noitom Robotics)今日宣布,将于 Hugging Face 平台公开发布高精度手部动作捕捉数据集 HiPHI-Hand。该数据集已被用于训练 NVIDIA EgoHand —— 一款基于 NVIDIA Isaac Capture 统一框架构建的3D手部重建模型。该模型仅需单目摄像头拍摄的第一人称视角视频,即可准确还原手部三维姿态。

Noitom Robotics 与 NVIDIA 双方还将在11 月 9 日至 12 日于奥斯汀举行的机器人学习大会(Conference on Robot Learning,CoRL 2026)期间提供现场演示,参会者可通过佩戴诺亦腾机器人 SOL 第一人称视角数据采集设备,体验运行在 NVIDIA RTX PRO GPU 硬件设施上的 EgoHand 模型,实时观察自己的手部动作如何被重建为三维空间中的可学习数据。

CoRL 2026|诺亦腾机器人开放 HiPHI-Hand,支持英伟达 EgoHand 训练

EgoHand 可通过单个第一人称视角摄像头重建手部的三维姿态和形状。NVIDIA 依据 OpenMDW 许可发布该模型,允许免费商用。模型使用 1400 万张图像进行训练,训练素材来自合成数据、真实场景(In-the-wild)视频数据以及和多摄像头动作捕捉真值数据。NVIDIA 报告称,该模型在公开的第一人称视角基准测试中,零样本精度达到当前 SOTA 水平,单帧推理延迟约为 9 毫秒。

诺亦腾机器人为 EgoHand 的训练采集了这批 HiPHI-Hand 手部动作数据。团队在数采员的手指上布置微型标记点,利用光学动作捕捉系统记录人手与物体交互的过程,并将动捕数据与 SOL 头戴设备拍摄的第一人称视角视频同步。即使手部在第一人称视角画面中受到遮挡,光学追踪系统仍可提供亚毫米级精度的三维手部真值数据。NVIDIA 将这批数据处理为 SOMA-Hand 表征,作为 EgoHand 的真实世界训练数据来源之一。

诺亦腾机器人为 EgoHand 的训练采集了 HiPHI-Hand 数据集,记录人用手操作物体的过程。采集时,团队在参与者的手指上贴上微型标记点,用光学动捕系统记录手部动作,并将动捕数据与 SOL 拍摄的第一视角视频同步。即使手部在视频画面里被挡住,光学动捕系统仍能以亚毫米级精度测得手部关节的三维位置。NVIDIA 将这批数据转换为 SOMA-Hand 表征,作为 EgoHand 的真实场景训练数据之一。

HiPHI-Hand 将在诺亦腾机器人的 Hugging Face 主页公开发布。公开版本的数据集悉数收录面向 NVIDIA 交付的数据,包括 11 小时同步采集的双目鱼眼相机第一人称视角视频、以头戴设备 IMU 为参照的摄像头外参,以及通过光学动作捕捉获得的三维手部位姿。

CoRL 2026|诺亦腾机器人开放 HiPHI-Hand,支持英伟达 EgoHand 训练

2026 年 8 月,诺亦腾机器人在 Hugging Face 发布了 HiPHI 数据集,记录人类全身动作、人-物交互动作、物体空间位姿等数据。而HiPHI-Hand 为这一公开数据集系列补充了高精度手部动作数据。与 HiPHI 一样,HiPHI-Hand 将依据诺亦腾机器人 ModalityNet 开放研究许可 v1.0(ModalityNet Open Research License v1.0)发布,可免费用于非商业的科学研究、教育和评估。

诺亦腾机器人已将 EgoHand 接入一套第一人称视角数据处理流程中,目前正在对其在手部标注环节的表现进行评估。随稿附有 EgoHand 从 SOL 拍摄的视频中重建手部的演示片段。

诺亦腾机器人创始人兼首席执行官戴若犁博士表示:“人用双手与物理世界交互,而手部恰恰是第一人称视角视频中最难精确测量的部位。我们以亚毫米级精度采集这批数据,让 EgoHand 这样的模型能够从中学习。我们公开发布这些数据,是希望研究社区能够在同一套真值数据的基础上继续开展研究。数据规模和可学习性必须同步提升。高精度数据是让模型从海量第一视角视频中学习的基础。”

CoRL 2026 现场演示

CoRL 2026 期间,诺亦腾机器人研究团队将现场演示 EgoHand 的实时手部重建。11 月 9 日至 11 日,参会者可前往奥斯汀 JW 万豪酒店三层的 1105 号展位,佩戴诺亦腾机器人 SOL 第一视角头戴设备,进行物体交互操作。无需特殊准备,如日常般运动手部,即可在屏幕上实时看到双手随动作变化的三维重建画面。

诺亦腾机器人团队将 EgoHand 集成到第一视角采集流程中。SOL 将第一视角视频实时传输至 EgoHand,由模型在 NVIDIA RTX GPU 上逐帧重建手部姿态与形状。诺亦腾机器人的研究人员还将在大会主会上报告三篇论文,分别为 HiPHI、OmniContact 和 AdaPT。

 

相关资料

数据集 HiPHI-Hand, huggingface.co/datasets/noitomrobotics/HiPHI-Hand

EgoHand 模型 huggingface.co/nvidia/EgoHand-v1

论文 NVIDIA,EgoHand: Monocular 3D Hand Reconstruction from Egocentric Video,https://arxiv.org/abs/2610.30293

 

关于诺亦腾机器人

诺亦腾机器人(Noitom Robotics)是一家面向 Physical AI 的数据公司,专注于构建服务于具身智能的数据基础设施。公司致力于打造 World Compiler(世界编译器),将真实世界中的人类运动与物理交互转化为机器可学习的结构化表征,为具身智能模型训练及应用提供数据支持。

ModalityNet(modalitynet.com) 是 World Compiler 的具体实现载体,旨在构建大规模、以人为中心的全模态数据基础设施。平台以三大互补数据体系为基础:HiPHI-MOV(High Precision Human Interaction — Motion with Object and Vision) 聚焦高保真全身运动与移动操作数据;HiPHI-OM(High Precision Human Interaction — Omni-Manipulation) 覆盖接触、力、触觉及物体状态等多模态物理交互信息;ITW-Ego Plus(In-the-Wild) 则面向开放、非受控的真实世界环境,支持大规模采集自然状态下的人类行为数据。

三类数据体系相互补充,通过规模相对精炼、结构完整的数据资源,为规模更大、结构化程度较低的数据建立可学习基础,着力解决 Physical AI 发展中的核心瓶颈——不仅是数据供给规模,更在于数据能否被机器有效学习。

诺亦腾机器人的使命是:Make the Physical World Learnable(让物理世界可被学习)。

长按图片保存图片,分享给好友或朋友圈

正在生成分享图...

取消
相关文章