输入同一物体的两路多视角短视频与构成静止视频的 N 张源照片,生成它在其他视角乃至 360° 整圈的画面。GSO(真实 3D 扫描) 与 ABO(真实电动转台商品)处理方式一致——都是「单物体 → 绕圈多视角」,故合并为本任务。演示对全部来自真实入湖数据。
Task_13_novel_view_generation/ABO/)。每个样本保留两路视频输入,并新增一路由 N 张源照片组成的图片输入。任务:输入同一物体的 N∈2~5 个视角:Input (A) 小弧视频、Input (B) 静止版视频,以及 Input (C) 构成 B 的 N 张源照片,让模型推理出该物体的其他视角 / 360° 整圈环绕—— 物体级空间 world-model 的核心能力(模型必须在脑内建出物体完整 3D 形状与纹理,才能补出没见过的视角)。 TARGET 包含已见视角:盲区考「有根据的推断」,已见视角兼作「看图说话」校验锚点(业界标准,Stability SV3D 同款)。 两个来源覆盖通用物体(GSO 合成渲染)与白底电商商品(ABO 真实转台)。自监督友好:配对全部免人工标注。
↑ 同一件入湖 GSO 扫描件(Animal Crossing 3DS 游戏盒):INPUT 是 4 张离散视角静止图(az 45°/135°/225°/315°)各占 1s;模型要补出整圈,已见视角兼作校验。GSO 的 mesh 即完美 ground-truth。
负责:1,030 件真实物品的带纹理 3D 扫描——可从任意视角渲染任意数量的(多视角 INPUT→环绕 TARGET)训练对,几何/纹理完全真值,提供可控合成增广。§1 演示即出自它。
负责:真实商品的电动转台序列——spins/original/<hex>/<spin_id>/<spin_id>_<az:02d>.jpg, 每商品 72 帧、方位角 0..71(步长 5°);listings/ 为商品目录元数据。真实拍摄而非渲染,是本任务的真数据主力;与 GSO 的可控合成互补。每个样本包含三路输入:Input (A) 多视角小弧视频、Input (B) 相同视角的静止版视频,以及 Input (C) 构成 B 的 N 张源照片;三者共享同一 target。
↑ 同一件入湖 ABO 真实商品(米色吧椅):A 模式给 4 个绕圈均匀视角(az 0/90/180/270°),每个视角连取 3 张相邻真帧(≈10° 真旋转);模型补出整圈。全部为电动转台真帧,非渲染。
↑ Input (B) 给同样 4 个视角(az 0/90/180/270°),但每视角冻结不动;Input (A) 与 Input (B) 两路视频均保留,并共享同一 target。
↑ 这 4 张不是从 MP4 截帧,而是直接取自 ABO S3 raw 的原生 616×918 JPG;内部镜像相对路径为 ABO/spins/original/00/00002a0f/。Input (C) 与 N 一一对应:N=2/3/4/5 就列出 2/3/4/5 张原图,它们正是组成 Input (B) 的中心视角。
| 文件 / 前缀 | 格式 | 类型 | 实测含义 |
|---|---|---|---|
| GSO/<name>.zip ×1030 | zip(mesh) | 3D asset | meshes/model.obj + materials/textures + thumbnails/ + model.sdf |
| ABO/spins/original/<hex>/<spin_id>/*.jpg | jpg | image seq | 每 spin 72 帧环绕(az 0..71,步长 5°);分辨率随商品而异 |
| ABO/spins/metadata/spins.csv.gz | csv.gz | meta | 官方索引:spin_id, azimuth, image_id, height, width, path(586,584 行) |
samples/<sample_id>/ ├── input_A.mp4 # 多视角小弧视频 ├── input_B.mp4 # 相同 N 视角的静止视频 ├── input_C/ # 正好 N 张、构成 B 的独立源图 │ ├── 01_<source>_<az>.jpg|png │ └── ... ├── target_video.mp4 ├── prompt.txt └── metadata.json # A/B/C 路径、N、azimuth、raw URI、逐文件 hash
final_v1/New_Tasks/Task_13_.../。| Source | Status | Volume |
|---|---|---|
| GSO | ✓ ingested | 1,030 zips / 8,665,764,398 B |
| ABO spins+listings | ✓ ingested(移入) | 586,605 obj / 42,079,462,004 B(8,116 满 72 帧 spin) |
| uCO3D / Objaverse-XL / CO3D | deferred(size) | 数 TB / 10M+ 资产 |
| MVImgNet / OmniObject3D | gated(表单/通道) | — |
S3 前缀精确总账:Task_13_novel_view_generation/ = 587,643 objects · 50,745,647,581 B(ABO 586,606 / 42,079,463,171 B;GSO 1,032 / 8,665,805,460 B;RealEstate10K MOVED tombstone 1 / 550 B;_report_media 4 / 378,400 B)。
| 源 | License | 商用 |
|---|---|---|
| GSO | CC-BY 4.0 | ✅ 署名 |
| ABO spins | CC BY-NC 4.0(实际文件 LICENSE-CC-BY-NC-4.0.txt) | ❌ 非商用 → flag |
s3://tv2v-data/raw/taxonomy/Task_13_novel_view_generation/ # 前缀名沿用(RE10K 已移出到 Task_16)
├── GSO/ 1,030 zips + _model_list.json + DATASET_CARD.md
├── ABO/ spins/original + spins/metadata/spins.csv.gz + listings/ + README + LICENSE + CARD
└── _report_media/
# GSO: Fuel API 分页 + https://fuel.gazebosim.org/1.0/GoogleResearch/models/{name}.zip
# ABO 公开桶(无需凭证): aws s3 cp s3://amazon-berkeley-objects/spins/ <dst> --recursive
验证:GSO 逐件计数 + sha256 + 抽样解包(2026-07-13 EC2 全量复核一致);ABO Phase 0 用官方 spins.csv.gz 逐行统计 + 抽样解帧 + 单 spin 渲 A/B/target 三段演示核对。2026-07-15 重组:ABO 由旧 Task_16 前缀 S3 内搬入本前缀,RE10K 移出到 Task_16。