开源数据集 nuScenes 之 3D Occupancy Prediction

打印 上一主题 下一主题

主题 1047|帖子 1047|积分 3141

数据总体结构

Nuscenes 数据结构
可以看一下我的blog如何下载完备版
  1. mmdetection3d
  2. ├── mmdet3d
  3. ├── tools
  4. ├── configs
  5. ├── data
  6. │   ├── nuscenes
  7. │   │   ├── maps
  8. │   │   ├── samples
  9. │   │   ├── sweeps
  10. │   │   ├── lidarseg (optional)
  11. │   │   ├── v1.0-test
  12. |   |   ├── v1.0-trainval
复制代码
参考 mmdet3d
  1. nuscenes_database/xxxxx.bin:训练数据集的每个 3D 包围框中包含的点云数据。
  2. nuscenes_infos_train.pkl:训练数据集,该字典包含了两个键值:metainfo 和 data_list。metainfo 包含数据集的基本信息,例如 categories, dataset 和 info_version。data_list 是由字典组成的列表,每个字典(以下简称 info)包含了单个样本的所有详细信息。
  3. info[‘sample_idx’]:样本在整个数据集的索引。
  4. info[‘token’]:样本数据标记。
  5. info[‘timestamp’]:样本数据时间戳。
  6. info[‘ego2global’]:自车到全局坐标的变换矩阵。(4x4 列表)
  7. info[‘lidar_points’]:是一个字典,包含了所有与激光雷达点相关的信息。
  8. info[‘lidar_points’][‘lidar_path’]:激光雷达点云数据的文件名。
  9. info[‘lidar_points’][‘num_pts_feats’]:点的特征维度。
  10. info[‘lidar_points’][‘lidar2ego’]:该激光雷达传感器到自车的变换矩阵。(4x4 列表)
  11. info[‘lidar_sweeps’]:是一个列表,包含了扫描信息(没有标注的中间帧)。
  12. info[‘lidar_sweeps’][i][‘lidar_points’][‘data_path’]:第 i 次扫描的激光雷达数据的文件路径。
  13. info[‘lidar_sweeps’][i][‘lidar_points’][lidar2ego’’]:当前激光雷达传感器到自车的变换矩阵。(4x4 列表)
  14. info[‘lidar_sweeps’][i][‘lidar_points’][‘ego2global’]:自车到全局坐标的变换矩阵。(4x4 列表)
  15. info[‘lidar_sweeps’][i][‘lidar2sensor’]:从主激光雷达传感器到当前传感器(用于收集扫描数据)的变换矩阵。(4x4 列表)
  16. info[‘lidar_sweeps’][i][‘timestamp’]:扫描数据的时间戳。
  17. info[‘lidar_sweeps’][i][‘sample_data_token’]:扫描样本数据标记。
  18. info[‘images’]:是一个字典,包含与每个相机对应的六个键值:'CAM_FRONT', 'CAM_FRONT_RIGHT', 'CAM_FRONT_LEFT', 'CAM_BACK', 'CAM_BACK_LEFT', 'CAM_BACK_RIGHT'。每个字典包含了对应相机的所有数据信息。
  19. info[‘images’][‘CAM_XXX’][‘img_path’]:图像的文件名。
  20. info[‘images’][‘CAM_XXX’][‘cam2img’]:当 3D 点投影到图像平面时需要的内参信息相关的变换矩阵。(3x3 列表)
  21. info[‘images’][‘CAM_XXX’][‘sample_data_token’]:图像样本数据标记。
  22. info[‘images’][‘CAM_XXX’][‘timestamp’]:图像的时间戳。
  23. info[‘images’][‘CAM_XXX’][‘cam2ego’]:该相机传感器到自车的变换矩阵。(4x4 列表)
  24. info[‘images’][‘CAM_XXX’][‘lidar2cam’]:激光雷达传感器到该相机的变换矩阵。(4x4 列表)
  25. info[‘instances’]:是一个字典组成的列表。每个字典包含单个实例的所有标注信息。对于其中的第 i 个实例,我们有:
  26. info[‘instances’][i][‘bbox_3d’]:长度为 7 的列表,以 (x, y, z, l, w, h, yaw) 的顺序表示实例的 3D 边界框。
  27. info[‘instances’][i][‘bbox_label_3d’]:整数表示实例的标签,-1 代表忽略。
  28. info[‘instances’][i][‘velocity’]:3D 边界框的速度(由于不正确,没有垂直测量),大小为 (2, ) 的列表。
  29. info[‘instances’][i][‘num_lidar_pts’]:每个 3D 边界框内包含的激光雷达点数。
  30. info[‘instances’][i][‘num_radar_pts’]:每个 3D 边界框内包含的雷达点数。
  31. info[‘instances’][i][‘bbox_3d_isvalid’]:每个包围框是否有效。一般情况下,我们只将包含至少一个激光雷达或雷达点的 3D 框作为有效框。
  32. info[‘cam_instances’]:是一个字典,包含以下键值:'CAM_FRONT', 'CAM_FRONT_RIGHT', 'CAM_FRONT_LEFT', 'CAM_BACK', 'CAM_BACK_LEFT', 'CAM_BACK_RIGHT'。对于基于视觉的 3D 目标检测任务,我们将整个场景的 3D 标注划分至它们所属于的相应相机中。对于其中的第 i 个实例,我们有:
  33. info[‘cam_instances’][‘CAM_XXX’][i][‘bbox_label’]:实例标签。
  34. info[‘cam_instances’][‘CAM_XXX’][i][‘bbox_label_3d’]:实例标签。
  35. info[‘cam_instances’][‘CAM_XXX’][i][‘bbox’]:2D 边界框标注(3D 框投影的矩形框),顺序为 [x1, y1, x2, y2] 的列表。
  36. info[‘cam_instances’][‘CAM_XXX’][i][‘center_2d’]:3D 框投影到图像上的中心点,大小为 (2, ) 的列表。
  37. info[‘cam_instances’][‘CAM_XXX’][i][‘depth’]:3D 框投影中心的深度。
  38. info[‘cam_instances’][‘CAM_XXX’][i][‘velocity’]:3D 边界框的速度(由于不正确,没有垂直测量),大小为 (2, ) 的列表。
  39. info[‘cam_instances’][‘CAM_XXX’][i][‘attr_label’]:实例的属性标签。我们为属性分类维护了一个属性集合和映射。
  40. info[‘cam_instances’][‘CAM_XXX’][i][‘bbox_3d’]:长度为 7 的列表,以 (x, y, z, l, h, w, yaw) 的顺序表示实例的 3D 边界框。
  41. info[‘pts_semantic_mask_path’]:激光雷达语义分割标注的文件名。
复制代码
OccNet 在 nuScenes 底子上推出的 OpenOcc 数据集,提供环视相机图像、3D occupancy 和 occupancy flow 标注等。数据集通过将 Lidar 数据体素化,生成精确的3D真值,支持场景理解和3D重建研究。这一数据集不仅适合静态场景分析,也能用于研究动态环境,为机器视觉等领域的进步提供紧张资源。
Occnet 数据集
连接
  1. OccNet
  2. ├── data/
  3. │   ├── can_bus/
  4. │   ├── nuscenes/
  5. │   │   ├── maps/
  6. │   │   ├── samples/
  7. │   │   ├── sweeps/
  8. │   │   ├── v1.0-test
  9. │   │   ├── v1.0-trainval
  10. │   │   ├── nuscenes_infos_temporal_train.pkl
  11. │   │   ├── nuscenes_infos_temporal_val.pkl   
  12. │   ├── occ_gt_release_v1_0/
  13. │   │   ├── train/
  14. │   │   ├── val/
  15. │   │   ├── occ_gt_train.json
  16. │   │   ├── occ_gt_val.json
  17. │   │   ├── nuscenes_infos_temporal_train_occ_gt.pkl
  18. │   │   ├── nuscenes_infos_temporal_val_occ_gt.pkl
复制代码
Occpancy 里面的结构
  1. └── Occpancy3D-nuScenes-V1.0
  2.     |
  3.     ├── mini
  4.     |
  5.     ├── trainval
  6.     |   ├── imgs
  7.     |   |   ├── CAM_BACK
  8.     |   |   |   ├── n015-2018-07-18-11-07-57+0800__CAM_BACK__1531883530437525.jpg
  9.     |   |   |   └── ...
  10.     |   |   ├── CAM_BACK_LEFT
  11.     |   |   |   ├── n015-2018-07-18-11-07-57+0800__CAM_BACK_LEFT__1531883530447423.jpg
  12.     |   |   |   └── ...
  13.     |   |   └── ...
  14.     |   |     
  15.     |   ├── gts  
  16.     |   |   ├── [scene_name]
  17.     |   |   |   ├── [frame_token]
  18.     |   |   |   |   └── labels.npz
  19.     |   |   |   └── ...
  20.     |   |   └── ...
  21.     |   |
  22.     |   └── annotations.json
  23.     |
  24.     └── test
  25.         ├── imgs
  26.         └── annotations.json
复制代码
imgs/ 包罗由各种相机捕获的图像。
gts/ 包罗每个样本的真值数据。[scene_name] 指定一系列帧,而 [frame_token] 指定序列中的单个帧。
annotations.json 包罗数据集的元信息。
labels.npz 包罗每一帧的 [semantics](语义)、[mask_lidar](雷达遮罩)和 [mask_camera](相机遮罩)。
  1. annotations {
  2.     "train_split": ["scene-0001", ...],                         <list> -- training dataset split by scene_name
  3.     "val_split": list ["scene-0003", ...],                      <list> -- validation dataset split by scene_name
  4.     "scene_infos" {                                             <dict> -- meta infos of the scenes   
  5.         [scene_name]: {                                         <str> -- name of the scene.  
  6.             [frame_token]: {                                    <str> -- samples in a scene, ordered by time
  7.                     "timestamp":                                <str> -- timestamp (or token), unique by sample
  8.                     "camera_sensor": {                          <dict> -- meta infos of the camera sensor
  9.                         [cam_token]: {                          <str> -- token of the camera
  10.                             "img_path":                         <str> -- corresponding image file path, *.jpg
  11.                             "intrinsic":                        <float> [3, 3] -- intrinsic camera calibration
  12.                             "extrinsic":{                       <dict> -- extrinsic parameters of the camera
  13.                                 "translation":                  <float> [3] -- coordinate system origin in meters
  14.                                 "rotation":                     <float> [4] -- coordinate system orientation as quaternion
  15.                             }   
  16.                             "ego_pose": {                       <dict> -- vehicle pose of the camera
  17.                                 "translation":                  <float> [3] -- coordinate system origin in meters
  18.                                 "rotation":                     <float> [4] -- coordinate system orientation as quaternion
  19.                             }               
  20.                         },
  21.                         ...
  22.                     },
  23.                     "ego_pose": {                               <dict> -- vehicle pose
  24.                         "translation":                          <float> [3] -- coordinate system origin in meters
  25.                         "rotation":                             <float> [4] -- coordinate system orientation as quaternion
  26.                     },
  27.                     "gt_path":                                  <str> -- corresponding 3D voxel gt path, *.npz
  28.                     "next":                                     <str> -- frame_token of the previous keyframe in the scene
  29.                     "prev":                                     <str> -- frame_token of the next keyframe in the scene
  30.                 }
  31.             ]            
  32.         }
  33.     }
  34. }
复制代码
字段类型描述train_splitlist以场景名分割的训练数据集val_splitlist以场景名分割的验证数据集scene_infosdict场景的元信息[scene_name]str场景名称[frame_token]str场景中的样本,按时间顺序排列timestampstr时间戳(或标记),每个样本唯一camera_sensordict摄像头传感器的元信息[cam_token]str摄像头的标记img_pathstr对应的图像文件路径,*.jpgintrinsicfloat[3,3]摄像头内参校准extrinsicdict摄像头外参translationfloat[3]坐标系原点(以米为单位)rotationfloat[4]坐标系方向(以四元数表示)ego_posedict摄像头所在车辆的姿态translationfloat[3]坐标系原点(以米为单位)rotationfloat[4]坐标系方向(以四元数表示)ego_posedict车辆姿态translationfloat[3]坐标系原点(以米为单位)rotationfloat[4]坐标系方向(以四元数表示)gt_pathstr对应的3D体素真值路径,*.npznextstr场景中上一个关键帧的frame_tokenprevstr场景中下一个关键帧的frame_token 榜单
连接


免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有账号?立即注册

x
回复

使用道具 举报

0 个回复

倒序浏览

快速回复

您需要登录后才可以回帖 登录 or 立即注册

本版积分规则

勿忘初心做自己

论坛元老
这个人很懒什么都没写!
快速回复 返回顶部 返回列表