BigfufuOuO/meld_clips_v3

目录结构

/
├── metadata.csv              # 数据集元数据文件
├── videos/                   # 视频文件目录
│   ├── dev_sample_2.mp4
│   ├── dev_sample_3.mp4
│   └── ...
└── audios/                   # 音频文件目录
    ├── mfa_meld_dev_oov.txt # MFA对齐时的OOV（out-of-vocabulary）词汇
    ├── ost/                  # 原始音轨（Original SoundTrack）
    │   ├── dev_sample_2.wav
    │   ├── dev_sample_3.wav
    │   └── ...
    ├── vocals/               # 人声音轨（分离后）
    │   ├── dev_sample_2_vocals.wav
    │   ├── dev_sample_2_vocals.txt
    │   ├── dev_sample_3_vocals.wav
    │   ├── dev_sample_3_vocals.txt
    │   └── ...
    ├── ins/                  # 背景音乐/器乐音轨（分离后）
    │   ├── dev_sample_2_instrumental.wav
    │   ├── dev_sample_3_instrumental.wav
    │   └── ...
    └── aligned/              # 语音对齐结果
        ├── alignment_analysis.csv
        ├── dev_sample_2_vocals.csv
        ├── dev_sample_3_vocals.csv
        └── ...

文件说明

1. metadata.csv

主元数据文件，包含数据集中每个样本的详细信息。

文件格式: CSV (逗号分隔)

列说明:

列名	说明	示例
Sample_ID	样本唯一标识符	2, 3, 5
Split	数据集划分 (train/dev/test)	dev
Length	该样本包含的对话轮数	2, 3
Speaker	说话人姓名	Ross, Phoebe, Joey
Emotions	情绪标签列表（Python列表格式）	['surprise', 'neutral']
Start_Time	视频片段起始时间（HH:MM:SS,ms）	00:14:38,210
End_Time	视频片段结束时间（HH:MM:SS,ms）	00:14:43,256
Utterances	对话文本列表（Python列表格式）	['Oh-oh, you're-you're fellow scholars.', 'What exactly were you looking for, hmm?']
Dialogue_ID	对话ID	4, 6, 7
Season	季数	7, 8, 5
Episode	集数	7, 3, 19
Utterance_IDs	对话轮ID列表（Python列表格式）	[2, 3], [3, 4, 5]
Line_Indices	原始数据集中的行索引（逗号分隔）	30,31, 59,60,61
Clip_Filename	视频片段文件名	dev_sample_2.mp4
Clip_Path	视频片段相对路径	videos/dev_sample_2.mp4
ost_path	原始音轨相对路径	audios/ost/dev_sample_2.wav

2. videos/ 目录

包含所有视频片段文件。

文件格式: MP4 视频文件

命名规则: {split}_sample_{sample_id}.mp4

• {split}: 数据集划分标识（dev/train/test）
• {sample_id}: 样本ID

3. audios/ost/ 目录

包含从视频中提取的原始音轨。

文件格式: WAV 音频文件

命名规则: {split}_sample_{sample_id}.wav

4. audios/vocals/ 目录

包含使用音源分离技术提取的纯人声音轨。

文件格式:

• .wav: 人声音频文件
• .txt: 对应的对话文本（纯文本格式）

命名规则:

• 音频: {split}_sample_{sample_id}_vocals.wav
• 文本: {split}_sample_{sample_id}_vocals.txt

文本文件内容: 该音频片段对应的完整对话文本

5. audios/ins/ 目录

包含使用音源分离技术提取的背景音乐/器乐音轨。

文件格式: WAV 音频文件

命名规则: {split}_sample_{sample_id}_instrumental.wav

6. audios/aligned/ 目录

包含使用 Montreal Forced Aligner (MFA) 进行语音对齐的结果。

主要文件:

• alignment_analysis.csv: 对齐分析统计文件
• *_vocals.csv: 每个样本的词级和音素级对齐结果

对齐CSV文件格式:

每个 {split}_sample_{sample_id}_vocals.TextGrid 文件包含该样本的强制对齐结果。

信息说明:

列名	说明	示例	单位
Begin	起始时间	0.05000000074505806	秒
End	结束时间	0.4399999976158142	秒
Label	词或音素标签	oh, OW1, Y	-
Type	标签类型	words (词级) 或 phones (音素级)	-
Speaker	说话人标识	vocals	-

文件内容说明:

• 每个TextGrid文件包含两种层级的对齐信息：
  • 词级对齐 (Type=words): 每个单词的时间边界
  • 音素级对齐 (Type=phones): 每个音素的时间边界
• 时间戳为相对于音频文件起始的秒数（浮点数）
• 音素采用 ARPAbet 音标系统（如 OW1, Y, UW1）

具体加载需要使用特定python包，请自行查询。

7. audios/mfa_meld_dev_oov.txt

记录 MFA 对齐过程中遇到的词汇表外（Out-Of-Vocabulary, OOV）词汇。这里可以忽略。