| # Create combined metadata.tsv |
| ``` |
| import pandas as pd |
| import os |
| import shutil |
| |
| # --- CONFIGURATION --- |
| # Daftar folder dataset yang ingin digabungkan |
| dataset_folders = [ |
| "VOT-Denpasar_18-12-25-0", |
| "VOT-Denpasar_22-12-25-3" |
| ] |
| |
| home_clips_dir = "clips" |
| output_metadata = "metadata.tsv" |
| |
| # Buat folder clips di direktori utama jika belum ada |
| if not os.path.exists(home_clips_dir): |
| os.makedirs(home_clips_dir) |
| |
| all_data = [] |
| |
| print("=== Memproses Penggabungan Dataset ===") |
| |
| for folder in dataset_folders: |
| metadata_path = os.path.join(folder, "metadata.tsv") |
| clips_source = os.path.join(folder, "clips") |
| |
| # 1. Proses File Metadata |
| if os.path.exists(metadata_path): |
| # Membaca TSV (mengabaikan error jika ada baris header ganda di dalam file sumber) |
| df = pd.read_csv(metadata_path, sep='\t') |
| |
| # Validasi kolom agar tidak terjadi kesalahan struktur |
| if 'path' in df.columns and 'sentence' in df.columns: |
| all_data.append(df[['path', 'sentence']]) |
| print(f"[OK] Metadata dari {folder} dimuat.") |
| else: |
| print(f"[!] Kolom tidak sesuai di {folder}/metadata.tsv") |
| else: |
| print(f"[?] File {metadata_path} tidak ditemukan.") |
| |
| # 2. Pindahkan file audio ke folder clips utama |
| if os.path.exists(clips_source): |
| files_moved = 0 |
| for file_name in os.listdir(clips_source): |
| src_file = os.path.join(clips_source, file_name) |
| dst_file = os.path.join(home_clips_dir, file_name) |
| |
| # Pindahkan file (shutil.move menangani overwrite jika file sudah ada) |
| shutil.move(src_file, dst_file) |
| files_moved += 1 |
| print(f"[OK] {files_moved} file audio dipindahkan dari {folder}.") |
| |
| # 3. Gabungkan semua data dan simpan ke metadata.tsv baru |
| if all_data: |
| # pd.concat akan menyatukan semua baris secara bersih |
| combined_df = pd.concat(all_data, ignore_index=True) |
| |
| # Simpan sebagai TSV dengan satu header di paling atas |
| combined_df.to_csv(output_metadata, sep='\t', index=False) |
| |
| print("-" * 40) |
| print(f"BERHASIL: {output_metadata} telah diperbarui.") |
| print(f"Total baris data: {len(combined_df)}") |
| else: |
| print("-" * 40) |
| print("EROR: Tidak ada data yang berhasil digabungkan.") |
| ``` |