Sparkplugx1904 commited on
Commit
a628af2
·
verified ·
1 Parent(s): b251588

Create README.md

Browse files
Files changed (1) hide show
  1. README.md +69 -0
README.md ADDED
@@ -0,0 +1,69 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ # Create combined metadata.tsv
2
+ ```
3
+ import pandas as pd
4
+ import os
5
+ import shutil
6
+
7
+ # --- CONFIGURATION ---
8
+ # Daftar folder dataset yang ingin digabungkan
9
+ dataset_folders = [
10
+ "VOT-Denpasar_18-12-25-0",
11
+ "VOT-Denpasar_22-12-25-3"
12
+ ]
13
+
14
+ home_clips_dir = "clips"
15
+ output_metadata = "metadata.tsv"
16
+
17
+ # Buat folder clips di direktori utama jika belum ada
18
+ if not os.path.exists(home_clips_dir):
19
+ os.makedirs(home_clips_dir)
20
+
21
+ all_data = []
22
+
23
+ print("=== Memproses Penggabungan Dataset ===")
24
+
25
+ for folder in dataset_folders:
26
+ metadata_path = os.path.join(folder, "metadata.tsv")
27
+ clips_source = os.path.join(folder, "clips")
28
+
29
+ # 1. Proses File Metadata
30
+ if os.path.exists(metadata_path):
31
+ # Membaca TSV (mengabaikan error jika ada baris header ganda di dalam file sumber)
32
+ df = pd.read_csv(metadata_path, sep='\t')
33
+
34
+ # Validasi kolom agar tidak terjadi kesalahan struktur
35
+ if 'path' in df.columns and 'sentence' in df.columns:
36
+ all_data.append(df[['path', 'sentence']])
37
+ print(f"[OK] Metadata dari {folder} dimuat.")
38
+ else:
39
+ print(f"[!] Kolom tidak sesuai di {folder}/metadata.tsv")
40
+ else:
41
+ print(f"[?] File {metadata_path} tidak ditemukan.")
42
+
43
+ # 2. Pindahkan file audio ke folder clips utama
44
+ if os.path.exists(clips_source):
45
+ files_moved = 0
46
+ for file_name in os.listdir(clips_source):
47
+ src_file = os.path.join(clips_source, file_name)
48
+ dst_file = os.path.join(home_clips_dir, file_name)
49
+
50
+ # Pindahkan file (shutil.move menangani overwrite jika file sudah ada)
51
+ shutil.move(src_file, dst_file)
52
+ files_moved += 1
53
+ print(f"[OK] {files_moved} file audio dipindahkan dari {folder}.")
54
+
55
+ # 3. Gabungkan semua data dan simpan ke metadata.tsv baru
56
+ if all_data:
57
+ # pd.concat akan menyatukan semua baris secara bersih
58
+ combined_df = pd.concat(all_data, ignore_index=True)
59
+
60
+ # Simpan sebagai TSV dengan satu header di paling atas
61
+ combined_df.to_csv(output_metadata, sep='\t', index=False)
62
+
63
+ print("-" * 40)
64
+ print(f"BERHASIL: {output_metadata} telah diperbarui.")
65
+ print(f"Total baris data: {len(combined_df)}")
66
+ else:
67
+ print("-" * 40)
68
+ print("EROR: Tidak ada data yang berhasil digabungkan.")
69
+ ```