stt-cefc-fr-test / README.md
ggfox00000's picture
Initial upload — CEFC-Orfeo FR (12 sub-corpora, long-form, 16k FLAC)
f6be5e9 verified
metadata
license: other
license_name: cefc-orfeo
license_link: https://www.projet-orfeo.fr
task_categories:
  - automatic-speech-recognition
language:
  - fr
size_categories:
  - n<1K
pretty_name: CEFC-Orfeo French  long-form oral test mirror
tags:
  - cefc
  - orfeo
  - french
  - asr
  - long-form
  - conversational
  - multi-speaker
annotations_creators:
  - expert-generated
source_datasets:
  - extended|cefc-orfeo
dataset_info:
  features:
    - name: audio_id
      dtype: string
    - name: subcorpus
      dtype: string
    - name: audio
      dtype:
        audio:
          sampling_rate: 16000
    - name: duration_sec
      dtype: float64
    - name: transcript
      dtype: string
    - name: n_segments
      dtype: int32
    - name: n_speakers
      dtype: int32
    - name: segments
      list:
        - name: start
          dtype: float64
        - name: end
          dtype: float64
        - name: text
          dtype: string
        - name: speaker_id
          dtype: string
  splits:
    - name: test
      num_examples: 901
configs:
  - config_name: default
    data_files:
      - split: test
        path: data/test-*.parquet

CEFC-Orfeo FR — long-form oral test mirror

Mirror non-officiel du Corpus d'Études du Français Contemporain (CEFC) agrégé par le projet Orfeo (ANR), tel que distribué sur le portail projet-orfeo.fr (release 13).

Long-form : 1 row = 1 fichier audio entier (30-60 min en moyenne). 12 sous-corpus oraux du français contemporain, 303 heures au total, 901 fichiers. Idéal pour bench Whisper / Canary en conditions réelles (chunked decoding, dérive temporelle, multi-locuteurs).

Sous-corpus inclus (colonne subcorpus)

Sous-corpus Genre Origine
cfpb Parlement Bruxelles CFPB
cfpp Paris parlé CFPP2000
clapi Interactions Lyon CLAPI
coralrom Roman européen FR C-ORAL-ROM
crfp Référence FR parlé CRFP
fleuron Étudiants en mobilité FLEURON
frenchoralnarrative Récits oraux FrenchOralNarrative
ofrom Oral fribourgeois (Suisse) OFROM
reunions-de-travail Réunions pro
tcof Familial / enfants TCOF
tufs Apprenants étrangers FR TUFS
valibel FR Belgique VALIBEL

→ Permet analyses de robustesse par variété (régionale, native vs L2, formelle vs spontanée, dyadique vs multi-locuteurs).

Schéma

Champ Type Description
audio_id string <subcorpus>/<basename> (ex: cfpb/CFPB-1000-5)
subcorpus string Une des 12 valeurs ci-dessus
audio Audio FLAC 16 kHz mono PCM_16 (resamplé depuis 22050 Hz)
duration_sec float64 Durée en secondes
transcript string Concat de toutes les phrases (# text Orfeo, ordre temporel)
n_segments int32 Nombre de phrases (# sent_id)
n_speakers int32 Nombre de locuteurs distincts (col 13 .orfeo)
segments list {start, end, text, speaker_id} par phrase

Pré-traitement

  • Audio source : WAV mono 22050 Hz PCM_16 (upstream Orfeo).
  • Resampling 22050 → 16 000 Hz via soxr.resample(quality="HQ"). Filtre anti-aliasing polyphase de qualité studio. La bande 8-11 kHz coupée est inaudible et hors de la bande utile pour ASR (Whisper/wav2vec2 tournent nativement à 16 kHz, downsampleraient en interne quand même).
  • Encodage FLAC PCM_16 mono via soundfile.
  • Pas de découpage — fichiers longs préservés entiers.
  • Annotations : parsées depuis .orfeo (format CoNLL-U étendu Orfeo, voir guide segmentation projet-orfeo.fr) :
    • chaque phrase # sent_id + # text → 1 segment
    • start = min(BTIMESTAMP), end = max(ETIMESTAMP) des tokens de la phrase
    • speaker_id = locuteur majoritaire (col 13 du .orfeo)

Exemple de chargement

from datasets import load_dataset
ds = load_dataset("ggfox00000/stt-cefc-fr-test", split="test")
print(len(ds), "files")

# Filtrer par sous-corpus
cfpp = ds.filter(lambda r: r["subcorpus"] == "cfpp")
print(len(cfpp), "files dans CFPP (Paris parlé)")

sample = ds[0]
print(sample["audio_id"], sample["subcorpus"],
      sample["duration_sec"]/60, "min,",
      sample["n_segments"], "segments,",
      sample["n_speakers"], "speakers")
print("First segment:", sample["segments"][0])

Source

  • Projet : Orfeo (ANR-12-CORP-0005)
  • Distribution : cefc-orfeo release 13
  • Documentation : documentation/guide_segmentation_orfeo.pdf, guide_pos_orfeo.pdf, guide_dependance_orfeo.pdf
  • Liste des corpus source : http://www.projet-orfeo.fr/corpus-source/

Licence

License héritée des sous-corpus source (variable, généralement académique non-commerciale) — voir le projet Orfeo et chaque sous-corpus pour les détails. Usage non-commercial recommandé. Redistribution technique (resampling 22k→16k + FLAC) sans modification des transcriptions.

Citation

@misc{cefc-orfeo,
  title  = {Corpus d'\\'Etudes du Fran\\c{c}ais Contemporain},
  author = {Projet Orfeo (ANR)},
  url    = {http://www.projet-orfeo.fr},
}