stt-cefc-fr-test / README.md
ggfox00000's picture
Initial upload — CEFC-Orfeo FR (12 sub-corpora, long-form, 16k FLAC)
f6be5e9 verified
---
license: other
license_name: cefc-orfeo
license_link: https://www.projet-orfeo.fr
task_categories:
- automatic-speech-recognition
language:
- fr
size_categories:
- n<1K
pretty_name: CEFC-Orfeo French long-form oral test mirror
tags:
- cefc
- orfeo
- french
- asr
- long-form
- conversational
- multi-speaker
annotations_creators:
- expert-generated
source_datasets:
- extended|cefc-orfeo
dataset_info:
features:
- name: audio_id
dtype: string
- name: subcorpus
dtype: string
- name: audio
dtype:
audio:
sampling_rate: 16000
- name: duration_sec
dtype: float64
- name: transcript
dtype: string
- name: n_segments
dtype: int32
- name: n_speakers
dtype: int32
- name: segments
list:
- name: start
dtype: float64
- name: end
dtype: float64
- name: text
dtype: string
- name: speaker_id
dtype: string
splits:
- name: test
num_examples: 901
configs:
- config_name: default
data_files:
- split: test
path: data/test-*.parquet
---
# CEFC-Orfeo FR — long-form oral test mirror
Mirror **non-officiel** du **Corpus d'Études du Français Contemporain (CEFC)**
agrégé par le projet **Orfeo** (ANR), tel que distribué sur le portail
projet-orfeo.fr (release 13).
> **Long-form** : 1 row = 1 fichier audio entier (30-60 min en moyenne).
> 12 sous-corpus oraux du français contemporain, **303 heures** au total,
> 901 fichiers. Idéal pour bench Whisper / Canary en **conditions réelles**
> (chunked decoding, dérive temporelle, multi-locuteurs).
## Sous-corpus inclus (colonne `subcorpus`)
| Sous-corpus | Genre | Origine |
|---|---|---|
| `cfpb` | Parlement Bruxelles | CFPB |
| `cfpp` | Paris parlé | CFPP2000 |
| `clapi` | Interactions Lyon | CLAPI |
| `coralrom` | Roman européen FR | C-ORAL-ROM |
| `crfp` | Référence FR parlé | CRFP |
| `fleuron` | Étudiants en mobilité | FLEURON |
| `frenchoralnarrative` | Récits oraux | FrenchOralNarrative |
| `ofrom` | Oral fribourgeois (Suisse) | OFROM |
| `reunions-de-travail` | Réunions pro | — |
| `tcof` | Familial / enfants | TCOF |
| `tufs` | Apprenants étrangers FR | TUFS |
| `valibel` | FR Belgique | VALIBEL |
→ Permet **analyses de robustesse par variété** (régionale, native vs L2,
formelle vs spontanée, dyadique vs multi-locuteurs).
## Schéma
| Champ | Type | Description |
|---|---|---|
| `audio_id` | string | `<subcorpus>/<basename>` (ex: `cfpb/CFPB-1000-5`) |
| `subcorpus` | string | Une des 12 valeurs ci-dessus |
| `audio` | Audio | FLAC 16 kHz mono PCM_16 (resamplé depuis 22050 Hz) |
| `duration_sec` | float64 | Durée en secondes |
| `transcript` | string | Concat de toutes les phrases (`# text` Orfeo, ordre temporel) |
| `n_segments` | int32 | Nombre de phrases (`# sent_id`) |
| `n_speakers` | int32 | Nombre de locuteurs distincts (col 13 .orfeo) |
| `segments` | list | `{start, end, text, speaker_id}` par phrase |
## Pré-traitement
- **Audio source** : WAV mono 22050 Hz PCM_16 (upstream Orfeo).
- **Resampling 22050 → 16 000 Hz** via `soxr.resample(quality="HQ")`.
Filtre anti-aliasing polyphase de qualité studio. La bande 8-11 kHz coupée
est inaudible et hors de la bande utile pour ASR (Whisper/wav2vec2 tournent
nativement à 16 kHz, downsampleraient en interne quand même).
- **Encodage** FLAC PCM_16 mono via `soundfile`.
- **Pas de découpage** — fichiers longs préservés entiers.
- **Annotations** : parsées depuis `.orfeo` (format CoNLL-U étendu Orfeo,
voir guide segmentation projet-orfeo.fr) :
- chaque phrase `# sent_id` + `# text` → 1 segment
- `start = min(BTIMESTAMP)`, `end = max(ETIMESTAMP)` des tokens de la phrase
- `speaker_id` = locuteur majoritaire (col 13 du .orfeo)
## Exemple de chargement
```python
from datasets import load_dataset
ds = load_dataset("ggfox00000/stt-cefc-fr-test", split="test")
print(len(ds), "files")
# Filtrer par sous-corpus
cfpp = ds.filter(lambda r: r["subcorpus"] == "cfpp")
print(len(cfpp), "files dans CFPP (Paris parlé)")
sample = ds[0]
print(sample["audio_id"], sample["subcorpus"],
sample["duration_sec"]/60, "min,",
sample["n_segments"], "segments,",
sample["n_speakers"], "speakers")
print("First segment:", sample["segments"][0])
```
## Source
- Projet : [Orfeo](http://www.projet-orfeo.fr/) (ANR-12-CORP-0005)
- Distribution : `cefc-orfeo` release 13
- Documentation : `documentation/guide_segmentation_orfeo.pdf`,
`guide_pos_orfeo.pdf`, `guide_dependance_orfeo.pdf`
- Liste des corpus source :
http://www.projet-orfeo.fr/corpus-source/
## Licence
License **héritée des sous-corpus source** (variable, généralement académique
non-commerciale) — voir le projet Orfeo et chaque sous-corpus pour les
détails. **Usage non-commercial recommandé**. Redistribution technique
(resampling 22k→16k + FLAC) sans modification des transcriptions.
## Citation
```bibtex
@misc{cefc-orfeo,
title = {Corpus d'\\'Etudes du Fran\\c{c}ais Contemporain},
author = {Projet Orfeo (ANR)},
url = {http://www.projet-orfeo.fr},
}
```