tiagoloeblein/GodVerb

📚 GigaVerbo Clean — Portuguese Text Cleaning & Dedup Pipeline

Author: Tiago Loeblein Version: v76 Status: Active — production-grade cleaning pipeline for large-scale PT datasets License: Same as the source datasets (inherited)

🧠 Overview

GigaVerbo Clean é um dataset processado a partir do TucanoBR/GigaVerbo, contendo bilhões de tokens em português. Este repositório não é o dataset original, mas sim uma contribuição independente oferecendo:

pipeline robusto de limpeza,

deduplicação exata via SHA-256,

filtragem por idioma,

normalização pesada,

classificação semântica simples,

logs completos e reprodutíveis,

suporte para dezenas de milhões de linhas.

O foco aqui é fornecer dados limpos, consistentes e prontos para treinamento em modelos de linguagem, com garantia de ordenação determinística e remoção eficaz de ruído, duplicatas e lixo textual.

🔗 Dataset Original (Base)

Este projeto utiliza como base o dataset público:

➡️ TucanoBR/GigaVerbo https://huggingface.co/datasets/TucanoBR/GigaVerbo

O README completo, detalhes de licença e estatísticas do dataset original estão na página acima. Não duplicamos o texto do README original aqui para evitar redundância e ambiguidades.

🛠️ Cleaning Pipeline (v76)

O script de limpeza desenvolvido para este projeto é totalmente reproduzível, determinístico e otimizado para rodar em escala, processando arquivos .parquet muito grandes sem perder consistência.

⚙️ Principais funcionalidades

✔ Filtragem por idioma (Lingua) Mantém apenas textos com confiança ≥ 0.80 para português.

✔ Remoção de lixo e metadados

pornografia

spam

padrões de código

headings repetitivos

URLs, e-mails, CPFs, telefones, RGs

conteúdo truncado

✔ Normalização forte

limpeza de whitespace

flatten de múltiplos espaços

remoção de caracteres estranhos

limpeza de prefixos invisíveis

tamanho mínimo de texto (≥ 25 chars)

✔ Classificação rápida por padrão Cria coluna category com:

instruct

question

factual

other

✔ Hashing & deduplicação Gera coluna sha para cada texto → remove duplicatas exatas via .unique(subset=["sha"])

✔ IDs determinísticos sequenciais

IDs crescem de arquivo para arquivo

Baseados em last_id.txt na pasta

Ordem final sempre garantida via sort("id")

✔ Logs extremamente detalhados Para cada arquivo:

lista de IDs removidos por categoria

primeiro e último ID criado

totalizadores por etapa

log individual: train-00005-of-01573_clean.log

✔ Compatível com SPLIT opcional Se ativado:

quebra em sentenças usando BlingFire

mantém id_original

gera SHA e categoria para cada sentença

📦 Estrutura Final dos Arquivos

Cada arquivo de entrada gera:

train-00005-of-01573_clean_full.parquet train-00005-of-01573_clean.log

Opcionalmente:

train-00005-of-01573_clean_full.csv train-00005-of-01573_clean_split.parquet

🧩 Como usar

1. Coloque o script v76 na mesma pasta dos parquets

Os arquivos devem seguir o padrão:

train-00005-of-01573.parquet train-00006-of-01573.parquet ...

2. Crie o arquivo de controle do ID

last_id.txt:

461860

(Esse é o último ID pós-arquivo 00004.)

3. Execute python clean_v76.py

Ele irá:

✔ detectar todos os parquets ✔ ordenar numericamente ✔ processar um por um ✔ gerar IDs na sequência ✔ atualizar o last_id.txt ✔ gerar arquivos limpos + logs

🔍 Motivações

O dataset original contém:

textos excelentes,

textos médios,

textos ruins,

textos traduzidos artificialmente,

duplicatas,

lixo estrutural,

dados sensíveis,

ruído sintático.

O objetivo desta contribuição é oferecer um pipeline controlável e transparente, totalmente ajustável para pesquisadores que desejam modelos de alta qualidade em português.

⚠️ Atenção: limitações

O dataset original pode conter dados pessoais; o script tenta remover, mas não há garantias.

Traduções automáticas presentes no GigaVerbo podem degradar alguns exemplos.

O categorizador instruct/question/factual é heurístico, não anotado manualmente.

Não é um filtro semântico profundo (por design).

A limpeza é agressiva — textos muito curtos ou com ruído estrutural são descartados.

📥 Código

O script completo v76 está neste repositório:

clean_parquet_v76.py

Se quiser, posso gerar também:

versão minimalista,

versão com multithreading,

versão que salva também estatísticas globais.

🤝 Contribuições

Sinta-se à vontade para abrir issues, PRs ou sugerir novos padrões de limpeza. Este repositório é construído com foco em transparência, performance e utilidade prática.

📜 Citação

Se utilizar este pipeline ou o dataset limpo, cite também o trabalho original:

@misc{correa2024tucanoadvancingneuraltext, title={{Tucano: Advancing Neural Text Generation for Portuguese}}, author={Corr{^e}a, Nicholas Kluge and Sen, Aniket and Falk, Sophia and Fatimah, Shiza}, year={2024}, eprint={2411.07854}, archivePrefix={arXiv}, primaryClass={cs.CL}, url={https://arxiv.org/abs/2411.07854}, }