Upload IVRIUS_notebook2.ipynb with huggingface_hub

IVRIUS_notebook2.ipynb

@@ -0,0 +1,419 @@
+{
+ "nbformat": 4,
+ "nbformat_minor": 0,
+ "metadata": {
+  "colab": {"provenance": [], "gpuType": "T4"},
+  "kernelspec": {"name": "python3", "display_name": "Python 3"},
+  "accelerator": "GPU"
+ },
+ "cells": [
+  {
+   "cell_type": "markdown",
+   "metadata": {},
+   "source": [
+    "# ⚖️ IVRIUS — Notebook 2: Dataset Jurídico Avançado\n",
+    "**Parte A:** Verbetes Bilíngues PT-EN (Jurema-7B)\n",
+    "**Parte B:** Q&A Jurídico (STJ ementas → perguntas + respostas)\n",
+    "**Output:** `ivrius_verbetes_v2.jsonl` + `ivrius_qa_v2.jsonl`\n",
+    "\n",
+    "### ✅ Checklist:\n",
+    "- [ ] Runtime → T4 GPU\n",
+    "- [ ] Token HuggingFace disponível\n",
+    "- [ ] ~2h para rodar completo"
+   ]
+  },
+  {
+   "cell_type": "code",
+   "metadata": {},
+   "source": [
+    "# ── Célula 1: Instalar dependências ──────────────────────────────\n",
+    "!pip install -q transformers accelerate bitsandbytes sentencepiece\n",
+    "!pip install -q sentence-transformers datasets huggingface_hub\n",
+    "print('✅ Dependências instaladas!')"
+   ],
+   "execution_count": null,
+   "outputs": []
+  },
+  {
+   "cell_type": "code",
+   "metadata": {},
+   "source": [
+    "# ── Célula 2: Configuração ────────────────────────────────────────\n",
+    "HF_TOKEN    = 'SEU_HF_TOKEN_AQUI'\n",
+    "HF_REPO_OUT = 'MMR408/proejto2'\n",
+    "\n",
+    "import os\n",
+    "os.environ['HF_TOKEN'] = HF_TOKEN\n",
+    "\n",
+    "from huggingface_hub import login\n",
+    "login(token=HF_TOKEN)\n",
+    "print('✅ HuggingFace autenticado!')"
+   ],
+   "execution_count": null,
+   "outputs": []
+  },
+  {
+   "cell_type": "code",
+   "metadata": {},
+   "source": [
+    "# ── Célula 3: Carregar Jurema-7B (modelo jurídico BR) ────────────\n",
+    "from transformers import AutoTokenizer, AutoModelForCausalLM, pipeline\n",
+    "import torch\n",
+    "\n",
+    "print('📥 Carregando Jurema-7B...')\n",
+    "print('   (pode demorar 5-10 min na primeira vez)')\n",
+    "\n",
+    "MODEL_ID = 'Jurema-br/Jurema-7B'\n",
+    "\n",
+    "tokenizer = AutoTokenizer.from_pretrained(MODEL_ID, token=HF_TOKEN)\n",
+    "model_jurema = AutoModelForCausalLM.from_pretrained(\n",
+    "    MODEL_ID,\n",
+    "    torch_dtype=torch.float16,\n",
+    "    device_map='auto',\n",
+    "    load_in_4bit=True,\n",
+    "    token=HF_TOKEN\n",
+    ")\n",
+    "\n",
+    "pipe = pipeline(\n",
+    "    'text-generation',\n",
+    "    model=model_jurema,\n",
+    "    tokenizer=tokenizer,\n",
+    "    max_new_tokens=512,\n",
+    "    temperature=0.3,\n",
+    "    do_sample=True,\n",
+    "    pad_token_id=tokenizer.eos_token_id\n",
+    ")\n",
+    "print('✅ Jurema-7B carregado!')"
+   ],
+   "execution_count": null,
+   "outputs": []
+  },
+  {
+   "cell_type": "code",
+   "metadata": {},
+   "source": [
+    "# ── Célula 4: Carregar voyage-4-nano (embeddings) ────────────────\n",
+    "from sentence_transformers import SentenceTransformer\n",
+    "\n",
+    "print('📥 Carregando voyage-4-nano...')\n",
+    "embedder = SentenceTransformer('voyageai/voyage-4-nano')\n",
+    "print('✅ voyage-4-nano carregado!')\n",
+    "\n",
+    "# Teste rápido\n",
+    "teste = embedder.encode('habeas corpus no direito brasileiro')\n",
+    "print(f'   Dimensão do embedding: {len(teste)}')"
+   ],
+   "execution_count": null,
+   "outputs": []
+  },
+  {
+   "cell_type": "code",
+   "metadata": {},
+   "source": [
+    "# ══════════════════════════════════════════════════════════════════\n",
+    "# PARTE A — VERBETES BILÍNGUES PT-EN\n",
+    "# ══════════════════════════════════════════════════════════════════\n",
+    "\n",
+    "# Temas jurídicos para gerar verbetes\n",
+    "TEMAS_JURIDICOS = [\n",
+    "    # Direito Civil\n",
+    "    'responsabilidade civil subjetiva',\n",
+    "    'responsabilidade civil objetiva',\n",
+    "    'dano moral coletivo',\n",
+    "    'dano estético',\n",
+    "    'nexo de causalidade',\n",
+    "    'teoria da perda de uma chance',\n",
+    "    'enriquecimento sem causa',\n",
+    "    'boa-fé objetiva',\n",
+    "    'função social do contrato',\n",
+    "    'vícios do consentimento',\n",
+    "    'erro substancial',\n",
+    "    'dolo essencial',\n",
+    "    'coação moral irresistível',\n",
+    "    'lesão contratual',\n",
+    "    'estado de perigo',\n",
+    "    # Direito Processual\n",
+    "    'tutela de urgência',\n",
+    "    'tutela antecipada',\n",
+    "    'tutela cautelar',\n",
+    "    'coisa julgada material',\n",
+    "    'coisa julgada formal',\n",
+    "    'litispendência',\n",
+    "    'conexão processual',\n",
+    "    'competência relativa',\n",
+    "    'competência absoluta',\n",
+    "    'legitimidade ativa e passiva',\n",
+    "    # Direito Constitucional\n",
+    "    'mandado de segurança individual',\n",
+    "    'mandado de segurança coletivo',\n",
+    "    'mandado de injunção',\n",
+    "    'habeas data',\n",
+    "    'controle difuso de constitucionalidade',\n",
+    "    'controle concentrado de constitucionalidade',\n",
+    "    'ADPF',\n",
+    "    'efeito vinculante',\n",
+    "    'súmula vinculante',\n",
+    "    'reclamação constitucional',\n",
+    "    # Direito Tributário\n",
+    "    'lançamento por homologação',\n",
+    "    'lançamento de ofício',\n",
+    "    'decadência tributária',\n",
+    "    'prescrição tributária',\n",
+    "    'isenção tributária',\n",
+    "    'imunidade tributária recíproca',\n",
+    "    'substituição tributária progressiva',\n",
+    "    'responsabilidade tributária do sócio',\n",
+    "    'fraude à execução fiscal',\n",
+    "    'exceção de pré-executividade',\n",
+    "    # Direito Penal\n",
+    "    'crime continuado',\n",
+    "    'concurso formal de crimes',\n",
+    "    'concurso material de crimes',\n",
+    "    'prescrição penal retroativa',\n",
+    "    'prescrição da pretensão executória',\n",
+    "]\n",
+    "\n",
+    "print(f'📋 {len(TEMAS_JURIDICOS)} temas prontos para gerar verbetes')"
+   ],
+   "execution_count": null,
+   "outputs": []
+  },
+  {
+   "cell_type": "code",
+   "metadata": {},
+   "source": [
+    "# ── Célula 6: Gerar verbetes bilíngues com Jurema-7B ─────────────\n",
+    "import json\n",
+    "import time\n",
+    "import os\n",
+    "\n",
+    "os.makedirs('ivrius_output', exist_ok=True)\n",
+    "OUTPUT_FILE = 'ivrius_output/ivrius_verbetes_v2.jsonl'\n",
+    "\n",
+    "# Regras de tradução funcional (NUNCA tradução literal)\n",
+    "REGRAS_TRADUCAO = \"\"\"\n",
+    "REGRAS CRÍTICAS para tradução de institutos brasileiros:\n",
+    "- \"Recurso Especial\" → \"Appeal to the STJ on federal law grounds (Art. 105 III, CF)\"\n",
+    "- \"Recurso Extraordinário\" → \"Constitutional appeal to the STF (Art. 102 III, CF)\"\n",
+    "- \"Habeas Corpus\" → manter, com explicação contextual brasileira\n",
+    "- \"Mandado de Segurança\" → \"Writ of Mandamus (Brazilian constitutional remedy, Art. 5 LXIX, CF)\"\n",
+    "- \"STJ\" → \"Superior Court of Justice (STJ) — Brazil's highest court for federal statutory law\"\n",
+    "- \"STF\" → \"Supreme Federal Court (STF) — Brazil's Constitutional Court\"\n",
+    "- NUNCA traduza literalmente institutos sem equivalente direto nos EUA\n",
+    "\"\"\"\n",
+    "\n",
+    "def gerar_verbete(tema):\n",
+    "    prompt = f\"\"\"Você é um curador jurídico bilíngue especializado em direito brasileiro e comparado.\n",
+    "\n",
+    "{REGRAS_TRADUCAO}\n",
+    "\n",
+    "Gere um verbete bilíngue completo sobre: \"{tema}\"\n",
+    "\n",
+    "Formato obrigatório JSON:\n",
+    "{{\n",
+    "  \"termo_pt\": \"termo em português\",\n",
+    "  \"definicao_pt\": \"definição técnica em português (2-3 frases)\",\n",
+    "  \"fundamento_legal\": \"artigo/lei aplicável\",\n",
+    "  \"jurisprudencia\": \"precedente STJ ou STF relevante\",\n",
+    "  \"termo_en\": \"termo em inglês (funcional, não literal)\",\n",
+    "  \"definicao_en\": \"definição técnica em inglês (2-3 frases)\",\n",
+    "  \"equivalente_us\": \"instituto equivalente no direito americano ou 'No direct US equivalent'\",\n",
+    "  \"diferenca_sistemas\": \"diferença principal entre os sistemas (1-2 frases)\"\n",
+    "}}\n",
+    "\n",
+    "Responda APENAS com o JSON válido:\"\"\"\n",
+    "    \n",
+    "    try:\n",
+    "        output = pipe(prompt)[0]['generated_text']\n",
+    "        # Extrai só o JSON da resposta\n",
+    "        start = output.find('{')\n",
+    "        end = output.rfind('}') + 1\n",
+    "        if start >= 0 and end > start:\n",
+    "            json_str = output[start:end]\n",
+    "            verbete = json.loads(json_str)\n",
+    "            # Adiciona embedding voyage\n",
+    "            texto_embed = f\"{verbete.get('termo_pt','')} {verbete.get('definicao_pt','')}\"\n",
+    "            verbete['embedding'] = embedder.encode(texto_embed).tolist()\n",
+    "            verbete['fonte'] = 'Jurema-7B + voyage-4-nano'\n",
+    "            verbete['versao'] = 'v2'\n",
+    "            return verbete\n",
+    "    except Exception as e:\n",
+    "        print(f'   ⚠️ Erro em \"{tema}\": {e}')\n",
+    "    return None\n",
+    "\n",
+    "# Gerar verbetes\n",
+    "verbetes = []\n",
+    "print(f'🚀 Gerando {len(TEMAS_JURIDICOS)} verbetes bilíngues...\\n')\n",
+    "\n",
+    "with open(OUTPUT_FILE, 'w', encoding='utf-8') as f:\n",
+    "    for i, tema in enumerate(TEMAS_JURIDICOS):\n",
+    "        print(f'[{i+1:02d}/{len(TEMAS_JURIDICOS)}] {tema}...')\n",
+    "        verbete = gerar_verbete(tema)\n",
+    "        if verbete:\n",
+    "            f.write(json.dumps(verbete, ensure_ascii=False) + '\\n')\n",
+    "            verbetes.append(verbete)\n",
+    "            print(f'   ✅ {verbete.get(\"termo_pt\",\"\")} → {verbete.get(\"termo_en\",\"\")}')\n",
+    "        time.sleep(1)\n",
+    "\n",
+    "print(f'\\n✅ {len(verbetes)} verbetes gerados → {OUTPUT_FILE}')"
+   ],
+   "execution_count": null,
+   "outputs": []
+  },
+  {
+   "cell_type": "code",
+   "metadata": {},
+   "source": [
+    "# ══════════════════════════════════════════════════════════════════\n",
+    "# PARTE B — Q&A JURÍDICO (STJ ementas → perguntas + respostas)\n",
+    "# ══════════════════════════════════════════════════════════════════\n",
+    "\n",
+    "from datasets import load_dataset\n",
+    "\n",
+    "print('📥 Carregando STJ para gerar Q&A...')\n",
+    "stj = load_dataset('celsowm/jurisprudencias_stj', split='train[:500]', token=HF_TOKEN)\n",
+    "print(f'✅ {len(stj)} acórdãos carregados')\n",
+    "\n",
+    "QA_FILE = 'ivrius_output/ivrius_qa_v2.jsonl'\n",
+    "\n",
+    "def gerar_qa(row):\n",
+    "    ementa = str(row.get('ementa_texto') or '').strip()\n",
+    "    identificacao = str(row.get('identificacao') or '')\n",
+    "    if len(ementa) < 100:\n",
+    "        return None\n",
+    "    \n",
+    "    prompt = f\"\"\"Você é um professor de direito especializado em jurisprudência brasileira.\n",
+    "\n",
+    "Com base na seguinte ementa do STJ ({identificacao}):\n",
+    "\\\"\\\"\\\"{ementa[:600]}\\\"\\\"\\\"\n",
+    "\n",
+    "Gere um par de pergunta e resposta jurídica no formato JSON:\n",
+    "{{\n",
+    "  \"pergunta\": \"pergunta jurídica clara e objetiva que esta ementa responde\",\n",
+    "  \"resposta\": \"resposta fundamentada com base na ementa (3-5 frases)\",\n",
+    "  \"area\": \"área do direito (civil/penal/tributário/processual/constitucional/trabalhista/outro)\",\n",
+    "  \"tribunal\": \"STJ\",\n",
+    "  \"identificacao\": \"{identificacao}\"\n",
+    "}}\n",
+    "\n",
+    "Responda APENAS com o JSON válido:\"\"\"\n",
+    "    \n",
+    "    try:\n",
+    "        output = pipe(prompt)[0]['generated_text']\n",
+    "        start = output.find('{')\n",
+    "        end = output.rfind('}') + 1\n",
+    "        if start >= 0 and end > start:\n",
+    "            qa = json.loads(output[start:end])\n",
+    "            # Adiciona embedding da pergunta\n",
+    "            qa['embedding_pergunta'] = embedder.encode(qa.get('pergunta','')).tolist()\n",
+    "            qa['fonte'] = 'STJ + Jurema-7B'\n",
+    "            qa['versao'] = 'v2'\n",
+    "            return qa\n",
+    "    except Exception as e:\n",
+    "        pass\n",
+    "    return None\n",
+    "\n",
+    "# Gerar Q&A\n",
+    "qa_pairs = []\n",
+    "print(f'\\n🚀 Gerando Q&A de {len(stj)} acórdãos STJ...\\n')\n",
+    "\n",
+    "with open(QA_FILE, 'w', encoding='utf-8') as f:\n",
+    "    for i, row in enumerate(stj):\n",
+    "        qa = gerar_qa(row)\n",
+    "        if qa:\n",
+    "            f.write(json.dumps(qa, ensure_ascii=False) + '\\n')\n",
+    "            qa_pairs.append(qa)\n",
+    "            if (i+1) % 10 == 0:\n",
+    "                print(f'[{i+1}/500] ✅ {len(qa_pairs)} pares gerados')\n",
+    "        time.sleep(0.5)\n",
+    "\n",
+    "print(f'\\n✅ {len(qa_pairs)} pares Q&A gerados → {QA_FILE}')"
+   ],
+   "execution_count": null,
+   "outputs": []
+  },
+  {
+   "cell_type": "code",
+   "metadata": {},
+   "source": [
+    "# ── Célula 8: Estatísticas ────────────────────────────────────────\n",
+    "import json\n",
+    "from collections import Counter\n",
+    "\n",
+    "# Verbetes\n",
+    "print('📊 ESTATÍSTICAS — VERBETES BILÍNGUES')\n",
+    "print(f'   Total gerados: {len(verbetes)}')\n",
+    "if verbetes:\n",
+    "    print(f'   Amostra:\\n')\n",
+    "    v = verbetes[0]\n",
+    "    print(f'   PT: {v.get(\"termo_pt\")} → {v.get(\"definicao_pt\",\"\")[:100]}...')\n",
+    "    print(f'   EN: {v.get(\"termo_en\")} → {v.get(\"definicao_en\",\"\")[:100]}...')\n",
+    "    print(f'   US: {v.get(\"equivalente_us\",\"\")[:80]}...')\n",
+    "\n",
+    "print()\n",
+    "# Q&A\n",
+    "print('📊 ESTATÍSTICAS — Q&A JURÍDICO')\n",
+    "print(f'   Total gerados: {len(qa_pairs)}')\n",
+    "if qa_pairs:\n",
+    "    areas = Counter([q.get('area','?') for q in qa_pairs])\n",
+    "    print(f'   Por área:')\n",
+    "    for area, count in areas.most_common():\n",
+    "        print(f'     {area}: {count}')\n",
+    "    print(f'\\n   Amostra Q&A:')\n",
+    "    qa = qa_pairs[0]\n",
+    "    print(f'   ❓ {qa.get(\"pergunta\",\"\")}' )\n",
+    "    print(f'   💬 {qa.get(\"resposta\",\"\")[:150]}...')"
+   ],
+   "execution_count": null,
+   "outputs": []
+  },
+  {
+   "cell_type": "code",
+   "metadata": {},
+   "source": [
+    "# ── Célula 9: Upload para HuggingFace ────────────────────────────\n",
+    "from huggingface_hub import HfApi\n",
+    "\n",
+    "api = HfApi(token=HF_TOKEN)\n",
+    "\n",
+    "# Upload verbetes\n",
+    "api.upload_file(\n",
+    "    path_or_fileobj='ivrius_output/ivrius_verbetes_v2.jsonl',\n",
+    "    path_in_repo='ivrius_verbetes_v2.jsonl',\n",
+    "    repo_id=HF_REPO_OUT,\n",
+    "    repo_type='dataset'\n",
+    ")\n",
+    "print(f'✅ Verbetes enviados para {HF_REPO_OUT}')\n",
+    "\n",
+    "# Upload Q&A\n",
+    "api.upload_file(\n",
+    "    path_or_fileobj='ivrius_output/ivrius_qa_v2.jsonl',\n",
+    "    path_in_repo='ivrius_qa_v2.jsonl',\n",
+    "    repo_id=HF_REPO_OUT,\n",
+    "    repo_type='dataset'\n",
+    ")\n",
+    "print(f'✅ Q&A enviado para {HF_REPO_OUT}')\n",
+    "print(f'\\n🔗 https://huggingface.co/datasets/{HF_REPO_OUT}')"
+   ],
+   "execution_count": null,
+   "outputs": []
+  },
+  {
+   "cell_type": "markdown",
+   "metadata": {},
+   "source": [
+    "## ✅ Notebook 2 Concluído!\n",
+    "\n",
+    "**Gerado:**\n",
+    "- `ivrius_verbetes_v2.jsonl` — verbetes bilíngues PT-EN com embeddings voyage-4-nano\n",
+    "- `ivrius_qa_v2.jsonl` — pares Q&A jurídicos de acórdãos reais do STJ\n",
+    "\n",
+    "**Próximo:** Notebook 3 — Pares Paralelos BR↔US + Notebook 4 — IVRIUS V2\n",
+    "\n",
+    "---\n",
+    "_IVRIUS — Intelligent Virtual Research and Information System_  \n",
+    "_Dra. Miriam Mesquita — OAB_"
+   ]
+  }
+ ]
+}\n