{
 "nbformat": 4,
 "nbformat_minor": 0,
 "metadata": {
  "colab": {
   "provenance": [],
   "gpuType": "T4"
  },
  "kernelspec": {
   "name": "python3",
   "display_name": "Python 3"
  },
  "accelerator": "GPU"
 },
 "cells": [
  {
   "cell_type": "markdown",
   "metadata": {},
   "source": [
    "# ⚖️ IVRIUS — Notebook 2: Dataset Jurídico Avançado\n",
    "**Parte A:** Verbetes Bilíngues PT-EN (Jurema-7B)\n",
    "**Parte B:** Q&A Jurídico (STJ ementas → perguntas + respostas)\n",
    "**Output:** `ivrius_verbetes_v2.jsonl` + `ivrius_qa_v2.jsonl`\n",
    "\n",
    "### ✅ Checklist:\n",
    "- [ ] Runtime → T4 GPU\n",
    "- [ ] Token HuggingFace disponível\n",
    "- [ ] ~2h para rodar completo"
   ]
  },
  {
   "cell_type": "code",
   "metadata": {},
   "source": [
    "# ── Célula 1: Instalar dependências ──────────────────────────────\n!pip install -q llama-cpp-python --extra-index-url https://abetlen.github.io/llama-cpp-python/whl/cu121\n!pip install -q sentence-transformers datasets huggingface_hub\nprint('✅ Dependências instaladas!')"
   ],
   "execution_count": null,
   "outputs": []
  },
  {
   "cell_type": "code",
   "metadata": {},
   "source": [
    "# ── Célula 2: Configuração ────────────────────────────────────────\n",
    "HF_TOKEN    = 'SEU_HF_TOKEN_AQUI'\n",
    "HF_REPO_OUT = 'MMR408/proejto2'\n",
    "\n",
    "import os\n",
    "os.environ['HF_TOKEN'] = HF_TOKEN\n",
    "\n",
    "from huggingface_hub import login\n",
    "login(token=HF_TOKEN)\n",
    "print('✅ HuggingFace autenticado!')"
   ],
   "execution_count": null,
   "outputs": []
  },
  {
   "cell_type": "code",
   "metadata": {},
   "source": [
    "# ── Célula 3: Carregar Jurema-7B GGUF via llama-cpp ─────────────\nfrom llama_cpp import Llama\nfrom huggingface_hub import hf_hub_download\n\nprint('📥 Baixando Jurema-7B GGUF...')\n\n# Baixa o GGUF do HuggingFace\ngguf_path = hf_hub_download(\n    repo_id=\"MMR408/proejto2\",\n    filename=\"jurema-7b-q4_k_m.gguf\",\n    repo_type=\"dataset\",\n    token=HF_TOKEN\n)\nprint(f'✅ Download completo: {gguf_path}')\n\nprint('📥 Carregando Jurema-7B na memória...')\nmodel_jurema = Llama(\n    model_path=gguf_path,\n    n_gpu_layers=-1,   # usa GPU toda\n    n_ctx=2048,\n    verbose=False\n)\n\ndef pipe(prompt_text):\n    output = model_jurema(\n        prompt_text,\n        max_tokens=512,\n        temperature=0.3,\n        stop=[\"```\", \"\\n\\n\\n\"]\n    )\n    return [{\"generated_text\": prompt_text + output[\"choices\"][0][\"text\"]}]\n\nprint('✅ Jurema-7B carregado!')"
   ],
   "execution_count": null,
   "outputs": []
  },
  {
   "cell_type": "code",
   "metadata": {},
   "source": [
    "# ── Célula 4: Carregar voyage-4-nano (embeddings) ────────────────\n",
    "from sentence_transformers import SentenceTransformer\n",
    "\n",
    "print('📥 Carregando voyage-4-nano...')\n",
    "embedder = SentenceTransformer('voyageai/voyage-4-nano')\n",
    "print('✅ voyage-4-nano carregado!')\n",
    "\n",
    "# Teste rápido\n",
    "teste = embedder.encode('habeas corpus no direito brasileiro')\n",
    "print(f'   Dimensão do embedding: {len(teste)}')"
   ],
   "execution_count": null,
   "outputs": []
  },
  {
   "cell_type": "code",
   "metadata": {},
   "source": [
    "# ══════════════════════════════════════════════════════════════════\n",
    "# PARTE A — VERBETES BILÍNGUES PT-EN\n",
    "# ══════════════════════════════════════════════════════════════════\n",
    "\n",
    "# Temas jurídicos para gerar verbetes\n",
    "TEMAS_JURIDICOS = [\n",
    "    # Direito Civil\n",
    "    'responsabilidade civil subjetiva',\n",
    "    'responsabilidade civil objetiva',\n",
    "    'dano moral coletivo',\n",
    "    'dano estético',\n",
    "    'nexo de causalidade',\n",
    "    'teoria da perda de uma chance',\n",
    "    'enriquecimento sem causa',\n",
    "    'boa-fé objetiva',\n",
    "    'função social do contrato',\n",
    "    'vícios do consentimento',\n",
    "    'erro substancial',\n",
    "    'dolo essencial',\n",
    "    'coação moral irresistível',\n",
    "    'lesão contratual',\n",
    "    'estado de perigo',\n",
    "    # Direito Processual\n",
    "    'tutela de urgência',\n",
    "    'tutela antecipada',\n",
    "    'tutela cautelar',\n",
    "    'coisa julgada material',\n",
    "    'coisa julgada formal',\n",
    "    'litispendência',\n",
    "    'conexão processual',\n",
    "    'competência relativa',\n",
    "    'competência absoluta',\n",
    "    'legitimidade ativa e passiva',\n",
    "    # Direito Constitucional\n",
    "    'mandado de segurança individual',\n",
    "    'mandado de segurança coletivo',\n",
    "    'mandado de injunção',\n",
    "    'habeas data',\n",
    "    'controle difuso de constitucionalidade',\n",
    "    'controle concentrado de constitucionalidade',\n",
    "    'ADPF',\n",
    "    'efeito vinculante',\n",
    "    'súmula vinculante',\n",
    "    'reclamação constitucional',\n",
    "    # Direito Tributário\n",
    "    'lançamento por homologação',\n",
    "    'lançamento de ofício',\n",
    "    'decadência tributária',\n",
    "    'prescrição tributária',\n",
    "    'isenção tributária',\n",
    "    'imunidade tributária recíproca',\n",
    "    'substituição tributária progressiva',\n",
    "    'responsabilidade tributária do sócio',\n",
    "    'fraude à execução fiscal',\n",
    "    'exceção de pré-executividade',\n",
    "    # Direito Penal\n",
    "    'crime continuado',\n",
    "    'concurso formal de crimes',\n",
    "    'concurso material de crimes',\n",
    "    'prescrição penal retroativa',\n",
    "    'prescrição da pretensão executória',\n",
    "]\n",
    "\n",
    "print(f'📋 {len(TEMAS_JURIDICOS)} temas prontos para gerar verbetes')"
   ],
   "execution_count": null,
   "outputs": []
  },
  {
   "cell_type": "code",
   "metadata": {},
   "source": [
    "# ── Célula 6: Gerar verbetes bilíngues com Jurema-7B ─────────────\n",
    "import json\n",
    "import time\n",
    "import os\n",
    "\n",
    "os.makedirs('ivrius_output', exist_ok=True)\n",
    "OUTPUT_FILE = 'ivrius_output/ivrius_verbetes_v2.jsonl'\n",
    "\n",
    "# Regras de tradução funcional (NUNCA tradução literal)\n",
    "REGRAS_TRADUCAO = \"\"\"\n",
    "REGRAS CRÍTICAS para tradução de institutos brasileiros:\n",
    "- \"Recurso Especial\" → \"Appeal to the STJ on federal law grounds (Art. 105 III, CF)\"\n",
    "- \"Recurso Extraordinário\" → \"Constitutional appeal to the STF (Art. 102 III, CF)\"\n",
    "- \"Habeas Corpus\" → manter, com explicação contextual brasileira\n",
    "- \"Mandado de Segurança\" → \"Writ of Mandamus (Brazilian constitutional remedy, Art. 5 LXIX, CF)\"\n",
    "- \"STJ\" → \"Superior Court of Justice (STJ) — Brazil's highest court for federal statutory law\"\n",
    "- \"STF\" → \"Supreme Federal Court (STF) — Brazil's Constitutional Court\"\n",
    "- NUNCA traduza literalmente institutos sem equivalente direto nos EUA\n",
    "\"\"\"\n",
    "\n",
    "def gerar_verbete(tema):\n",
    "    prompt = f\"\"\"Você é um curador jurídico bilíngue especializado em direito brasileiro e comparado.\n",
    "\n",
    "{REGRAS_TRADUCAO}\n",
    "\n",
    "Gere um verbete bilíngue completo sobre: \"{tema}\"\n",
    "\n",
    "Formato obrigatório JSON:\n",
    "{{\n",
    "  \"termo_pt\": \"termo em português\",\n",
    "  \"definicao_pt\": \"definição técnica em português (2-3 frases)\",\n",
    "  \"fundamento_legal\": \"artigo/lei aplicável\",\n",
    "  \"jurisprudencia\": \"precedente STJ ou STF relevante\",\n",
    "  \"termo_en\": \"termo em inglês (funcional, não literal)\",\n",
    "  \"definicao_en\": \"definição técnica em inglês (2-3 frases)\",\n",
    "  \"equivalente_us\": \"instituto equivalente no direito americano ou 'No direct US equivalent'\",\n",
    "  \"diferenca_sistemas\": \"diferença principal entre os sistemas (1-2 frases)\"\n",
    "}}\n",
    "\n",
    "Responda APENAS com o JSON válido:\"\"\"\n",
    "    \n",
    "    try:\n",
    "        output = pipe(prompt)[0]['generated_text']\n",
    "        # Extrai só o JSON da resposta\n",
    "        start = output.find('{')\n",
    "        end = output.rfind('}') + 1\n",
    "        if start >= 0 and end > start:\n",
    "            json_str = output[start:end]\n",
    "            verbete = json.loads(json_str)\n",
    "            # Adiciona embedding voyage\n",
    "            texto_embed = f\"{verbete.get('termo_pt','')} {verbete.get('definicao_pt','')}\"\n",
    "            verbete['embedding'] = embedder.encode(texto_embed).tolist()\n",
    "            verbete['fonte'] = 'Jurema-7B + voyage-4-nano'\n",
    "            verbete['versao'] = 'v2'\n",
    "            return verbete\n",
    "    except Exception as e:\n",
    "        print(f'   ⚠️ Erro em \"{tema}\": {e}')\n",
    "    return None\n",
    "\n",
    "# Gerar verbetes\n",
    "verbetes = []\n",
    "print(f'🚀 Gerando {len(TEMAS_JURIDICOS)} verbetes bilíngues...\\n')\n",
    "\n",
    "with open(OUTPUT_FILE, 'w', encoding='utf-8') as f:\n",
    "    for i, tema in enumerate(TEMAS_JURIDICOS):\n",
    "        print(f'[{i+1:02d}/{len(TEMAS_JURIDICOS)}] {tema}...')\n",
    "        verbete = gerar_verbete(tema)\n",
    "        if verbete:\n",
    "            f.write(json.dumps(verbete, ensure_ascii=False) + '\\n')\n",
    "            verbetes.append(verbete)\n",
    "            print(f'   ✅ {verbete.get(\"termo_pt\",\"\")} → {verbete.get(\"termo_en\",\"\")}')\n",
    "        time.sleep(1)\n",
    "\n",
    "print(f'\\n✅ {len(verbetes)} verbetes gerados → {OUTPUT_FILE}')"
   ],
   "execution_count": null,
   "outputs": []
  },
  {
   "cell_type": "code",
   "metadata": {},
   "source": [
    "# ══════════════════════════════════════════════════════════════════\n",
    "# PARTE B — Q&A JURÍDICO (STJ ementas → perguntas + respostas)\n",
    "# ══════════════════════════════════════════════════════════════════\n",
    "\n",
    "from datasets import load_dataset\n",
    "\n",
    "print('📥 Carregando STJ para gerar Q&A...')\n",
    "stj = load_dataset('celsowm/jurisprudencias_stj', split='train[:500]', token=HF_TOKEN)\n",
    "print(f'✅ {len(stj)} acórdãos carregados')\n",
    "\n",
    "QA_FILE = 'ivrius_output/ivrius_qa_v2.jsonl'\n",
    "\n",
    "def gerar_qa(row):\n",
    "    ementa = str(row.get('ementa_texto') or '').strip()\n",
    "    identificacao = str(row.get('identificacao') or '')\n",
    "    if len(ementa) < 100:\n",
    "        return None\n",
    "    \n",
    "    prompt = f\"\"\"Você é um professor de direito especializado em jurisprudência brasileira.\n",
    "\n",
    "Com base na seguinte ementa do STJ ({identificacao}):\n",
    "\\\"\\\"\\\"{ementa[:600]}\\\"\\\"\\\"\n",
    "\n",
    "Gere um par de pergunta e resposta jurídica no formato JSON:\n",
    "{{\n",
    "  \"pergunta\": \"pergunta jurídica clara e objetiva que esta ementa responde\",\n",
    "  \"resposta\": \"resposta fundamentada com base na ementa (3-5 frases)\",\n",
    "  \"area\": \"área do direito (civil/penal/tributário/processual/constitucional/trabalhista/outro)\",\n",
    "  \"tribunal\": \"STJ\",\n",
    "  \"identificacao\": \"{identificacao}\"\n",
    "}}\n",
    "\n",
    "Responda APENAS com o JSON válido:\"\"\"\n",
    "    \n",
    "    try:\n",
    "        output = pipe(prompt)[0]['generated_text']\n",
    "        start = output.find('{')\n",
    "        end = output.rfind('}') + 1\n",
    "        if start >= 0 and end > start:\n",
    "            qa = json.loads(output[start:end])\n",
    "            # Adiciona embedding da pergunta\n",
    "            qa['embedding_pergunta'] = embedder.encode(qa.get('pergunta','')).tolist()\n",
    "            qa['fonte'] = 'STJ + Jurema-7B'\n",
    "            qa['versao'] = 'v2'\n",
    "            return qa\n",
    "    except Exception as e:\n",
    "        pass\n",
    "    return None\n",
    "\n",
    "# Gerar Q&A\n",
    "qa_pairs = []\n",
    "print(f'\\n🚀 Gerando Q&A de {len(stj)} acórdãos STJ...\\n')\n",
    "\n",
    "with open(QA_FILE, 'w', encoding='utf-8') as f:\n",
    "    for i, row in enumerate(stj):\n",
    "        qa = gerar_qa(row)\n",
    "        if qa:\n",
    "            f.write(json.dumps(qa, ensure_ascii=False) + '\\n')\n",
    "            qa_pairs.append(qa)\n",
    "            if (i+1) % 10 == 0:\n",
    "                print(f'[{i+1}/500] ✅ {len(qa_pairs)} pares gerados')\n",
    "        time.sleep(0.5)\n",
    "\n",
    "print(f'\\n✅ {len(qa_pairs)} pares Q&A gerados → {QA_FILE}')"
   ],
   "execution_count": null,
   "outputs": []
  },
  {
   "cell_type": "code",
   "metadata": {},
   "source": [
    "# ── Célula 8: Estatísticas ────────────────────────────────────────\n",
    "import json\n",
    "from collections import Counter\n",
    "\n",
    "# Verbetes\n",
    "print('📊 ESTATÍSTICAS — VERBETES BILÍNGUES')\n",
    "print(f'   Total gerados: {len(verbetes)}')\n",
    "if verbetes:\n",
    "    print(f'   Amostra:\\n')\n",
    "    v = verbetes[0]\n",
    "    print(f'   PT: {v.get(\"termo_pt\")} → {v.get(\"definicao_pt\",\"\")[:100]}...')\n",
    "    print(f'   EN: {v.get(\"termo_en\")} → {v.get(\"definicao_en\",\"\")[:100]}...')\n",
    "    print(f'   US: {v.get(\"equivalente_us\",\"\")[:80]}...')\n",
    "\n",
    "print()\n",
    "# Q&A\n",
    "print('📊 ESTATÍSTICAS — Q&A JURÍDICO')\n",
    "print(f'   Total gerados: {len(qa_pairs)}')\n",
    "if qa_pairs:\n",
    "    areas = Counter([q.get('area','?') for q in qa_pairs])\n",
    "    print(f'   Por área:')\n",
    "    for area, count in areas.most_common():\n",
    "        print(f'     {area}: {count}')\n",
    "    print(f'\\n   Amostra Q&A:')\n",
    "    qa = qa_pairs[0]\n",
    "    print(f'   ❓ {qa.get(\"pergunta\",\"\")}' )\n",
    "    print(f'   💬 {qa.get(\"resposta\",\"\")[:150]}...')"
   ],
   "execution_count": null,
   "outputs": []
  },
  {
   "cell_type": "code",
   "metadata": {},
   "source": [
    "# ── Célula 9: Upload para HuggingFace ────────────────────────────\n",
    "from huggingface_hub import HfApi\n",
    "\n",
    "api = HfApi(token=HF_TOKEN)\n",
    "\n",
    "# Upload verbetes\n",
    "api.upload_file(\n",
    "    path_or_fileobj='ivrius_output/ivrius_verbetes_v2.jsonl',\n",
    "    path_in_repo='ivrius_verbetes_v2.jsonl',\n",
    "    repo_id=HF_REPO_OUT,\n",
    "    repo_type='dataset'\n",
    ")\n",
    "print(f'✅ Verbetes enviados para {HF_REPO_OUT}')\n",
    "\n",
    "# Upload Q&A\n",
    "api.upload_file(\n",
    "    path_or_fileobj='ivrius_output/ivrius_qa_v2.jsonl',\n",
    "    path_in_repo='ivrius_qa_v2.jsonl',\n",
    "    repo_id=HF_REPO_OUT,\n",
    "    repo_type='dataset'\n",
    ")\n",
    "print(f'✅ Q&A enviado para {HF_REPO_OUT}')\n",
    "print(f'\\n🔗 https://huggingface.co/datasets/{HF_REPO_OUT}')"
   ],
   "execution_count": null,
   "outputs": []
  },
  {
   "cell_type": "markdown",
   "metadata": {},
   "source": [
    "## ✅ Notebook 2 Concluído!\n",
    "\n",
    "**Gerado:**\n",
    "- `ivrius_verbetes_v2.jsonl` — verbetes bilíngues PT-EN com embeddings voyage-4-nano\n",
    "- `ivrius_qa_v2.jsonl` — pares Q&A jurídicos de acórdãos reais do STJ\n",
    "\n",
    "**Próximo:** Notebook 3 — Pares Paralelos BR↔US + Notebook 4 — IVRIUS V2\n",
    "\n",
    "---\n",
    "_IVRIUS — Intelligent Virtual Research and Information System_  \n",
    "_Dra. Miriam Mesquita — OAB_"
   ]
  }
 ]
}