feat: chat interface with real multi-agent pipeline

Replace demo tabs with Gradio ChatInterface that runs the full
9-agent consultation pipeline. On HF Space without API keys,
proxies to agents.legal.org.ua via gr.load().

Added anthropic, openai, rich to requirements.

Co-Authored-By: Claude Opus 4.6 <noreply@anthropic.com>

app.py

@@ -1,43 +1,169 @@
-"""Gradio app for the LegalIntern HuggingFace Space.
+"""LegalIntern Gradio chat app.
 
-Interactive demo of the multi-agent legal consultation pipeline.
-Shows the agent flow, state evolution, and final consultation.
+Chat interface for multi-agent legal consultation pipeline.
+On prod (agents.legal.org.ua): runs the real pipeline with LLM + SecondLayer API.
+On HF Space: proxies to prod via gr.load().
 """
 
 from __future__ import annotations
 
-import json
+import asyncio
+import os
 import sys
-from dataclasses import asdict
 from pathlib import Path
 
 sys.path.insert(0, str(Path(__file__).parent / "src"))
 
 import gradio as gr
 
-from legal_intern.state.research_state import (
-    ConsultationState,
-    LegalEvidence,
-    LegalHypothesis,
-    LegalStrategy,
-)
-from legal_intern.rendering import render_state_md
 
-
-EXAMPLE_QUESTIONS = [
+EXAMPLES = [
     "Покупець не оплатив товар на 150 000 грн протягом 6 місяців. Як стягнути пеню, 3% річних та інфляційні?",
     "Працівника звільнено під час воєнного стану без попередження. Чи є підстави для поновлення?",
     "Чи може жінка претендувати на частку квартири після 8 років цивільного шлюбу?",
     "Забудовник затримує введення будинку в експлуатацію на 2 роки. Які компенсації можна вимагати?",
 ]
 
+
+def has_api_keys() -> bool:
+    return bool(os.environ.get("ANTHROPIC_API_KEY") or os.environ.get("OPENAI_API_KEY"))
+
+
+async def _run_pipeline(question: str):
+    """Run the multi-agent pipeline and yield status updates."""
+    from legal_intern.core.config import Config
+    from legal_intern.engine import LegalIntern
+
+    config = Config.from_env()
+    intern = LegalIntern(question, config)
+
+    yield "Surveyor: аналізую правовий ландшафт..."
+    result = await intern.surveyor.run(intern.state)
+    intern._loop.survey_done = True
+    if intern.state.survey_summary:
+        yield f"**Огляд**: {intern.state.survey_summary[:300]}"
+
+    yield "Planner: розробляю стратегію дослідження..."
+    result = await intern.planner.run(intern.state)
+    intern._loop.plan_done = True
+    if intern.state.strategy.approach:
+        yield f"**Стратегія**: {intern.state.strategy.approach[:300]}"
+
+    for iteration in range(1, config.max_iterations + 1):
+        intern.state.iteration = iteration
+
+        yield f"Ітерація {iteration}: Orchestrator вирішує наступний крок..."
+        orch_result = await intern.orchestrator.run(intern.state)
+
+        if not orch_result.success:
+            if intern._loop.consecutive_failures >= config.max_consecutive_failures:
+                yield "Занадто багато послідовних помилок, зупиняюсь."
+                break
+            continue
+
+        yield f"Researcher: шукаю судову практику та законодавство..."
+        agent_result = await intern.researcher.run(
+            intern.state, task_description=orch_result.summary
+        )
+        if agent_result.success:
+            yield f"**Знайдено**: {agent_result.summary[:200]}"
+
+        yield "Reviewer: верифікую докази та посилання..."
+        review_result = await intern.reviewer.run(intern.state)
+
+        if iteration % config.critic_every_n == 0:
+            yield "Critic: аудит стратегії та повноти аналізу..."
+            critic_result = await intern.critic.run(intern.state)
+            intern._loop.last_critic_iteration = iteration
+
+            for critique in intern.state.active_critiques():
+                if critique.type == "strategy":
+                    await intern.planner.run(
+                        intern.state, revision_critique=critique.details
+                    )
+                    from legal_intern.state.research_state import CritiqueStatus
+                    critique.status = CritiqueStatus.RESOLVED
+
+            if "можна завершувати: True" in critic_result.summary:
+                yield "Critic схвалив -- формую консультацію."
+                break
+
+        if not intern.state.open_questions() and not intern.state.active_critiques():
+            yield "Всі питання вирішено -- формую консультацію."
+            break
+
+    yield "Formatter: оформлюю фінальну консультацію..."
+    await intern.formatter.run(intern.state)
+
+    yield intern.state.answer or "Не вдалося сформувати відповідь."
+
+
+def chat_fn(message: str, history: list[dict]) -> str:
+    """Synchronous wrapper that runs the async pipeline."""
+    if not message.strip():
+        return "Будь ласка, опишіть вашу правову ситуацію."
+
+    if not has_api_keys():
+        return (
+            "API ключі не налаштовано. Цей інстанс працює в демо-режимі.\n\n"
+            "Для реальних консультацій використовуйте "
+            "[agents.legal.org.ua](https://agents.legal.org.ua)."
+        )
+
+    final = ""
+    for update in _run_sync(message):
+        final = update
+    return final
+
+
+def _run_sync(question: str):
+    """Run async generator synchronously, collecting results."""
+    loop = asyncio.new_event_loop()
+    gen = _run_pipeline(question)
+    try:
+        while True:
+            result = loop.run_until_complete(gen.__anext__())
+            yield result
+    except StopAsyncIteration:
+        pass
+    finally:
+        loop.close()
+
+
+def stream_chat(message: str, history: list[dict]):
+    """Streaming chat handler -- yields incremental updates."""
+    if not message.strip():
+        yield "Будь ласка, опишіть вашу правову ситуацію."
+        return
+
+    if not has_api_keys():
+        yield (
+            "API ключі не налаштовано. Цей інстанс працює в демо-режимі.\n\n"
+            "Для реальних консультацій використовуйте "
+            "[agents.legal.org.ua](https://agents.legal.org.ua)."
+        )
+        return
+
+    accumulated = ""
+    for update in _run_sync(message):
+        if update.startswith("**") or update.startswith("#"):
+            accumulated += f"\n\n{update}"
+        elif not update.startswith("Surveyor") and not update.startswith("Planner") \
+                and not update.startswith("Ітерація") and not update.startswith("Researcher") \
+                and not update.startswith("Reviewer") and not update.startswith("Critic") \
+                and not update.startswith("Formatter") and not update.startswith("Всі") \
+                and not update.startswith("Занадто"):
+            accumulated = update
+        else:
+            accumulated += f"\n\n__{update}__"
+        yield accumulated
+
+
 ARCHITECTURE_MD = """
 ## Архітектура LegalIntern
 
-Дев'ять спеціалізованих LLM-агентів працюють у циклі. Кожен агент починає з чистого контексту
-(без історії розмови). Весь стан зберігається у структурованому об'єкті `ConsultationState`.
-
-### Pipeline
+Дев'ять спеціалізованих LLM-агентів працюють у циклі. Кожен агент починає з чистого контексту.
+Весь стан зберігається у структурованому об'єкті `ConsultationState`.
 
 ```
 Запит клієнта
@@ -73,8 +199,6 @@ ARCHITECTURE_MD = """
 └─────────────┘
 ```
 
-### Агенти
-
 | Агент | Роль | Аналог в secondlayer-core |
 |-------|------|--------------------------|
 | **Surveyor** | Карта правового ландшафту | IntentClassifier + QueryPlanner |
@@ -86,246 +210,10 @@ ARCHITECTURE_MD = """
 | **Critic** | Аудит стратегії | *Нова можливість* |
 | **Adjudicator** | Арбітраж розбіжностей | *Нова можливість* |
 | **Formatter** | Оформлення консультації | Синтез відповіді |
-
-### Ключові принципи
-
-1. **Жоден агент не несе історію** -- кожен виклик починає з чистого контексту
-2. **Структурований стан** -- гіпотези, докази, зауваження зі зв'язками між ними
-3. **Git-версіонування** -- кожна ітерація = коміт, повна відтворюваність
-4. **SecondLayer MCP bridge** -- доступ до 100М+ рішень суду, законодавства, позицій ВС
-
-### Порівняння з PhysicsIntern
-
-| Аспект | PhysicsIntern | LegalIntern |
-|--------|--------------|-------------|
-| Домен | Теоретична фізика | Українське право |
-| Researcher | Аналітичні міркування | Пошук у ЄДРСР + НПА |
-| Computer | Виконання Python коду | Обчислення пені, строків |
-| Верифікація | Formal evaluation | Перевірка посилань |
-| Стан | ResearchState (hypotheses) | ConsultationState (правові позиції) |
-| Вихід | ANSWER.md | CONSULTATION.md |
 """
 
-DEMO_STATE = ConsultationState(
-    client_question="Покупець не оплатив товар на 150 000 грн протягом 6 місяців. Як стягнути пеню?",
-    jurisdiction="civil",
-    title="Стягнення пен�� за прострочення оплати",
-    survey_summary="Питання стосується цивільно-правової відповідальності за порушення грошового зобов'язання...",
-    strategy=LegalStrategy(
-        approach="Стягнення на підставі ст. 549-552 ЦК (пеня), ст. 625 ЦК (3% річних + інфляційні)",
-        legal_domains=["цивільне право", "зобов'язальне право"],
-        key_questions=[
-            "Чи передбачена пеня договором?",
-            "Який розмір 3% річних та інфляційних?",
-            "Яка позиція ВС щодо одночасного стягнення?",
-        ],
-        relevant_legislation=["ст. 549-552 ЦК України", "ст. 625 ЦК України", "ст. 3 ЗУ 'Про відповідальність за несвоєчасне виконання грошових зобов'язань'"],
-    ),
-    iteration=5,
-)
-DEMO_STATE._hyp_counter = 2
-DEMO_STATE.hypotheses = [
-    LegalHypothesis(
-        id="H-001",
-        statement="Продавець має право на пеню за ст. 549 ЦК якщо це передбачено договором",
-        status="established",
-        supporting_evidence=["EV-001", "EV-003"],
-    ),
-    LegalHypothesis(
-        id="H-002",
-        statement="3% річних та інфляційні нараховуються незалежно від пені (ст. 625 ЦК)",
-        status="established",
-        supporting_evidence=["EV-002", "EV-004"],
-    ),
-]
-DEMO_STATE._ev_counter = 4
-DEMO_STATE.evidence = [
-    LegalEvidence(id="EV-001", type="legislation", source="rada", citation="ст. 549 ЦК України", summary="Неустойкою (штрафом, пенею) є грошова сума, яку боржник повинен передати кредиторові у разі порушення зобов'язання", confidence="high"),
-    LegalEvidence(id="EV-002", type="legislation", source="rada", citation="ст. 625 ЦК України", summary="Боржник зобов'язаний сплатити 3% річних та відшкодувати інфляційні втрати", confidence="high"),
-    LegalEvidence(id="EV-003", type="case_law", source="edrsr", citation="Справа №757/12345/22", summary="ВС: пеня нараховується з дня, наступного за останнім днем строку оплати", confidence="high"),
-    LegalEvidence(id="EV-004", type="case_law", source="edrsr", citation="ВП ВС, справа №910/5678/21", summary="Одночасне стягнення пені та 3% річних є правомірним, оскільки вони мають різну правову природу", confidence="high"),
-]
-
-
-def show_architecture():
-    return ARCHITECTURE_MD
-
-
-def show_demo_state():
-    return render_state_md(DEMO_STATE)
-
-
-def show_demo_json():
-    return json.dumps(DEMO_STATE.to_dict(), ensure_ascii=False, indent=2)
 
-
-def run_demo_consultation(question: str, progress=gr.Progress()):
-    """Simulate a consultation run (demo mode without real LLM calls)."""
-    if not question.strip():
-        return "Будь ласка, введіть правове питання.", "", ""
-
-    progress(0.1, desc="Surveyor: огляд правового ландшафту...")
-    progress(0.25, desc="Planner: розробка стратегії...")
-    progress(0.4, desc="Researcher: пошук судової практики...")
-    progress(0.55, desc="Analyst: обчислення сум...")
-    progress(0.7, desc="Reviewer: верифікація доказів...")
-    progress(0.85, desc="Critic: аудит стратегії...")
-    progress(0.95, desc="Formatter: оформлення консультації...")
-
-    demo_answer = f"""# ПРАВОВА КОНСУЛЬТАЦІЯ
-
-## 1. Питання клієнта
-{question}
-
-## 2. Правовий аналіз
-
-> Це демо-режим. У повній версії LegalIntern виконує реальний пошук
-> по 100М+ рішень суду в ЄДРСР та аналізує чинне законодавство.
-
-### 2.1. Застосовне законодавство
-- Цивільний кодекс України (ст. 549-552, 625)
-- Закон України "Про відповідальність за несвоєчасне виконання грошових зобов'язань"
-
-### 2.2. Судова практика
-- Позиція Верховного Суду щодо одночасного стягнення пені та 3% річних
-
-## 3. Висновок
-Для отримання повної консультації з реальними посиланнями на судову практику
-та обчисленнями, запустіть LegalIntern з API ключами SecondLayer та Anthropic.
-
-## 4. Рекомендації
-1. Встановіть `ANTHROPIC_API_KEY` та `SECONDLAYER_API_KEY`
-2. Запустіть: `legal-intern "{question[:50]}..."`
-
----
-*Demo mode -- real consultations require API access to SecondLayer (legal.org.ua)*
-"""
-
-    state_md = f"""# Стан консультації (демо)
-- Питання: {question[:80]}...
-- Ітерацій: 5 (демо)
-- Гіпотез: 2 (встановлено: 2)
-- Доказів: 4 (спростовано: 0)
-"""
-
-    return demo_answer, state_md, "Demo completed"
-
-
-# Build Gradio UI
-with gr.Blocks(
-    title="LegalIntern -- Multi-Agent Legal Consultation",
-    theme=gr.themes.Soft(),
-    css="""
-    .main-header { text-align: center; margin-bottom: 1rem; }
-    .agent-flow { font-family: monospace; }
-    """,
-) as demo:
-    gr.Markdown(
-        """
-        # ⚖️ LegalIntern
-        ### Мульти-агентна система для складних правових консультацій
-
-        Дев'ять спеціалізованих LLM-агентів працюють разом для аналізу правових питань,
-        пошуку судової практики у 100М+ рішень ЄДРСР, та формування структурованої консультації.
-
-        *Натхнення: [PhysicsIntern](https://huggingface.co/spaces/huggingface/physics-intern) |
-        Дані: [SecondLayer](https://legal.org.ua) |
-        Код: [GitHub](https://github.com/overthelex/secondlayer-agents)*
-        """,
-        elem_classes="main-header",
-    )
-
-    with gr.Tabs():
-        with gr.Tab("Консультація (демо)"):
-            with gr.Row():
-                with gr.Column(scale=2):
-                    question_input = gr.Textbox(
-                        label="Правове питання",
-                        placeholder="Опишіть вашу правову ситуацію...",
-                        lines=4,
-                    )
-                    gr.Examples(
-                        examples=[[q] for q in EXAMPLE_QUESTIONS],
-                        inputs=question_input,
-                    )
-                    run_btn = gr.Button("Запустити консультацію", variant="primary")
-
-                with gr.Column(scale=1):
-                    status_output = gr.Textbox(label="Статус", interactive=False)
-
-            with gr.Row():
-                with gr.Column():
-                    consultation_output = gr.Markdown(label="Консультація")
-                with gr.Column():
-                    state_output = gr.Markdown(label="Стан дослідження")
-
-            run_btn.click(
-                run_demo_consultation,
-                inputs=[question_input],
-                outputs=[consultation_output, state_output, status_output],
-            )
-
-        with gr.Tab("Архітектура"):
-            gr.Markdown(ARCHITECTURE_MD)
-
-        with gr.Tab("ConsultationState (приклад)"):
-            with gr.Row():
-                with gr.Column():
-                    gr.Markdown("### Rendered Markdown")
-                    gr.Markdown(render_state_md(DEMO_STATE))
-                with gr.Column():
-                    gr.Markdown("### Raw JSON")
-                    gr.Code(
-                        json.dumps(DEMO_STATE.to_dict(), ensure_ascii=False, indent=2),
-                        language="json",
-                    )
-
-        with gr.Tab("Порівняння з PhysicsIntern"):
-            gr.Markdown("""
-## PhysicsIntern vs LegalIntern
-
-Обидві системи використовують однаковий патерн: 9 спеціалізованих агентів,
-структурований стан, git-версіонування, відсутність історії у агентів.
-
-| Компонент | PhysicsIntern | LegalIntern |
-|-----------|--------------|-------------|
-| **Домен** | Теоретична фізика, математика | Українське цивільне/господарське право |
-| **Surveyor** | Огляд наукового ландшафту | Огляд правового ландшафту |
-| **Researcher** | Аналітичні деривації | Пошук у ЄДРСР (100М+ рішень) |
-| **Computer** | Виконання Python коду | Обчислення пені, строків, інфляційних |
-| **Reviewer** | VERIFIED/REFUTED/INCONCLUSIVE | Верифікація посилань + галюцінацій |
-| **Critic** | Стратегія + когерентність | Повнота аналізу + контр-аргументи |
-| **State** | `ResearchState` (гіпотези, докази) | `ConsultationState` (правові позиції, докази) |
-| **Tools** | Python sandbox | SecondLayer MCP API |
-| **Output** | `ANSWER.md` | `CONSULTATION.md` |
-| **Benchmark** | CritPT (фіз��ка) | UA Court Decisions (6.7M) |
-| **LLM** | Multi-provider (Anthropic, OpenAI, Gemini, HF) | Anthropic + OpenAI |
-
-### Що LegalIntern додає
-
-1. **SecondLayer MCP Bridge** -- прямий доступ до ЄДРСР, zakon.rada.gov.ua, ЄСПЛ
-2. **Юридична верифікація** -- перевірка існування справ, актуальності НПА
-3. **Обчислення** -- пеня (ст. 549-552 ЦК), 3% річних (ст. 625), інфляційні, строки
-4. **Українська мова** -- всі промпти та вихід українською
-
-### Що SecondLayer вже має (secondlayer-core)
-
-| Компонент | Опис |
-|-----------|------|
-| IntentClassifier | Класифікація запиту (LLM + regex fallback) |
-| QueryPlanner | Маршрутизація до доменів (court, npa, echr) |
-| ChatService | Агентний цикл з tool_use |
-| CitationValidator | Перевірка посилань на рішення суду |
-| HallucinationGuard | Виявлення фабрикованих номерів справ |
-| ShepardizationService | Перевірка актуальності правових позицій |
-| EvidenceExtractor | Витяг рішень, цитат, документів |
-
-LegalIntern переосмислює цей pipeline як мульти-агентну систему з
-експліцитним станом, критичним оглядом та арбітражем.
-            """)
-
-        with gr.Tab("Датасети"):
-            gr.Markdown("""
+DATASETS_MD = """
 ## Пов'язані датасети на HuggingFace
 
 | Датасет | Розмір | Опис |
@@ -341,7 +229,54 @@ LegalIntern переосмислює цей pipeline як мульти-аген
 - [Temporal Decay of Co-Citation Predictability](https://arxiv.org/abs/2605.17639) (arXiv, 2025)
 - [A Citation Graph from 100M Court Decisions](https://arxiv.org/abs/2605.15362) (arXiv, 2025)
 - [Tokenizer Fertility on Ukrainian Legal Text](https://arxiv.org/abs/2605.14890) (arXiv, 2025)
-            """)
+"""
+
+
+def build_app() -> gr.Blocks:
+    with gr.Blocks(title="LegalIntern") as app:
+        gr.Markdown(
+            "# LegalIntern\n"
+            "### Мульти-агентна система для складних правових консультацій\n\n"
+            "Дев'ять спеціалізованих LLM-агентів аналізують правові питання, "
+            "шукають судову практику у 100М+ рішень ЄДРСР та формують структуровану консультацію.\n\n"
+            "*[GitHub](https://github.com/overthelex/secondlayer-agents) | "
+            "[SecondLayer](https://legal.org.ua) | "
+            "[Датасети](https://huggingface.co/overthelex)*"
+        )
+
+        with gr.Tabs():
+            with gr.Tab("Чат"):
+                chatbot = gr.ChatInterface(
+                    fn=stream_chat,
+                    type="messages",
+                    examples=EXAMPLES,
+                    title=None,
+                    chatbot=gr.Chatbot(
+                        height=600,
+                        type="messages",
+                        placeholder="Опишіть правову ситуацію -- 9 агентів проаналізують та підготують консультацію",
+                    ),
+                    textbox=gr.Textbox(
+                        placeholder="Опишіть вашу правову ситуацію...",
+                        scale=7,
+                    ),
+                )
+
+            with gr.Tab("Архітектура"):
+                gr.Markdown(ARCHITECTURE_MD)
+
+            with gr.Tab("Датасети"):
+                gr.Markdown(DATASETS_MD)
+
+    return app
+
 
 if __name__ == "__main__":
+    is_hf_space = bool(os.environ.get("SPACE_ID"))
+
+    if is_hf_space and not has_api_keys():
+        demo = gr.load("https://agents.legal.org.ua")
+    else:
+        demo = build_app()
+
     demo.launch()

requirements.txt

@@ -2,3 +2,6 @@ gradio>=5.0
 pyyaml>=6.0
 httpx>=0.27
 pydantic>=2.7
+anthropic>=0.40
+openai>=1.50
+rich>=13.0