query_id large_stringlengths 36 43 | query_idx int64 0 6.84k | question_idx int64 0 34 | question_type large_stringclasses 4
values | version large_stringclasses 1
value | model large_stringclasses 1
value | reasoning_effort large_stringclasses 1
value | question large_stringlengths 13 9.1k | ground_truth large_stringlengths 0 4.87k | answer large_stringclasses 848
values | data large_stringlengths 309 500 | reasoning large_stringlengths 820 57.3k ⌀ | generation_time float64 0.05 1.8k | generation_success bool 2
classes | is_empty bool 2
classes | is_correct bool 2
classes | rouge1 float64 0 1 ⌀ | rouge2 float64 0 1 ⌀ | rougeL float64 0 1 ⌀ | bleu float64 0 1 ⌀ | judge_qwen3_4b_correct bool 2
classes | judge_qwen3_4b_agrees bool 2
classes | query_metrics large_stringclasses 380
values |
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
run--bc78fc53-c9df-4291-8e64-3ccaee4a1496-0 | 0 | 0 | binary | v2 | openai-gpt-oss-20b | high | Responda o(a) BMG - Numero do Cartão. Caso não encontre, responda N/A. | N/A | # TERMO DE ADESÃO CARTÃO DE CRÉDITO CONSIGNADO EMITIDO PELO BANCO BMG S.A E AUTORIZAÇÃO PARA DESCONTO EM FOLHA DE PAGAMENTO Local e data de emissão: 24/06/2022 Nº ADE 76530832 ## I - DADOS PESSOAIS DO(A) TITULAR(ADERENTE) | | I. MARIA DAMIANA DE JESUS | | --- | --- | | | 2. FEMININO 3.152.717.655-04 | | 1. Nome do Clie... | We need to answer the questions:
1. Responda o(a) BMG - Numero do Cartão. Caso não encontre, responda N/A.
2. Responda o(a) BMG - Código de Reserva de Margem. Caso não encontre, responda N/A.
3. Responda o(a) BMG - Data do Último Desconto. Caso não encontre, responda N/A. Caso encontre, responda no formato DATE (yyyy-... | 313.02408 | true | true | null | null | null | null | null | null | null | {"num_questions": 4, "accuracy": 0.0, "binary": {"total": 4, "correct": 0, "accuracy": 0.0}, "numeric": {"total": 0, "correct": 0, "accuracy": null}, "structured": {"total": 0, "correct": 0, "accuracy": null}, "textual": {"total": 0, "correct": 0, "accuracy": null, "rouge1_mean": null, "rouge2_mean": null, "rougeL_mean... | |
run--bc78fc53-c9df-4291-8e64-3ccaee4a1496-0 | 0 | 1 | binary | v2 | openai-gpt-oss-20b | high | Responda o(a) BMG - Código de Reserva de Margem. Caso não encontre, responda N/A. | N/A | # TERMO DE ADESÃO CARTÃO DE CRÉDITO CONSIGNADO EMITIDO PELO BANCO BMG S.A E AUTORIZAÇÃO PARA DESCONTO EM FOLHA DE PAGAMENTO Local e data de emissão: 24/06/2022 Nº ADE 76530832 ## I - DADOS PESSOAIS DO(A) TITULAR(ADERENTE) | | I. MARIA DAMIANA DE JESUS | | --- | --- | | | 2. FEMININO 3.152.717.655-04 | | 1. Nome do Clie... | We need to answer the questions:
1. Responda o(a) BMG - Numero do Cartão. Caso não encontre, responda N/A.
2. Responda o(a) BMG - Código de Reserva de Margem. Caso não encontre, responda N/A.
3. Responda o(a) BMG - Data do Último Desconto. Caso não encontre, responda N/A. Caso encontre, responda no formato DATE (yyyy-... | 313.02408 | true | true | null | null | null | null | null | null | null | {"num_questions": 4, "accuracy": 0.0, "binary": {"total": 4, "correct": 0, "accuracy": 0.0}, "numeric": {"total": 0, "correct": 0, "accuracy": null}, "structured": {"total": 0, "correct": 0, "accuracy": null}, "textual": {"total": 0, "correct": 0, "accuracy": null, "rouge1_mean": null, "rouge2_mean": null, "rougeL_mean... | |
run--bc78fc53-c9df-4291-8e64-3ccaee4a1496-0 | 0 | 2 | binary | v2 | openai-gpt-oss-20b | high | Responda o(a) BMG - Data do Último Desconto. Caso não encontre, responda N/A. Caso encontre, responda no formato DATE (yyyy-MM-dd) | N/A | # TERMO DE ADESÃO CARTÃO DE CRÉDITO CONSIGNADO EMITIDO PELO BANCO BMG S.A E AUTORIZAÇÃO PARA DESCONTO EM FOLHA DE PAGAMENTO Local e data de emissão: 24/06/2022 Nº ADE 76530832 ## I - DADOS PESSOAIS DO(A) TITULAR(ADERENTE) | | I. MARIA DAMIANA DE JESUS | | --- | --- | | | 2. FEMININO 3.152.717.655-04 | | 1. Nome do Clie... | We need to answer the questions:
1. Responda o(a) BMG - Numero do Cartão. Caso não encontre, responda N/A.
2. Responda o(a) BMG - Código de Reserva de Margem. Caso não encontre, responda N/A.
3. Responda o(a) BMG - Data do Último Desconto. Caso não encontre, responda N/A. Caso encontre, responda no formato DATE (yyyy-... | 313.02408 | true | true | null | null | null | null | null | null | null | {"num_questions": 4, "accuracy": 0.0, "binary": {"total": 4, "correct": 0, "accuracy": 0.0}, "numeric": {"total": 0, "correct": 0, "accuracy": null}, "structured": {"total": 0, "correct": 0, "accuracy": null}, "textual": {"total": 0, "correct": 0, "accuracy": null, "rouge1_mean": null, "rouge2_mean": null, "rougeL_mean... | |
run--bc78fc53-c9df-4291-8e64-3ccaee4a1496-0 | 0 | 3 | binary | v2 | openai-gpt-oss-20b | high | BMG - Valor do Último Desconto utilizando vírgula, se necessário | N/A | # TERMO DE ADESÃO CARTÃO DE CRÉDITO CONSIGNADO EMITIDO PELO BANCO BMG S.A E AUTORIZAÇÃO PARA DESCONTO EM FOLHA DE PAGAMENTO Local e data de emissão: 24/06/2022 Nº ADE 76530832 ## I - DADOS PESSOAIS DO(A) TITULAR(ADERENTE) | | I. MARIA DAMIANA DE JESUS | | --- | --- | | | 2. FEMININO 3.152.717.655-04 | | 1. Nome do Clie... | We need to answer the questions:
1. Responda o(a) BMG - Numero do Cartão. Caso não encontre, responda N/A.
2. Responda o(a) BMG - Código de Reserva de Margem. Caso não encontre, responda N/A.
3. Responda o(a) BMG - Data do Último Desconto. Caso não encontre, responda N/A. Caso encontre, responda no formato DATE (yyyy-... | 313.02408 | true | true | null | null | null | null | null | null | null | {"num_questions": 4, "accuracy": 0.0, "binary": {"total": 4, "correct": 0, "accuracy": 0.0}, "numeric": {"total": 0, "correct": 0, "accuracy": null}, "structured": {"total": 0, "correct": 0, "accuracy": null}, "textual": {"total": 0, "correct": 0, "accuracy": null, "rouge1_mean": null, "rouge2_mean": null, "rougeL_mean... | |
3a46f99e-fd38-478f-aa16-92255c33ea2f | 1 | 0 | binary | v2 | openai-gpt-oss-20b | high | Se não houver menção a TEC (Termo de Consentimento Esclarecido), responder 'sim', caso contrário, responder com 'não'. | sim | sim | # 1. Dados Gerais
| Dossiê | 02.02.033.0003734932/23 |
| --- | --- |
| Processo | 0857883-56.2023.8.18.0140 |
| Autor | JOSEFA BARBOSA VIEIRA MENEZES |
| CPF ou CNPJ | 006.934.813-82 |
| Objeto | Cartão de Crédito Consignado |
| Assunto | CARTAO DE CREDITO - SOLICITOU EMPRESTIMO E FOI ENVIADO UM CARTAO |
|... | We need to answer 4 questions. Format: numbered list 1. [answer] 2. [answer] 3. [answer] 4. [answer]. No other text. The user says: "Não inclua o texto das perguntas nas respostas." So we just output the answers. The instructions: "Se a pergunta não for aplicável, responda apenas com 'N/A', nada mais." But all 4 are ap... | 79.78031 | true | false | true | null | null | null | null | true | true | {"num_questions": 4, "accuracy": 0.75, "binary": {"total": 4, "correct": 3, "accuracy": 0.75}, "numeric": {"total": 0, "correct": 0, "accuracy": null}, "structured": {"total": 0, "correct": 0, "accuracy": null}, "textual": {"total": 0, "correct": 0, "accuracy": null, "rouge1_mean": null, "rouge2_mean": null, "rougeL_me... |
3a46f99e-fd38-478f-aa16-92255c33ea2f | 1 | 1 | binary | v2 | openai-gpt-oss-20b | high | Verificar se houve uso pela parte autora do cartão de crédito que ela alega não ter contratado. Essa informação consta do item 'Motivo da recomendação' no documento Goact, podendo conter a frase 'não foi realizada compras' ou 'Podemos notar que houve utilização do Conta Cartão em saque e
compras'. Caso haja, responder ... | não | sim | # 1. Dados Gerais
| Dossiê | 02.02.033.0003734932/23 |
| --- | --- |
| Processo | 0857883-56.2023.8.18.0140 |
| Autor | JOSEFA BARBOSA VIEIRA MENEZES |
| CPF ou CNPJ | 006.934.813-82 |
| Objeto | Cartão de Crédito Consignado |
| Assunto | CARTAO DE CREDITO - SOLICITOU EMPRESTIMO E FOI ENVIADO UM CARTAO |
|... | We need to answer 4 questions. Format: numbered list 1. [answer] 2. [answer] 3. [answer] 4. [answer]. No other text. The user says: "Não inclua o texto das perguntas nas respostas." So we just output the answers. The instructions: "Se a pergunta não for aplicável, responda apenas com 'N/A', nada mais." But all 4 are ap... | 79.78031 | true | false | false | null | null | null | null | false | true | {"num_questions": 4, "accuracy": 0.75, "binary": {"total": 4, "correct": 3, "accuracy": 0.75}, "numeric": {"total": 0, "correct": 0, "accuracy": null}, "structured": {"total": 0, "correct": 0, "accuracy": null}, "textual": {"total": 0, "correct": 0, "accuracy": null, "rouge1_mean": null, "rouge2_mean": null, "rougeL_me... |
3a46f99e-fd38-478f-aa16-92255c33ea2f | 1 | 2 | binary | v2 | openai-gpt-oss-20b | high | "Se existir documento comprobatório dos valores disponibilizados ao cliente, ou seja, à parte auto(...TRUNCATED) | sim | sim | "# 1. Dados Gerais\n\n| Dossiê | 02.02.033.0003734932/23 |\n| --- | --- |\n| Processo | 0857883-(...TRUNCATED) | "We need to answer 4 questions. Format: numbered list 1. [answer] 2. [answer] 3. [answer] 4. [answer(...TRUNCATED) | 79.78031 | true | false | true | null | null | null | null | true | true | "{\"num_questions\": 4, \"accuracy\": 0.75, \"binary\": {\"total\": 4, \"correct\": 3, \"accuracy\":(...TRUNCATED) |
3a46f99e-fd38-478f-aa16-92255c33ea2f | 1 | 3 | binary | v2 | openai-gpt-oss-20b | high | "Verificar se há informações que indiquem que houve recebimento do valor contratado. Em caso posi(...TRUNCATED) | sim | sim | "# 1. Dados Gerais\n\n| Dossiê | 02.02.033.0003734932/23 |\n| --- | --- |\n| Processo | 0857883-(...TRUNCATED) | "We need to answer 4 questions. Format: numbered list 1. [answer] 2. [answer] 3. [answer] 4. [answer(...TRUNCATED) | 79.78031 | true | false | true | null | null | null | null | true | true | "{\"num_questions\": 4, \"accuracy\": 0.75, \"binary\": {\"total\": 4, \"correct\": 3, \"accuracy\":(...TRUNCATED) |
7b145a01-7f33-42ea-9d45-2b412fc00313 | 2 | 0 | binary | v2 | openai-gpt-oss-20b | high | "Verifique se a petição inicial é direcionada ao Juizado Especial Cível. Em caso positivo, respo(...TRUNCATED) | Não | "# Pje Tribunal de Justiça de Pernambuco Poder Judiciário de Pernambuco \n\nO documento a seguir f(...TRUNCATED) | "We need to answer 11 questions. The instructions: \"Não inclua o texto das perguntas nas respostas(...TRUNCATED) | 247.864217 | true | true | null | null | null | null | null | null | null | "{\"num_questions\": 11, \"accuracy\": 0.0, \"binary\": {\"total\": 11, \"correct\": 0, \"accuracy\"(...TRUNCATED) | |
7b145a01-7f33-42ea-9d45-2b412fc00313 | 2 | 1 | binary | v2 | openai-gpt-oss-20b | high | "Verifique se a parte Autora alega ter sofrido golpe e se há pedido de indenização. Em caso posit(...TRUNCATED) | Não | "# Pje Tribunal de Justiça de Pernambuco Poder Judiciário de Pernambuco \n\nO documento a seguir f(...TRUNCATED) | "We need to answer 11 questions. The instructions: \"Não inclua o texto das perguntas nas respostas(...TRUNCATED) | 247.864217 | true | true | null | null | null | null | null | null | null | "{\"num_questions\": 11, \"accuracy\": 0.0, \"binary\": {\"total\": 11, \"correct\": 0, \"accuracy\"(...TRUNCATED) |
End of preview. Expand in Data Studio
README.md exists but content is empty.
- Downloads last month
- 20