ComponentBench / results /gemini_flash_lite_som_summary.json
TianchenGuan's picture
add per-model summary + results JSONL (no trajectory archives)
7e509e5 verified
{
"run_id": "componentbench_20260310_002417",
"start_time": "2026-03-10T00:24:17.814449",
"end_time": "2026-03-10T18:10:34.494417",
"model_name": "gemini-3.1-flash-lite-preview",
"git_commit": "af8fbd4bf",
"shard_id": 0,
"num_shards": 1,
"total_tasks": 2910,
"total_passed": 2060,
"total_failed": 850,
"overall_pass_rate": 0.7079037800687286,
"mode_summaries": {
"som": {
"mode": "som",
"total_tasks": 2910,
"passed": 2060,
"failed": 850,
"pass_rate": 0.7079037800687286,
"avg_steps": 4.005841924398625,
"avg_duration_seconds": 21.974210297594503,
"by_canonical_type": {
"accordion": {
"total": 30,
"passed": 30,
"pass_rate": 1.0
},
"alert_dialog_confirm": {
"total": 30,
"passed": 27,
"pass_rate": 0.9
},
"alpha_slider": {
"total": 30,
"passed": 7,
"pass_rate": 0.23333333333333334
},
"autocomplete_freeform": {
"total": 30,
"passed": 29,
"pass_rate": 0.9666666666666667
},
"autocomplete_restricted": {
"total": 30,
"passed": 27,
"pass_rate": 0.9
},
"breadcrumb": {
"total": 30,
"passed": 28,
"pass_rate": 0.9333333333333333
},
"button": {
"total": 30,
"passed": 25,
"pass_rate": 0.8333333333333334
},
"calendar_embedded": {
"total": 30,
"passed": 13,
"pass_rate": 0.43333333333333335
},
"carousel": {
"total": 30,
"passed": 15,
"pass_rate": 0.5
},
"cascader": {
"total": 30,
"passed": 27,
"pass_rate": 0.9
},
"checkbox": {
"total": 30,
"passed": 30,
"pass_rate": 1.0
},
"checkbox_group": {
"total": 30,
"passed": 26,
"pass_rate": 0.8666666666666667
},
"checkbox_tristate": {
"total": 30,
"passed": 22,
"pass_rate": 0.7333333333333333
},
"clipboard_copy": {
"total": 30,
"passed": 29,
"pass_rate": 0.9666666666666667
},
"code_editor": {
"total": 30,
"passed": 12,
"pass_rate": 0.4
},
"collapsible_disclosure": {
"total": 30,
"passed": 27,
"pass_rate": 0.9
},
"color_picker_2d": {
"total": 30,
"passed": 18,
"pass_rate": 0.6
},
"color_swatch_picker": {
"total": 30,
"passed": 18,
"pass_rate": 0.6
},
"color_text_input": {
"total": 30,
"passed": 22,
"pass_rate": 0.7333333333333333
},
"combobox_editable_multi": {
"total": 30,
"passed": 21,
"pass_rate": 0.7
},
"combobox_editable_single": {
"total": 30,
"passed": 26,
"pass_rate": 0.8666666666666667
},
"context_menu": {
"total": 30,
"passed": 14,
"pass_rate": 0.4666666666666667
},
"data_grid_editable": {
"total": 30,
"passed": 12,
"pass_rate": 0.4
},
"data_grid_row_selection": {
"total": 30,
"passed": 22,
"pass_rate": 0.7333333333333333
},
"data_table_filterable": {
"total": 30,
"passed": 12,
"pass_rate": 0.4
},
"data_table_paginated": {
"total": 30,
"passed": 17,
"pass_rate": 0.5666666666666667
},
"data_table_sortable": {
"total": 30,
"passed": 20,
"pass_rate": 0.6666666666666666
},
"date_input_text": {
"total": 30,
"passed": 17,
"pass_rate": 0.5666666666666667
},
"date_picker_range": {
"total": 30,
"passed": 12,
"pass_rate": 0.4
},
"date_picker_single": {
"total": 30,
"passed": 20,
"pass_rate": 0.6666666666666666
},
"datetime_picker_range": {
"total": 30,
"passed": 11,
"pass_rate": 0.36666666666666664
},
"datetime_picker_single": {
"total": 30,
"passed": 18,
"pass_rate": 0.6
},
"dialog_modal": {
"total": 30,
"passed": 24,
"pass_rate": 0.8
},
"download_trigger": {
"total": 30,
"passed": 29,
"pass_rate": 0.9666666666666667
},
"drag_drop_between_lists": {
"total": 30,
"passed": 13,
"pass_rate": 0.43333333333333335
},
"drag_drop_sortable_list": {
"total": 30,
"passed": 12,
"pass_rate": 0.4
},
"drawer": {
"total": 30,
"passed": 28,
"pass_rate": 0.9333333333333333
},
"feed_infinite_scroll": {
"total": 30,
"passed": 11,
"pass_rate": 0.36666666666666664
},
"file_dropzone": {
"total": 30,
"passed": 26,
"pass_rate": 0.8666666666666667
},
"file_list_manager": {
"total": 30,
"passed": 24,
"pass_rate": 0.8
},
"file_upload_button": {
"total": 30,
"passed": 29,
"pass_rate": 0.9666666666666667
},
"hover_card": {
"total": 30,
"passed": 24,
"pass_rate": 0.8
},
"icon_button": {
"total": 30,
"passed": 27,
"pass_rate": 0.9
},
"inline_editable_text": {
"total": 30,
"passed": 24,
"pass_rate": 0.8
},
"json_editor": {
"total": 30,
"passed": 26,
"pass_rate": 0.8666666666666667
},
"kanban_board_drag_drop": {
"total": 30,
"passed": 5,
"pass_rate": 0.16666666666666666
},
"link": {
"total": 30,
"passed": 27,
"pass_rate": 0.9
},
"listbox_multi": {
"total": 30,
"passed": 28,
"pass_rate": 0.9333333333333333
},
"listbox_single": {
"total": 30,
"passed": 28,
"pass_rate": 0.9333333333333333
},
"markdown_editor": {
"total": 30,
"passed": 18,
"pass_rate": 0.6
},
"masked_input": {
"total": 30,
"passed": 28,
"pass_rate": 0.9333333333333333
},
"mentions_input": {
"total": 30,
"passed": 17,
"pass_rate": 0.5666666666666667
},
"menu": {
"total": 30,
"passed": 27,
"pass_rate": 0.9
},
"menu_button": {
"total": 30,
"passed": 24,
"pass_rate": 0.8
},
"menubar": {
"total": 30,
"passed": 28,
"pass_rate": 0.9333333333333333
},
"meter": {
"total": 30,
"passed": 9,
"pass_rate": 0.3
},
"notification_center": {
"total": 30,
"passed": 28,
"pass_rate": 0.9333333333333333
},
"number_input_spinbutton": {
"total": 30,
"passed": 23,
"pass_rate": 0.7666666666666667
},
"pagination": {
"total": 30,
"passed": 29,
"pass_rate": 0.9666666666666667
},
"password_input": {
"total": 30,
"passed": 30,
"pass_rate": 1.0
},
"pin_input_otp": {
"total": 30,
"passed": 28,
"pass_rate": 0.9333333333333333
},
"popover": {
"total": 30,
"passed": 26,
"pass_rate": 0.8666666666666667
},
"progress_bar": {
"total": 30,
"passed": 23,
"pass_rate": 0.7666666666666667
},
"radio_group": {
"total": 30,
"passed": 29,
"pass_rate": 0.9666666666666667
},
"rating": {
"total": 30,
"passed": 20,
"pass_rate": 0.6666666666666666
},
"resizable_columns": {
"total": 30,
"passed": 6,
"pass_rate": 0.2
},
"rich_text_editor": {
"total": 30,
"passed": 3,
"pass_rate": 0.1
},
"search_input": {
"total": 30,
"passed": 29,
"pass_rate": 0.9666666666666667
},
"segmented_control": {
"total": 30,
"passed": 28,
"pass_rate": 0.9333333333333333
},
"select_custom_multi": {
"total": 30,
"passed": 16,
"pass_rate": 0.5333333333333333
},
"select_custom_single": {
"total": 30,
"passed": 24,
"pass_rate": 0.8
},
"select_native": {
"total": 30,
"passed": 24,
"pass_rate": 0.8
},
"select_with_search": {
"total": 30,
"passed": 25,
"pass_rate": 0.8333333333333334
},
"slider_range": {
"total": 30,
"passed": 8,
"pass_rate": 0.26666666666666666
},
"slider_single": {
"total": 30,
"passed": 16,
"pass_rate": 0.5333333333333333
},
"split_button": {
"total": 30,
"passed": 23,
"pass_rate": 0.7666666666666667
},
"stepper": {
"total": 30,
"passed": 27,
"pass_rate": 0.9
},
"switch": {
"total": 30,
"passed": 20,
"pass_rate": 0.6666666666666666
},
"table_static": {
"total": 30,
"passed": 23,
"pass_rate": 0.7666666666666667
},
"tabs": {
"total": 30,
"passed": 28,
"pass_rate": 0.9333333333333333
},
"tags_input": {
"total": 30,
"passed": 14,
"pass_rate": 0.4666666666666667
},
"text_input": {
"total": 30,
"passed": 29,
"pass_rate": 0.9666666666666667
},
"textarea": {
"total": 30,
"passed": 22,
"pass_rate": 0.7333333333333333
},
"time_input_text": {
"total": 30,
"passed": 16,
"pass_rate": 0.5333333333333333
},
"time_picker": {
"total": 30,
"passed": 19,
"pass_rate": 0.6333333333333333
},
"toast_snackbar": {
"total": 30,
"passed": 20,
"pass_rate": 0.6666666666666666
},
"toggle_button": {
"total": 30,
"passed": 29,
"pass_rate": 0.9666666666666667
},
"toggle_button_group_multi": {
"total": 30,
"passed": 21,
"pass_rate": 0.7
},
"toolbar": {
"total": 30,
"passed": 26,
"pass_rate": 0.8666666666666667
},
"tooltip": {
"total": 30,
"passed": 27,
"pass_rate": 0.9
},
"tour_teaching_tip": {
"total": 30,
"passed": 23,
"pass_rate": 0.7666666666666667
},
"transfer_list": {
"total": 30,
"passed": 6,
"pass_rate": 0.2
},
"tree_grid": {
"total": 30,
"passed": 18,
"pass_rate": 0.6
},
"tree_select": {
"total": 30,
"passed": 25,
"pass_rate": 0.8333333333333334
},
"tree_view": {
"total": 30,
"passed": 23,
"pass_rate": 0.7666666666666667
},
"virtual_list": {
"total": 30,
"passed": 10,
"pass_rate": 0.3333333333333333
},
"window_splitter": {
"total": 30,
"passed": 6,
"pass_rate": 0.2
}
},
"by_library": {
"antd": {
"total": 1000,
"passed": 722,
"pass_rate": 0.722
},
"mantine": {
"total": 970,
"passed": 645,
"pass_rate": 0.6649484536082474
},
"mui": {
"total": 910,
"passed": 675,
"pass_rate": 0.7417582417582418
},
"external": {
"total": 30,
"passed": 18,
"pass_rate": 0.6
}
},
"by_difficulty_bucket": {
"easy": {
"total": 972,
"passed": 803,
"pass_rate": 0.8261316872427984
},
"medium": {
"total": 985,
"passed": 695,
"pass_rate": 0.7055837563451777
},
"hard": {
"total": 953,
"passed": 562,
"pass_rate": 0.5897166841552991
}
},
"by_difficulty_tier": {
"L0": {
"total": 789,
"passed": 660,
"pass_rate": 0.8365019011406845
},
"L1": {
"total": 1050,
"passed": 760,
"pass_rate": 0.7238095238095238
},
"L2": {
"total": 818,
"passed": 502,
"pass_rate": 0.6136919315403423
},
"L3": {
"total": 253,
"passed": 138,
"pass_rate": 0.5454545454545454
}
},
"by_family": {}
}
}
}