ComponentBench / results /gemini_flash_lite_ax_tree_summary.json
TianchenGuan's picture
add per-model summary + results JSONL (no trajectory archives)
7e509e5 verified
{
"run_id": "componentbench_20260310_002417",
"start_time": "2026-03-10T00:24:17.606387",
"end_time": "2026-03-10T17:12:50.353839",
"model_name": "gemini-3.1-flash-lite-preview",
"git_commit": "af8fbd4bf",
"shard_id": 0,
"num_shards": 1,
"total_tasks": 2910,
"total_passed": 2202,
"total_failed": 708,
"overall_pass_rate": 0.756701030927835,
"mode_summaries": {
"ax_tree": {
"mode": "ax_tree",
"total_tasks": 2910,
"passed": 2202,
"failed": 708,
"pass_rate": 0.756701030927835,
"avg_steps": 3.7577319587628866,
"avg_duration_seconds": 20.784986598281787,
"by_canonical_type": {
"accordion": {
"total": 30,
"passed": 30,
"pass_rate": 1.0
},
"alert_dialog_confirm": {
"total": 30,
"passed": 29,
"pass_rate": 0.9666666666666667
},
"alpha_slider": {
"total": 30,
"passed": 12,
"pass_rate": 0.4
},
"autocomplete_freeform": {
"total": 30,
"passed": 26,
"pass_rate": 0.8666666666666667
},
"autocomplete_restricted": {
"total": 30,
"passed": 20,
"pass_rate": 0.6666666666666666
},
"breadcrumb": {
"total": 30,
"passed": 30,
"pass_rate": 1.0
},
"button": {
"total": 30,
"passed": 28,
"pass_rate": 0.9333333333333333
},
"calendar_embedded": {
"total": 30,
"passed": 23,
"pass_rate": 0.7666666666666667
},
"carousel": {
"total": 30,
"passed": 21,
"pass_rate": 0.7
},
"cascader": {
"total": 30,
"passed": 27,
"pass_rate": 0.9
},
"checkbox": {
"total": 30,
"passed": 30,
"pass_rate": 1.0
},
"checkbox_group": {
"total": 30,
"passed": 27,
"pass_rate": 0.9
},
"checkbox_tristate": {
"total": 30,
"passed": 28,
"pass_rate": 0.9333333333333333
},
"clipboard_copy": {
"total": 30,
"passed": 29,
"pass_rate": 0.9666666666666667
},
"code_editor": {
"total": 30,
"passed": 16,
"pass_rate": 0.5333333333333333
},
"collapsible_disclosure": {
"total": 30,
"passed": 28,
"pass_rate": 0.9333333333333333
},
"color_picker_2d": {
"total": 30,
"passed": 12,
"pass_rate": 0.4
},
"color_swatch_picker": {
"total": 30,
"passed": 13,
"pass_rate": 0.43333333333333335
},
"color_text_input": {
"total": 30,
"passed": 21,
"pass_rate": 0.7
},
"combobox_editable_multi": {
"total": 30,
"passed": 15,
"pass_rate": 0.5
},
"combobox_editable_single": {
"total": 30,
"passed": 23,
"pass_rate": 0.7666666666666667
},
"context_menu": {
"total": 30,
"passed": 24,
"pass_rate": 0.8
},
"data_grid_editable": {
"total": 30,
"passed": 10,
"pass_rate": 0.3333333333333333
},
"data_grid_row_selection": {
"total": 30,
"passed": 26,
"pass_rate": 0.8666666666666667
},
"data_table_filterable": {
"total": 30,
"passed": 18,
"pass_rate": 0.6
},
"data_table_paginated": {
"total": 30,
"passed": 24,
"pass_rate": 0.8
},
"data_table_sortable": {
"total": 30,
"passed": 18,
"pass_rate": 0.6
},
"date_input_text": {
"total": 30,
"passed": 20,
"pass_rate": 0.6666666666666666
},
"date_picker_range": {
"total": 30,
"passed": 21,
"pass_rate": 0.7
},
"date_picker_single": {
"total": 30,
"passed": 27,
"pass_rate": 0.9
},
"datetime_picker_range": {
"total": 30,
"passed": 13,
"pass_rate": 0.43333333333333335
},
"datetime_picker_single": {
"total": 30,
"passed": 22,
"pass_rate": 0.7333333333333333
},
"dialog_modal": {
"total": 30,
"passed": 26,
"pass_rate": 0.8666666666666667
},
"download_trigger": {
"total": 30,
"passed": 29,
"pass_rate": 0.9666666666666667
},
"drag_drop_between_lists": {
"total": 30,
"passed": 25,
"pass_rate": 0.8333333333333334
},
"drag_drop_sortable_list": {
"total": 30,
"passed": 27,
"pass_rate": 0.9
},
"drawer": {
"total": 30,
"passed": 30,
"pass_rate": 1.0
},
"feed_infinite_scroll": {
"total": 30,
"passed": 16,
"pass_rate": 0.5333333333333333
},
"file_dropzone": {
"total": 30,
"passed": 24,
"pass_rate": 0.8
},
"file_list_manager": {
"total": 30,
"passed": 26,
"pass_rate": 0.8666666666666667
},
"file_upload_button": {
"total": 30,
"passed": 23,
"pass_rate": 0.7666666666666667
},
"hover_card": {
"total": 30,
"passed": 17,
"pass_rate": 0.5666666666666667
},
"icon_button": {
"total": 30,
"passed": 30,
"pass_rate": 1.0
},
"inline_editable_text": {
"total": 30,
"passed": 29,
"pass_rate": 0.9666666666666667
},
"json_editor": {
"total": 30,
"passed": 26,
"pass_rate": 0.8666666666666667
},
"kanban_board_drag_drop": {
"total": 30,
"passed": 27,
"pass_rate": 0.9
},
"link": {
"total": 30,
"passed": 30,
"pass_rate": 1.0
},
"listbox_multi": {
"total": 30,
"passed": 28,
"pass_rate": 0.9333333333333333
},
"listbox_single": {
"total": 30,
"passed": 30,
"pass_rate": 1.0
},
"markdown_editor": {
"total": 30,
"passed": 21,
"pass_rate": 0.7
},
"masked_input": {
"total": 30,
"passed": 29,
"pass_rate": 0.9666666666666667
},
"mentions_input": {
"total": 30,
"passed": 22,
"pass_rate": 0.7333333333333333
},
"menu": {
"total": 30,
"passed": 30,
"pass_rate": 1.0
},
"menu_button": {
"total": 30,
"passed": 25,
"pass_rate": 0.8333333333333334
},
"menubar": {
"total": 30,
"passed": 30,
"pass_rate": 1.0
},
"meter": {
"total": 30,
"passed": 8,
"pass_rate": 0.26666666666666666
},
"notification_center": {
"total": 30,
"passed": 28,
"pass_rate": 0.9333333333333333
},
"number_input_spinbutton": {
"total": 30,
"passed": 24,
"pass_rate": 0.8
},
"pagination": {
"total": 30,
"passed": 29,
"pass_rate": 0.9666666666666667
},
"password_input": {
"total": 30,
"passed": 28,
"pass_rate": 0.9333333333333333
},
"pin_input_otp": {
"total": 30,
"passed": 28,
"pass_rate": 0.9333333333333333
},
"popover": {
"total": 30,
"passed": 29,
"pass_rate": 0.9666666666666667
},
"progress_bar": {
"total": 30,
"passed": 25,
"pass_rate": 0.8333333333333334
},
"radio_group": {
"total": 30,
"passed": 29,
"pass_rate": 0.9666666666666667
},
"rating": {
"total": 30,
"passed": 13,
"pass_rate": 0.43333333333333335
},
"resizable_columns": {
"total": 30,
"passed": 3,
"pass_rate": 0.1
},
"rich_text_editor": {
"total": 30,
"passed": 14,
"pass_rate": 0.4666666666666667
},
"search_input": {
"total": 30,
"passed": 26,
"pass_rate": 0.8666666666666667
},
"segmented_control": {
"total": 30,
"passed": 15,
"pass_rate": 0.5
},
"select_custom_multi": {
"total": 30,
"passed": 14,
"pass_rate": 0.4666666666666667
},
"select_custom_single": {
"total": 30,
"passed": 21,
"pass_rate": 0.7
},
"select_native": {
"total": 30,
"passed": 3,
"pass_rate": 0.1
},
"select_with_search": {
"total": 30,
"passed": 18,
"pass_rate": 0.6
},
"slider_range": {
"total": 30,
"passed": 13,
"pass_rate": 0.43333333333333335
},
"slider_single": {
"total": 30,
"passed": 26,
"pass_rate": 0.8666666666666667
},
"split_button": {
"total": 30,
"passed": 27,
"pass_rate": 0.9
},
"stepper": {
"total": 30,
"passed": 29,
"pass_rate": 0.9666666666666667
},
"switch": {
"total": 30,
"passed": 20,
"pass_rate": 0.6666666666666666
},
"table_static": {
"total": 30,
"passed": 29,
"pass_rate": 0.9666666666666667
},
"tabs": {
"total": 30,
"passed": 29,
"pass_rate": 0.9666666666666667
},
"tags_input": {
"total": 30,
"passed": 14,
"pass_rate": 0.4666666666666667
},
"text_input": {
"total": 30,
"passed": 28,
"pass_rate": 0.9333333333333333
},
"textarea": {
"total": 30,
"passed": 27,
"pass_rate": 0.9
},
"time_input_text": {
"total": 30,
"passed": 19,
"pass_rate": 0.6333333333333333
},
"time_picker": {
"total": 30,
"passed": 21,
"pass_rate": 0.7
},
"toast_snackbar": {
"total": 30,
"passed": 21,
"pass_rate": 0.7
},
"toggle_button": {
"total": 30,
"passed": 30,
"pass_rate": 1.0
},
"toggle_button_group_multi": {
"total": 30,
"passed": 21,
"pass_rate": 0.7
},
"toolbar": {
"total": 30,
"passed": 25,
"pass_rate": 0.8333333333333334
},
"tooltip": {
"total": 30,
"passed": 28,
"pass_rate": 0.9333333333333333
},
"tour_teaching_tip": {
"total": 30,
"passed": 24,
"pass_rate": 0.8
},
"transfer_list": {
"total": 30,
"passed": 11,
"pass_rate": 0.36666666666666664
},
"tree_grid": {
"total": 30,
"passed": 24,
"pass_rate": 0.8
},
"tree_select": {
"total": 30,
"passed": 27,
"pass_rate": 0.9
},
"tree_view": {
"total": 30,
"passed": 20,
"pass_rate": 0.6666666666666666
},
"virtual_list": {
"total": 30,
"passed": 10,
"pass_rate": 0.3333333333333333
},
"window_splitter": {
"total": 30,
"passed": 13,
"pass_rate": 0.43333333333333335
}
},
"by_library": {
"antd": {
"total": 1000,
"passed": 709,
"pass_rate": 0.709
},
"mantine": {
"total": 970,
"passed": 731,
"pass_rate": 0.7536082474226804
},
"mui": {
"total": 910,
"passed": 741,
"pass_rate": 0.8142857142857143
},
"external": {
"total": 30,
"passed": 21,
"pass_rate": 0.7
}
},
"by_difficulty_bucket": {
"easy": {
"total": 972,
"passed": 786,
"pass_rate": 0.808641975308642
},
"medium": {
"total": 985,
"passed": 758,
"pass_rate": 0.7695431472081218
},
"hard": {
"total": 953,
"passed": 658,
"pass_rate": 0.6904512067156349
}
},
"by_difficulty_tier": {
"L0": {
"total": 789,
"passed": 645,
"pass_rate": 0.8174904942965779
},
"L1": {
"total": 1050,
"passed": 809,
"pass_rate": 0.7704761904761904
},
"L2": {
"total": 818,
"passed": 585,
"pass_rate": 0.715158924205379
},
"L3": {
"total": 253,
"passed": 163,
"pass_rate": 0.6442687747035574
}
},
"by_family": {}
}
}
}