| { |
| "run_id": "gemini_lite_20260308", |
| "start_time": "2026-03-08T23:56:31.251365", |
| "end_time": "2026-03-09T06:08:52.477665", |
| "model_name": "gemini-3.1-flash-lite-preview", |
| "git_commit": "21b88963d", |
| "shard_id": 0, |
| "num_shards": 1, |
| "total_tasks": 2910, |
| "total_passed": 2577, |
| "total_failed": 333, |
| "overall_pass_rate": 0.8855670103092783, |
| "mode_summaries": { |
| "pixel": { |
| "mode": "pixel", |
| "total_tasks": 2910, |
| "passed": 2577, |
| "failed": 333, |
| "pass_rate": 0.8855670103092783, |
| "avg_steps": 6.750171821305842, |
| "avg_duration_seconds": 29.852349814024986, |
| "by_canonical_type": { |
| "accordion": { |
| "total": 30, |
| "passed": 30, |
| "pass_rate": 1.0 |
| }, |
| "alert_dialog_confirm": { |
| "total": 30, |
| "passed": 30, |
| "pass_rate": 1.0 |
| }, |
| "alpha_slider": { |
| "total": 30, |
| "passed": 22, |
| "pass_rate": 0.7333333333333333 |
| }, |
| "autocomplete_freeform": { |
| "total": 30, |
| "passed": 30, |
| "pass_rate": 1.0 |
| }, |
| "autocomplete_restricted": { |
| "total": 30, |
| "passed": 29, |
| "pass_rate": 0.9666666666666667 |
| }, |
| "breadcrumb": { |
| "total": 30, |
| "passed": 30, |
| "pass_rate": 1.0 |
| }, |
| "button": { |
| "total": 30, |
| "passed": 30, |
| "pass_rate": 1.0 |
| }, |
| "calendar_embedded": { |
| "total": 30, |
| "passed": 28, |
| "pass_rate": 0.9333333333333333 |
| }, |
| "carousel": { |
| "total": 30, |
| "passed": 24, |
| "pass_rate": 0.8 |
| }, |
| "cascader": { |
| "total": 30, |
| "passed": 28, |
| "pass_rate": 0.9333333333333333 |
| }, |
| "checkbox": { |
| "total": 30, |
| "passed": 30, |
| "pass_rate": 1.0 |
| }, |
| "checkbox_group": { |
| "total": 30, |
| "passed": 30, |
| "pass_rate": 1.0 |
| }, |
| "checkbox_tristate": { |
| "total": 30, |
| "passed": 30, |
| "pass_rate": 1.0 |
| }, |
| "clipboard_copy": { |
| "total": 30, |
| "passed": 30, |
| "pass_rate": 1.0 |
| }, |
| "code_editor": { |
| "total": 30, |
| "passed": 27, |
| "pass_rate": 0.9 |
| }, |
| "collapsible_disclosure": { |
| "total": 30, |
| "passed": 30, |
| "pass_rate": 1.0 |
| }, |
| "color_picker_2d": { |
| "total": 30, |
| "passed": 24, |
| "pass_rate": 0.8 |
| }, |
| "color_swatch_picker": { |
| "total": 30, |
| "passed": 24, |
| "pass_rate": 0.8 |
| }, |
| "color_text_input": { |
| "total": 30, |
| "passed": 29, |
| "pass_rate": 0.9666666666666667 |
| }, |
| "combobox_editable_multi": { |
| "total": 30, |
| "passed": 30, |
| "pass_rate": 1.0 |
| }, |
| "combobox_editable_single": { |
| "total": 30, |
| "passed": 30, |
| "pass_rate": 1.0 |
| }, |
| "context_menu": { |
| "total": 30, |
| "passed": 19, |
| "pass_rate": 0.6333333333333333 |
| }, |
| "data_grid_editable": { |
| "total": 30, |
| "passed": 26, |
| "pass_rate": 0.8666666666666667 |
| }, |
| "data_grid_row_selection": { |
| "total": 30, |
| "passed": 29, |
| "pass_rate": 0.9666666666666667 |
| }, |
| "data_table_filterable": { |
| "total": 30, |
| "passed": 27, |
| "pass_rate": 0.9 |
| }, |
| "data_table_paginated": { |
| "total": 30, |
| "passed": 27, |
| "pass_rate": 0.9 |
| }, |
| "data_table_sortable": { |
| "total": 30, |
| "passed": 29, |
| "pass_rate": 0.9666666666666667 |
| }, |
| "date_input_text": { |
| "total": 30, |
| "passed": 28, |
| "pass_rate": 0.9333333333333333 |
| }, |
| "date_picker_range": { |
| "total": 30, |
| "passed": 28, |
| "pass_rate": 0.9333333333333333 |
| }, |
| "date_picker_single": { |
| "total": 30, |
| "passed": 30, |
| "pass_rate": 1.0 |
| }, |
| "datetime_picker_range": { |
| "total": 30, |
| "passed": 19, |
| "pass_rate": 0.6333333333333333 |
| }, |
| "datetime_picker_single": { |
| "total": 30, |
| "passed": 23, |
| "pass_rate": 0.7666666666666667 |
| }, |
| "dialog_modal": { |
| "total": 30, |
| "passed": 29, |
| "pass_rate": 0.9666666666666667 |
| }, |
| "download_trigger": { |
| "total": 30, |
| "passed": 29, |
| "pass_rate": 0.9666666666666667 |
| }, |
| "drag_drop_between_lists": { |
| "total": 30, |
| "passed": 5, |
| "pass_rate": 0.16666666666666666 |
| }, |
| "drag_drop_sortable_list": { |
| "total": 30, |
| "passed": 13, |
| "pass_rate": 0.43333333333333335 |
| }, |
| "drawer": { |
| "total": 30, |
| "passed": 30, |
| "pass_rate": 1.0 |
| }, |
| "feed_infinite_scroll": { |
| "total": 30, |
| "passed": 19, |
| "pass_rate": 0.6333333333333333 |
| }, |
| "file_dropzone": { |
| "total": 30, |
| "passed": 15, |
| "pass_rate": 0.5 |
| }, |
| "file_list_manager": { |
| "total": 30, |
| "passed": 28, |
| "pass_rate": 0.9333333333333333 |
| }, |
| "file_upload_button": { |
| "total": 30, |
| "passed": 16, |
| "pass_rate": 0.5333333333333333 |
| }, |
| "hover_card": { |
| "total": 30, |
| "passed": 29, |
| "pass_rate": 0.9666666666666667 |
| }, |
| "icon_button": { |
| "total": 30, |
| "passed": 30, |
| "pass_rate": 1.0 |
| }, |
| "inline_editable_text": { |
| "total": 30, |
| "passed": 29, |
| "pass_rate": 0.9666666666666667 |
| }, |
| "json_editor": { |
| "total": 30, |
| "passed": 29, |
| "pass_rate": 0.9666666666666667 |
| }, |
| "kanban_board_drag_drop": { |
| "total": 30, |
| "passed": 11, |
| "pass_rate": 0.36666666666666664 |
| }, |
| "link": { |
| "total": 30, |
| "passed": 30, |
| "pass_rate": 1.0 |
| }, |
| "listbox_multi": { |
| "total": 30, |
| "passed": 29, |
| "pass_rate": 0.9666666666666667 |
| }, |
| "listbox_single": { |
| "total": 30, |
| "passed": 30, |
| "pass_rate": 1.0 |
| }, |
| "markdown_editor": { |
| "total": 30, |
| "passed": 27, |
| "pass_rate": 0.9 |
| }, |
| "masked_input": { |
| "total": 30, |
| "passed": 30, |
| "pass_rate": 1.0 |
| }, |
| "mentions_input": { |
| "total": 30, |
| "passed": 26, |
| "pass_rate": 0.8666666666666667 |
| }, |
| "menu": { |
| "total": 30, |
| "passed": 30, |
| "pass_rate": 1.0 |
| }, |
| "menu_button": { |
| "total": 30, |
| "passed": 29, |
| "pass_rate": 0.9666666666666667 |
| }, |
| "menubar": { |
| "total": 30, |
| "passed": 30, |
| "pass_rate": 1.0 |
| }, |
| "meter": { |
| "total": 30, |
| "passed": 26, |
| "pass_rate": 0.8666666666666667 |
| }, |
| "notification_center": { |
| "total": 30, |
| "passed": 29, |
| "pass_rate": 0.9666666666666667 |
| }, |
| "number_input_spinbutton": { |
| "total": 30, |
| "passed": 29, |
| "pass_rate": 0.9666666666666667 |
| }, |
| "pagination": { |
| "total": 30, |
| "passed": 30, |
| "pass_rate": 1.0 |
| }, |
| "password_input": { |
| "total": 30, |
| "passed": 30, |
| "pass_rate": 1.0 |
| }, |
| "pin_input_otp": { |
| "total": 30, |
| "passed": 28, |
| "pass_rate": 0.9333333333333333 |
| }, |
| "popover": { |
| "total": 30, |
| "passed": 30, |
| "pass_rate": 1.0 |
| }, |
| "progress_bar": { |
| "total": 30, |
| "passed": 28, |
| "pass_rate": 0.9333333333333333 |
| }, |
| "radio_group": { |
| "total": 30, |
| "passed": 30, |
| "pass_rate": 1.0 |
| }, |
| "rating": { |
| "total": 30, |
| "passed": 30, |
| "pass_rate": 1.0 |
| }, |
| "resizable_columns": { |
| "total": 30, |
| "passed": 16, |
| "pass_rate": 0.5333333333333333 |
| }, |
| "rich_text_editor": { |
| "total": 30, |
| "passed": 24, |
| "pass_rate": 0.8 |
| }, |
| "search_input": { |
| "total": 30, |
| "passed": 30, |
| "pass_rate": 1.0 |
| }, |
| "segmented_control": { |
| "total": 30, |
| "passed": 30, |
| "pass_rate": 1.0 |
| }, |
| "select_custom_multi": { |
| "total": 30, |
| "passed": 29, |
| "pass_rate": 0.9666666666666667 |
| }, |
| "select_custom_single": { |
| "total": 30, |
| "passed": 29, |
| "pass_rate": 0.9666666666666667 |
| }, |
| "select_native": { |
| "total": 30, |
| "passed": 30, |
| "pass_rate": 1.0 |
| }, |
| "select_with_search": { |
| "total": 30, |
| "passed": 30, |
| "pass_rate": 1.0 |
| }, |
| "slider_range": { |
| "total": 30, |
| "passed": 16, |
| "pass_rate": 0.5333333333333333 |
| }, |
| "slider_single": { |
| "total": 30, |
| "passed": 23, |
| "pass_rate": 0.7666666666666667 |
| }, |
| "split_button": { |
| "total": 30, |
| "passed": 28, |
| "pass_rate": 0.9333333333333333 |
| }, |
| "stepper": { |
| "total": 30, |
| "passed": 30, |
| "pass_rate": 1.0 |
| }, |
| "switch": { |
| "total": 30, |
| "passed": 28, |
| "pass_rate": 0.9333333333333333 |
| }, |
| "table_static": { |
| "total": 30, |
| "passed": 28, |
| "pass_rate": 0.9333333333333333 |
| }, |
| "tabs": { |
| "total": 30, |
| "passed": 30, |
| "pass_rate": 1.0 |
| }, |
| "tags_input": { |
| "total": 30, |
| "passed": 29, |
| "pass_rate": 0.9666666666666667 |
| }, |
| "text_input": { |
| "total": 30, |
| "passed": 29, |
| "pass_rate": 0.9666666666666667 |
| }, |
| "textarea": { |
| "total": 30, |
| "passed": 25, |
| "pass_rate": 0.8333333333333334 |
| }, |
| "time_input_text": { |
| "total": 30, |
| "passed": 29, |
| "pass_rate": 0.9666666666666667 |
| }, |
| "time_picker": { |
| "total": 30, |
| "passed": 26, |
| "pass_rate": 0.8666666666666667 |
| }, |
| "toast_snackbar": { |
| "total": 30, |
| "passed": 20, |
| "pass_rate": 0.6666666666666666 |
| }, |
| "toggle_button": { |
| "total": 30, |
| "passed": 30, |
| "pass_rate": 1.0 |
| }, |
| "toggle_button_group_multi": { |
| "total": 30, |
| "passed": 30, |
| "pass_rate": 1.0 |
| }, |
| "toolbar": { |
| "total": 30, |
| "passed": 28, |
| "pass_rate": 0.9333333333333333 |
| }, |
| "tooltip": { |
| "total": 30, |
| "passed": 29, |
| "pass_rate": 0.9666666666666667 |
| }, |
| "tour_teaching_tip": { |
| "total": 30, |
| "passed": 30, |
| "pass_rate": 1.0 |
| }, |
| "transfer_list": { |
| "total": 30, |
| "passed": 17, |
| "pass_rate": 0.5666666666666667 |
| }, |
| "tree_grid": { |
| "total": 30, |
| "passed": 28, |
| "pass_rate": 0.9333333333333333 |
| }, |
| "tree_select": { |
| "total": 30, |
| "passed": 28, |
| "pass_rate": 0.9333333333333333 |
| }, |
| "tree_view": { |
| "total": 30, |
| "passed": 22, |
| "pass_rate": 0.7333333333333333 |
| }, |
| "virtual_list": { |
| "total": 30, |
| "passed": 19, |
| "pass_rate": 0.6333333333333333 |
| }, |
| "window_splitter": { |
| "total": 30, |
| "passed": 14, |
| "pass_rate": 0.4666666666666667 |
| } |
| }, |
| "by_library": { |
| "antd": { |
| "total": 1000, |
| "passed": 906, |
| "pass_rate": 0.906 |
| }, |
| "mantine": { |
| "total": 970, |
| "passed": 853, |
| "pass_rate": 0.8793814432989691 |
| }, |
| "mui": { |
| "total": 910, |
| "passed": 791, |
| "pass_rate": 0.8692307692307693 |
| }, |
| "external": { |
| "total": 30, |
| "passed": 27, |
| "pass_rate": 0.9 |
| } |
| }, |
| "by_difficulty_bucket": { |
| "easy": { |
| "total": 972, |
| "passed": 902, |
| "pass_rate": 0.9279835390946503 |
| }, |
| "medium": { |
| "total": 985, |
| "passed": 867, |
| "pass_rate": 0.8802030456852792 |
| }, |
| "hard": { |
| "total": 953, |
| "passed": 808, |
| "pass_rate": 0.8478488982161595 |
| } |
| }, |
| "by_difficulty_tier": { |
| "L0": { |
| "total": 789, |
| "passed": 738, |
| "pass_rate": 0.935361216730038 |
| }, |
| "L1": { |
| "total": 1050, |
| "passed": 921, |
| "pass_rate": 0.8771428571428571 |
| }, |
| "L2": { |
| "total": 818, |
| "passed": 712, |
| "pass_rate": 0.8704156479217604 |
| }, |
| "L3": { |
| "total": 253, |
| "passed": 206, |
| "pass_rate": 0.8142292490118577 |
| } |
| }, |
| "by_family": {} |
| } |
| } |
| } |
