Eval Report: ci-pr-smoke

Profile: gdm-swebench-lite-v1 | Tasks: 2 | Pass rate: 100.0% | Cost: $0.0020

Task IDBandScorePassedCost
python-security-fix-easy-001easy0.740$0.0010
typescript-security-fix-easy-001easy0.740$0.0010

Leaderboard Snapshot

Latest run: ae06dde7-00fd-4811-ad39-18d99bd282ef | Latest model: coder | Latest score: 0.740 | Recorded at: 2026-05-23T19:10:08.203331+00:00

Recent Trend

Run IDModelGit SHAScoreCreated
ae06dde7-00fd-4811-ad39-18d99bd282efcoder4669773b4fbe9d507f1396f38777a1b36998faf30.7402026-05-23T19:10:08.203331+00:00
ea72a8c0-c9a9-41d9-8acb-5a456edcf98dcoder4669773b4fbe9d507f1396f38777a1b36998faf30.7402026-05-23T19:10:08.106005+00:00
b935f876-55b1-48ea-92a0-a66cbbe698dccoder4669773b4fbe9d507f1396f38777a1b36998faf30.7402026-05-23T19:10:07.368159+00:00
1e12fcc8-eccc-44e7-93c4-7e1e05d699e6coder4669773b4fbe9d507f1396f38777a1b36998faf30.7402026-05-23T19:10:07.266983+00:00
e902f631-59dd-421c-931e-42f4a67c0f08coder4669773b4fbe9d507f1396f38777a1b36998faf30.7402026-05-23T19:10:07.193410+00:00

Failure Breakdown

TaxonomyFailuresBar
wrong-logic2884
####################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################

Recent Failures

Run IDTask IDTaxonomyScoreCostCreated
ae06dde7-00fd-4811-ad39-18d99bd282eftypescript-security-fix-easy-001wrong-logic0.740$0.00102026-05-23T19:10:08.203331+00:00
ea72a8c0-c9a9-41d9-8acb-5a456edcf98dpython-security-fix-easy-001wrong-logic0.740$0.00102026-05-23T19:10:08.106005+00:00
b935f876-55b1-48ea-92a0-a66cbbe698dcpython-recovery-easy-001wrong-logic0.740$0.00102026-05-23T19:10:07.368159+00:00
1e12fcc8-eccc-44e7-93c4-7e1e05d699e6typescript-config-easy-001wrong-logic0.740$0.00102026-05-23T19:10:07.266983+00:00
e902f631-59dd-421c-931e-42f4a67c0f08python-config-easy-001wrong-logic0.740$0.00102026-05-23T19:10:07.193410+00:00
833f5ba3-e395-4b52-bb1a-3b54a06baac5typescript-refactor-easy-001wrong-logic0.740$0.00102026-05-23T19:10:07.108971+00:00
6d13b47f-c4c8-4af7-b430-a79e4ebdba6bpython-refactor-easy-001wrong-logic0.740$0.00102026-05-23T19:10:07.033330+00:00
2ddb7d5f-3c81-4b12-a6d2-1e93dd6ebc14typescript-multi-file-easy-001wrong-logic0.740$0.00102026-05-23T19:10:06.951552+00:00
da171cad-a98e-478f-b58f-e065510607a6python-multi-file-easy-001wrong-logic0.740$0.00102026-05-23T19:10:06.871687+00:00
8680c6ac-6cd4-4713-aad3-705d9ed7fd26typescript-test-writing-easy-001wrong-logic0.740$0.00102026-05-23T19:10:06.792228+00:00

Cost Frontier

pass_rate vs cost_usd (Pareto frontier marked with *)
* [####################] 100.0% @ $0.0037  (coder)