GeneBench-Pro 是 OpenAI 新推出的一个基准测试套件,旨在衡量人工智能模型在生物学计算领域的实际应用能力。与以往侧重于模型是否能记忆知识或遵循固定步骤完成任务的标准测试不同,GeneBench-Pro 更加关注模型在模拟真实科研场景下的实用性。它要求模型在面对模糊、不完整甚至包含干扰信息的复杂数据环境时,能够进行有效的判断和分析以得出结论。
该基准测试的题目涵盖了基因组学、定量生物学和转化医学等多个学科方向,总计包含 129 道问题。这些题目被划分为 10 个主要领域和 21 个子领域,涉及统计遗传学、群体遗传学、功能基因组学、蛋白质组学等多个研究方向。每道题目都为模型提供了一份接近真实科研环境的数据集,并附带简要的实验背景说明和一个与后续决策相关的目标问题。模型需要自主完成数据探索、选择分析方法,并在此过程中不断调整策略,最终给出答案。
为了规避传统长流程基准测试中常见的评分偏差问题,OpenAI 在设计 GeneBench-Pro 时采用了合成数据作为核心构建方式。这是因为直接使用历史真实数据出题,往往存在多条可行的分析路径,可能导致模型即使采用了错误的方法也可能偶然获得正确答案。通过使用合成数据,OpenAI 可以完全控制底层的因果关系和数据生成过程,从而更精确地评估模型是否真正理解了问题,而不是仅仅依赖于“捷径”。
目前,OpenAI 已在 Hugging Face 上公开了 10 道具有代表性的 GeneBench-Pro 示例题目,并提供了交互式界面供外部研究人员进行体验。未来,官方计划将其中 50 道题目提供给 Artificial Analysis 进行独立的第三方评测,以验证不同模型在这一基准测试中的实际表现。对于关注人工智能在生物学领域应用的专业人士,可以从世界杯官网获取更多相关信息。