GPT-o1模型实测:“物化生”水平超人类博士? 推理能力碾压GPT-4o

1个月前 22观看

TechWeb 文/卞海川Q4W莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany

毫无预热的情况下,Open AI于9月13日凌晨发布了o1系列的大模型,这是传闻中内部代号为“草莓”的项目,也是OpenAI首款具备复杂推理能力的大模型。Q4W莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany

与其前代模型相比,新模型o1擅长通用复杂推理,在物理、信息学等领域表现优异,OpenAI CEO奥特曼称它是一种新范式的开始:可以进行通用复杂推理的人工智能。Q4W莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany

OpenAI把新的模型发布称为「预览版」,强调o1系列仍处于早期阶段。Q4W莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany

作为早期模型,它尚不具备ChatGPT的许多有用功能,例如联网搜索以及上传文件和图像。Q4W莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany

虽然处于开发初期,但o1系列在竞赛数学、编码、科学等类目都有非常不错的表现,其中竞赛数学类甚至大幅领先GPT-4o。Q4W莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany

你可以简单理解为,o1系列模型是一个极度“偏科”的理工型人才。Q4W莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany

根据官方的解释,o1系列模型采取“思维链”的模式进行训练,以此提升大模型的逻辑推理能力。Q4W莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany

所以在回答问题之前,它会花更长时间思考,也就是说,o1系列并不追求信息输出反馈的速度,而是更在乎推理结果的准确性。Q4W莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany

为了更好的了解o1系列的能力,我们对它进行了一些简单的测试。Q4W莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany

我们首先用一些之前大模型都爱翻车的简单题目来测试一下o1系列的推理能力。Q4W莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany

“单词strawberry里面到底有几个r”Q4W莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany

不出意外,GPT-4o依旧翻车,给出的答案是错误的。Q4W莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany

让我们惊喜的是,GPT-o1的回答就非常准确,Q4W莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany

“9.11和9.8谁更大?”Q4W莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany

GPT-4o在1秒内回答,但是给出了错误答案。Q4W莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany

难倒了一众大模型的小数位比大小问题,o1系列没有翻车,在等待了10多秒以后,o1给出的答案是正确的。Q4W莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany

我们再来一些正常的推理题,选择经典的小学奥数水平“空瓶换汽水”问题。Q4W莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany

原题如下:“1元钱一瓶汽水,喝完后两个空瓶换一瓶汽水,问:你有20元钱,最多可以喝到几瓶汽水?”Q4W莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany

很遗憾,在第一次回答的结果上,4o和o1系列都给出了错误的39瓶答案。Q4W莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany

但区别在于,如果我告诉它正确的答案,o1系列会纠正自己的错误,给出新的解题思路,但GPT-4o依旧觉得自己的回答是正确的。Q4W莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany

接下来我们把难度升级,测试一下竞赛类题目o1系列模型的能力。Q4W莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany

据 OpenAI 介绍,在测试中,o1系列模型在物理、化学和生物等具有挑战性的基准任务上的表现达到了博士生的水平。Q4W莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany

这一模型在数学和编码方面表现出色。在国际数学奥林匹克(IMO)的资格考试中,GPT-4o 只正确解决了 13% 的问题,而 o1 模型的得分率则高达 83%。Q4W莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany

o1系列模型的编码能力也在竞赛中得到了评估,在 Codeforces 竞赛中达到了第 89 个百分点。Q4W莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany

Open AI CEO奥特曼在刚刚结束的2024 IOI信息学奥赛题目中,o1的微调版本在每题尝试50次条件下取得了213分,属于人类选手中前49%的成绩。也就是说,它已经超过了大多数人类数学天才!Q4W莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany

如果允许它每道题尝试10000次,就能获得362.14分,高于金牌选手门槛,可获得金牌。Q4W莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany

我们选取了AIME 2023的真题,该数学竞赛的题目难度比IMO稍低,但仍处于数学竞赛题目难度前列。Q4W莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany

经过测试,o1和4o给出了两个完全不一样的答案,虽然解题思路步骤我们没看懂,但从官方给出的答案来看,o1的结果是正确的。Q4W莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany

最后,我们来测试一下o1系列代码能力,以经典的俄罗斯方块小游戏作为考题。Q4W莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany

我们给o1模型提了要求,然后将所有代码复制运行,一字未改,成功实现俄罗斯方块小游戏。Q4W莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany

写在最后Q4W莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany

经过我们的简单测试,o1系列模型的最大亮点是显著增加了逻辑推理能力,以前GPT-4o回答不上来的问题,o1系列可以给出正确的解题思路,它已经不仅仅是简单的生成答案,而是能够提前规划、思考,更接近人类的思维过程。尤其是在数学领域表现突出。Q4W莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany

不过,它在特定领域的精确度与应对复杂对话的表现上仍有待进一步优化,在数据分析、编程和数学等重推理的类别中,人们更倾向于选择o1-preview。但在一些自然语言任务中,GPT-4o更胜一筹。Q4W莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany

Q4W莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany

Q4W莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany

本文链接:http://www.mocany.com/showinfo-1-54943-0.htmlGPT-o1模型实测:“物化生”水平超人类博士? 推理能力碾压GPT-4o

声明:本网页内容旨在传播知识,若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。邮件:2376512515@qq.com。天上从来不会掉馅饼,请大家时刻谨防诈骗