谷歌杀回来了!新版Gemini跑分超o1登顶第一

科技 | 2024-11-15| 2

鲨疯了!谷歌新版Gemini超越o1,强势登顶竞技场总榜第一!

在经6000+网友匿名投票后,不仅数学成绩和学霸o1相当,还拿下其它5个单项第一。

新模型名为Gemini(Exp 1114),成绩一公布,连CEO皮猜也亲自飞奔来站台。

而竞技场官方也在第一时间公布喜讯,并祝贺谷歌:

恭喜达到这一非凡里程碑!

这下尴尬了!说好的谷歌正在遭遇瓶颈呢?没想到人家反手就是一个王炸。

怕了怕了,或许,只有OpenAI立即发布满血版o1才能与之一战了?

目前新模型可在谷歌AI Studio体验,官方后续也计划提供API。

网友们也纷纷猜测,难道这就是传说中的Gemini 2——

拿下7项第一,数学也和o1不分伯仲

一夜之间,竞技场Imsys排名再被刷新:

从总榜来看,谷歌新模型Gemini(Exp 1114)分数直涨40+,挤下了之前一直霸榜的OpenAI模型(包括o1-preview、GPT-4o)。

而且假如正面1v1遇敌,新Gemini貌似都有一半及以上概率取胜。

整体胜率热图显示,Gemini(Exp 1114)对战4o-latest胜率为50%,对战o1-preview胜率为56%,对战Claude-3.5-Sonnet胜率为62%。

同时,Gemini(Exp 1114)在单项上也很能打,一举拿下6个第一,包括:

-复杂提示(Hard Prompts):模型处理复杂或困难提示的能力;

-数学;

-创意写作;

-指令遵循:评估模型遵循给定指令的能力;

-长查询处理(Longer Query):衡量模型处理较长查询的能力;

-多轮对话(Multi-Turn):模型在多轮对话中保持上下文连贯性的能力;

要说最大看点,还是Gemini(Exp 1114)竟能与o1模型在数学能力上不分伯仲。

要知道,据OpenAI官方说法,o1不需要专门训练,就能直接拿下数学奥赛金牌,甚至可以在博士级别的科学问答环节上超越人类专家。

不过比较遗憾的是,对于写代码这项重磅功能,Gemini(Exp 1114)虽说相较于谷歌上一版本有所改进,但仍然未能挤进前三。(o1-mini/preview仍处于领先地位)

另外,在风格控制下,Gemini-Exp-1114也和前三无缘,甚至不及自家的Gemini-1.5-pro。(排在o1、4o-latest和Sonnet之后)

解释一下,风格控制(Style Control)是竞技场今年新推出的功能,确保分数反映模型真正解决问题的能力,而不是用漂亮的格式、增加回答长度。

不过也有意外之喜,Gemini-Exp-1114这一次在视觉能力上拿下第一,超越了GPT-4o。

整体看下来,对于谷歌这次的反超,大家也感到十分意外。

目前,Gemini-Exp-1114已经可以在谷歌AI Studio体验,且官方计划后续提供API。

这不,有很多网友已经上手测试了,但好像争议蛮多——

网友反应不一

先总结一下,通过网友测试,目前可知Gemini-Exp-1114的以下信息:

拥有32k上下文窗口

模型回答知识截止日期为2023年4月,但回答结果会不一样

加上了思维链

其中,32k上下文被大家狠狠吐槽。有人直言相比200万上下文窗口的Gemini 1.5,搁这儿不升反降呢!

兴许是感受到大家的怨怼了,谷歌AI Studio负责人赶紧出来打圆场:马上更!马上更!

安抚好众人情绪后,大家终于乐颠颠晒起了使用反馈。

透过其中一位小哥的观察,Gemini-Exp-1114这次也是用上了思维链,在回答时也能像人类一样一步步思考了。

而且,在数学能力上确实不错?

Gemini-Exp-1114正确回答了2024美国数学奥林匹克预选赛II 1-8题。

甚至相对弱项的编码,也有人第一次尝试就成功了。

然而,翻车总是难免的。

有人问了基准测试中的物理问题,结果Gemini-Exp-1114虽然有思维链加持,却仍然回答错误。

甚至老生常谈的数字比大小和数草莓中的r,竟还是失败。

更搞笑的是,有人问Gemini-Exp-1114你叫什么?

结果回答了claude(doge)。

实际上,大家一直在猜测Gemini-Exp-1114会不会是传说中谷歌计划更新的Gemini 2。

但根据实测,相当一部分网友出来表示否定

毕竟,它好像连旧版1.5 Pro会的问题也无法解决。

更有人声称,这是谷歌推迟发布更大模型(即Gemini 2)的策略,先弄一个残血版让大家玩玩,这样就别急着催更了。

结合CEO皮猜顺势放烟雾弹的做法,好像又有点道理(doge)!

AI Studio体验地址:https://aistudio.google.com/prompts/new_chat

竞技场完整榜单:https://lmarena.ai/?leaderboard

参考链接:

[1]https://x.com/lmarena_ai/status/1857110672565494098

[2]https://x.com/imxiaohu/status/1857183367365894487

[3]https://x.com/OfficialLoganK/status/1857106089063362768

[4]https://x.com/sundarpichai/status/1857114106928718329

以上就是关于【谷歌杀回来了!新版Gemini跑分超o1登顶第一】的相关消息了,希望对大家有所帮助!

Tags: ,

相关推荐相关推荐

624万美元买下一根香蕉 中标者回应了 水果摊老板:只值两块五

624万美元买下一根香蕉 中标者回应了 水果摊老板:只值两块五

财联社11月21日讯(编辑 史正丞)就在比特币搭乘特朗普旋风直冲10万美元之际,币圈人士又给舆论场贡献了新的谈资。

科技 3 2024-11-21
全球首款飞碟状evtol亮相乌镇:无视水面、地面均可载人起降

全球首款飞碟状evtol亮相乌镇:无视水面、地面均可载人起降

11月21日消息,据报道,全球首款飞碟状电动载人飞行器于日前亮相2024年世界互联网大会乌镇峰会。

科技 1 2024-11-21
《星刃》照相模式玩家截图欣赏 空中劈叉动作唯美

《星刃》照相模式玩家截图欣赏 空中劈叉动作唯美

《星刃》新功能照相模式已上线,玩家可自由调整角色姿势、换装,并加入多种视觉效果,捕捉精彩瞬间。

科技 3 2024-11-21
湖南发现超40条金矿脉:储量超1000吨 估值达6000亿

湖南发现超40条金矿脉:储量超1000吨 估值达6000亿

11月21日消息,据新华社权威报道,湖南省地质院11月21日宣布,湖南平江县万古金矿田探矿获重大突破。

科技 2 2024-11-21
开发者福音!微软发布AI Shell工具:让命令行用上AI

开发者福音!微软发布AI Shell工具:让命令行用上AI

11月21日消息,微软日前宣布,以公开预览版的形式发布了AI Shell命令行工具,可为开发者和IT专业人员提供智能化的命令行体验。

科技 2 2024-11-21
REDMI K80/Turbo 4蓄势待发:全部启用全新品牌标识

REDMI K80/Turbo 4蓄势待发:全部启用全新品牌标识

今日,REDMI官方宣布全新品牌标识正式登场,标志着品牌在未来将以更加自信的姿态迎接下一个十年。

科技 2 2024-11-21
iQOO Neo10系列标配最新一代发光器件F1:挑战行业最强护眼体验

iQOO Neo10系列标配最新一代发光器件F1:挑战行业最强护眼体验

11月21日消息,iQOO官微预告,iQOO Neo10系列将于11月29日发布,iQOO将同时推出Neo10和Neo10 Pro两款机型。

科技 2 2024-11-21
百度Q3总营收336亿元:核心净利润涨至75.4亿 超预期

百度Q3总营收336亿元:核心净利润涨至75.4亿 超预期

11月21日消息,百度今天下午发布2024年第三季度财务报告,显示季度总营收336亿元,百度核心营收265亿元,归属百度核心的净利润75.4亿元,同比增长17%,超出市场预期。

科技 1 2024-11-21
SpaceX星舰第六飞官方美图:巅峰科技的暴力美学

SpaceX星舰第六飞官方美图:巅峰科技的暴力美学

近日,SpaceX星舰进行了第六次试飞,虽然没有重现筷子夹火箭的壮观场面,但是助推器、飞船均按照预期软着陆在目的地,隔热措施经受了考验,并实现了猛禽发动机首次真空重新点火,可以说干得漂亮。

科技 2 2024-11-21
624万美元买下一根香蕉 中标者是中国90后富豪:曾放巴菲特鸽子、给贾跃亭平反

624万美元买下一根香蕉 中标者是中国90后富豪:曾放巴菲特鸽子、给贾跃亭平反

11月21日消息,据国外媒体报道称,中国90后孙宇晨花费了4500万元,拍下了一个后现代抽象艺术品《喜剧演员》(墙上贴着的香蕉)。

科技 2 2024-11-21