发布日期:2025-04-12 13:27 点击次数:185
Gemma系列大模型是Google开源的一系列轻量级的大模型。就在刚才(2025年3月12日),Google开源了第三代Gemma系列大模型,共包含4个不同参数规模版本,第三代的Gemma 3系列是多模态大模型,即使是最小的10亿参数规模的Gemma 3-1B也支持多模态输入。
Gemma 3系列模型介绍及其特点Gemma 3系列模型的评测非常优秀Gemma 3开源情况Gemma 3系列模型介绍及其特点Gemma系列大模型与Google的Gemini系列模型技术同源,但是以免费商用授权的方式开源。最早于2024年2月份开源,当时只有20亿参数规模的Gemma 2B模型和70亿参数规模的Gemma 7B模型,且上下文长度也就8K。2024年5月,Google开源了Gemma2系列,版本的范围也增加到3个,分别是2B、9B和27B规模。
其中,Gemma 3 - 27B版本模型在14万亿数据集上训练,Gemma 3-12B在12万亿数据集上训练,剩下2个版本分别是4万亿数据和2万亿数据训练。
Gemma 3的词汇表达到了262K,可以说表征能力非常强大。
10个月后的今天,Google开源了第三代Gemma 3系列大模型,版本范围增加到了4个,分别是1B、4B、12B和27B,并且从纯粹的大语言模型升级到了多模态大模型,即支持图片和视频的输入。
此次,Gemma 3的升级很大,总结如下:
Gemma 3系列模型最高支持128K的上下文输入(10亿参数版本的Gemma 3-1B仅支持32K)Gemma 3系列支持多达140多种语言Gemma 3系列大模型支持多模态输入,包括文本、图片、视频输入Gemma 3系列支持函数调用/工具调用Gemma 3系列模型的评测非常优秀Gemma 3系列模型包含4个版本,每个版本均开源了预训练基座版本(pt后缀版本,表示pre-training)和指令微调后的版本(it后缀版本,表示instruction fine-tuned),也就是说共开源了8个版本的大模型。
而最大参数规模的Gemma 3-27B IT的fp16精度大小为54.8GB,int8量化后27GB,两张4090可用,INT4量化后需要14GB显存,单张4090完全没问题。
而这个版本的模型评测结果非常好,在大模型匿名竞技场(Chatbot Arena)上得分1338分(截至2025年3月8日),排名全球第9,仅次于o1-2024-12-17模型,超过了Qwen2.5-Max以及DeepSeek V3等。
而在常规的其它评测上表现也很不错,评测结果超越了Qwen2.5-72B,与DeepSeek V3等也非常接近。
按照Google官方的说法,本次Gemma 3系列提升很明显,其中Gemma 3-4B版本模型水平接近Gemma 2-27B,而Gemma 3-27B则接近Gemini 1.5-Pro!
Gemma 3开源情况Gemma 3系列的8个模型以Gemma开源协议开源。允许商用,免费授权。
而生态适配上也早都完成,Huggingface、Ollama、Vertex、llama.cpp都已经支持。
本文作者:DataLearner,来源:DataLearner,原文标题:《重磅!谷歌开源Gemma-3模型:支持多模态、128K输入,27B版本在大模型匿名竞技场超过DeepSeeK V3,免费商用授权》
风险提示及免责条款 市场有风险,投资需谨慎。本文不构成个人投资建议,也未考虑到个别用户特殊的投资目标、财务状况或需要。用户应考虑本文中的任何意见、观点或结论是否符合其特定状况。据此投资,责任自负。财联社5月8日电,印度公共信息局发布公告称,7日夜间至8日,巴基斯坦试图使用无人机和导弹攻击印度北部和西部的军事目标,这些进攻已被印方拦截,部分武器残骸在被证明是巴方攻击地点处被找到。 5月7日,巴基斯坦拉合尔附近的穆里德克(Muridke),一座清真寺在遭受印度空袭后损毁 路透社 公告称,8日上午,印度武装部队以同等范围和强度打击了巴基斯坦多处防空雷达和系统,这是对巴基斯坦行动的回应。公告表示有可靠消息称,拉合尔的防空系统已被摧毁。 对于印方上述说法,巴基斯坦方面暂无回应。8日,拉合尔响起爆...
财联社5月8日电,印度公共信息局发布公告称,7日夜间至8日,巴基斯坦试图使用无人机和导弹攻击印度北部和西部的军事目标,这些进攻已被印方拦截,部分武器残骸在被证明是巴方攻击地点处被找到。 5月7日,巴基...
在这快节奏的年代,找到一份可以牵手一生的真爱,简直比登天还难。爱情这个词,听起来总是那么扑朔迷离,仿佛带着某种神秘的光环。每个经历过爱情的我们,大概都有一段难忘的故事。那些小打小闹时的甜蜜,可以让人怀...
图片 本站仅提供存储服务,所有内容均由用户发布,如发现有害或侵权内容,请点击举报。...
Gemma系列大模型是Google开源的一系列轻量级的大模型。就在刚才(2025年3月12日),Google开源了第三代Gemma系列大模型,共包含4个不同参数规模版本,第三代的Gemma 3系列是多...