谷歌公司昨日发布新闻稿，面向全球研究人员和开发人员发布 Gemma 2 大语言模型，共有 90 亿参数（9B）和 270 亿参数（27B）两种大小。
无心号四卷带您了解
Gemma 2 大语言模型相比较第一代，推理性能更高、效率更高，并在安全性方面取得了重大进步。
谷歌在新闻稿中表示，Gemma 2-27B 模型的性能媲美两倍规模的主流模型，而且只需要一片英伟达 H100 ensor Core GPU 或 TPU 主机就能实现这种性能，从而大大降低了部署成本。
Gemma 2-9B 模型优于 Llama 3 8B 和其他类似规模的开源模型。谷歌还计划在未来几个月发布参数为 26 亿的 Gemma 2 模型，更适合智能手机的人工智能应用场景。
谷歌表示为 Gemma 2 重新设计了整体架构，实现卓越的性能和推理效率。IT之家附上 Gemma 2 主要特点如下：
性能优异：
27B 版本在同规模级别中性能最佳，甚至比两倍于其尺寸的机型更具竞争力。9B 版本的性能在同类产品中也处于领先地位，超过了 Llama 3 8B 和其他同规模的开放模型。
效率和成本：
27B Gemma 2 模型可在单个谷歌云 TPU 主机、英伟达 A100 80GB Tensor Core GPU 或英伟达 H100 Tensor Core GPU 上以全精度高效运行推理，在保持高性能的同时大幅降低成本。这使得人工智能部署更容易实现，预算也更合理。
跨硬件快速推理
Gemma 2 经过优化，可在各种硬件（从功能强大的游戏笔记本电脑和高端台式机到基于云的设置）上以惊人的速度运行。
在 Google AI Studio 中尝试全精度的 Gemma 2，在 CPU 上使用 Gemma.cpp 的量化版本解锁本地性能，或通过 Hugging Face Transformers 在配备 NVIDIA RTX 或 GeForce RTX 的家用电脑上进行尝试。
本文内容由互联网用户自发贡献，该文观点仅代表作者本人。如发现本站有涉嫌抄袭侵权/违法违规的内容，请发送邮件至 97552693@qq.com 举报，一经查实，本站将立刻删除。本文链接：https://hbwxh.com/n/15075.html
微信扫一扫 支付宝扫一扫 
相关推荐
对阵老东家！吕迪格曾效力多特青年队，从进攻球员被改造为后卫
欧冠决赛，皇马将对阵多特。值得一提的是，皇马后卫吕迪格年轻时曾效力多特青年队。 无心号四卷带您了解 《图片报》表示，2008年到2011年，吕迪格在多特青年队效力，他在多特蒙德的U17和U19队伍中度过了两年半的时间。 吕迪格在决赛前接受采访时说道：“我在那里度过了一段美好的时光，遇到了很多有才华的球员。一些人成功了，一些人没有。这是一个非常具有教育意义的时…
状态火热却..胡梅欧冠连场MVP&表现分第1，却无缘欧洲杯+离开多特
多特官方消息，35岁的胡梅尔斯合同到期离队。 无心号四卷带您了解 实际上本赛季的胡梅尔斯仍然保持着很好的竞技状态，是多特后防线的中流砥柱。在欧冠半决赛多特对阵巴黎的两回合比赛中，胡梅尔斯都获得了全场最佳球员。虽然多特在决赛中0-2不敌皇马获得亚军，但胡梅尔斯还是凭借整个赛季优异的表现，力压一众锋线好手在欧冠表现分的榜单上排名第1。 但球场上优异的表现却没能给…
韩寒《飞驰人生2》网播定档：4月30日上线“爱优腾”
电影《飞驰人生2》网播定档4月30日，届时，将上线爱奇艺、腾讯视频、优酷等国内视频平台。 据了解，《飞驰人生2》于2024大年初一春节档上映，累计票房33.96亿元。 该片由韩寒编剧并执导，沈腾领衔主演，范丞丞、尹正、张本煜、孙艺洲领衔主演，魏翔、贾冰特别出演、郑恺友情出演。 《飞驰人生2》接续前作《飞驰人生》的故事，讲述张驰（沈腾 饰）和朋友们重组车队，跌…
含糖度爆表！Z娃+列宾，这对神仙眷侣要在上海同台
她被誉为“上天赐予芭蕾的礼物”“为芭蕾而生的仙女”，中国舞迷更习惯称她为“美神”“Z娃”，她就是扎哈洛娃。 无心号四卷带您了解 2014年，扎哈洛娃首秀上海大剧院，给中国舞迷留下难忘印象。10年后，扎哈洛娃重游旧地，带来了两套即将在上海首演的舞码——《香奈儿传奇》《足尖情弦》。 《香奈儿传奇》海报 5月15日-19日，扎哈洛娃将联手一众莫斯科大剧院首席登台，…
Switch日报：大金刚国度归来卖60刀、多款刺客信条重制中
任天堂回应谷歌泄密事件 无心号四卷带您了解 在最近的年度股东大会上，任天堂董事们被问及最近的一份报告。该报告称，有一名谷歌员工访问了任天堂YouTube频道的私密视频，导致了泄密事件的发生。 董事们对此回应称，他们已经注意到媒体的报道，并声称任天堂一直在与外部公司合作诊断安全漏洞。董事们表示，任天堂已采取新的安全措施，并且正在加强员工的IT安全教育。 《大金…