服务热线

15396776178
网站导航
主营产品:
产品展示
当前位置: 首页 > 产品展示
详细介绍

  不同于 OpenAI 的闭源大模型,Google、Meta 等科技巨头正在发力开放模型来实现弯道超车。

  2 月 21 日,Google 推出新一放 AI 模型——Gemma(),这是一个轻量级的模型,比肩 Meta 的。

  仅是从名称上来看,最新推出的 Gemma 和此前 Google 的 Gemini 还有点傻傻分不清。对此,Google 也在官宣公告中解释称,Gemma 设计的灵感就是来源于 Gemini,拉丁语 Gemma,有“宝石”之意。二者之间稍有不同的是:

  Gemma 的设计目的是让开发人员和研究人员更容易访问和使用,而 Gemini 的设计目的是用于更复杂的任务。

  整体来看,Gemma 是由 Google DeepMind 和其他 Google AI 团队共同开发而成,采用与 Gemini 模型相同的研究和技术,建立在序列模型、Transformer、基于神经网络的深度学习方法和分布式系统上大规模训练技术至上。模型训练的上下文长度为 8192 个 token。

  这款最新的模型有两种尺寸,一个是 Gemma 2B(20 亿参数),另一个是 Gemma 7B(70 亿参数)。每种尺寸都发布了预训练和指令调整变体。

  模型权重将以许可商业授权的方式发布,同时 Google 也会发布一个新的负责任的生成式人工智能工具包,指导开发者、研究人员负责任地使用 Gemma 模型。

  在 AI 中,参数是神经网络中确定 AI 模型行为的值,权重是存储在文件中的这些参数的子集。

  除此之外,英伟达在今天宣布与 Google 合作,在包括本地 RTX AI PC 在内的所有英伟达 AI 平台上启动优化,用来加速 Gemma 的性能。

  当然新模型的发布,难免要和业界已存在的大模型一较高下。Google 在发布一份 16 页的 Gemma 技术报告时,将其与 Meta 的 LLaMA 2(7B)、LLaMA 2(13B),以及 Mistral(7B)进行了性能对比。

  Google 表示,“Gemma 2B 和 7B 与其他开放式模型相比,在其规模上实现了同类最佳的性能。”

  从学术基准角度来看,Gemma 7B 在数学、Python 代码生成、常识和常识推理任务的几个基准测试中,优于 Meta 的 Llama 2 7B 和 13B 模型。

  详细来看,在 MMLU 基准测试中,Gemma 7B 模型不仅超过了所有规模相同或更小的开源模型,还超过了一些更大的模型,包括 Llama 2 13B。

  这一次,Google 也特别强调,「Gemma 的设计是将 AI 原则放在首位。为了使 Gemma 预训练模型安全可靠,Google 使用自动化技术从训练集中过滤掉某些个人信息和其他敏感数据。此外,他们还使用了大量的微调和人类反馈强化学习(RLHF),使指令调整模型与负责任的行为保持一致。为了了解并降低 Gemma 模型的风险,我们进行了严格的评估,包括人工红队、自动对抗测试和危险活动模型能力评估。」

  此外,Google 还与 Gemma 一起发布了新的《负责任的生成式人工智能工具包》(),以帮助开发人员和研究人员优先构建安全、负责任的人工智能应用。该工具包包括:

  调试:带来最新的模型调试工具 LIT(),可帮助开发者调查 Gemma 的行为并解决潜在问题。

  指导:你可以根据 Google 在开发和部署大型语言模型方面的经验,获取模型构建者的最佳实践。

  最后,在很多专家学者来看,开源和开放权重的人工智能模型是确保聊天机器人透明度和隐私的重要步骤。

  不过在发布 Gemma 之际,Google 特别强调了开源和开放模型的区别。其表示,“开放源代码的一个好处是,一旦发布,许可证就赋予用户完全的创作自主权。这为开发人员和最终用户获取技术提供了有力保障。另一个好处是,开放源码技术可以不受限制地进行修改,以适应最终用户的独特使用情况。”

  但是 Gemma 遵循的规则是「开放模型」而非开源。开放模型的特点是可以免费获取模型权重,但使用、再分发和变体所有权的条款根据模型的具体使用条款而有所不同,这些条款可能不是基于开源许可证。

  Gemma 模型的使用条款规定,个人开发者、研究人员和商业用户均可自由访问和重新分配这些模型。用户还可自由创建和发布模型变体。在使用 Gemma 模型时,开发者同意避免有害使用,这体现了 Google 对负责任地开发人工智能的承诺,同时也增加了对这项技术的使用。

  之所以不用开源一词来形容 Gemma 的属性,在 Google 看来,现有的开源概念并不总能直接应用于 AI 系统,这就提出了如何在人工智能中使用开源许可证的问题。Google 所需要做的是,要澄清开源 AI 的概念,并解决衍生作品和作者归属等概念。

  Gemma 一经发布,便受到了不少 AI 从业者的关注,也有不少的媒体将其解读为 Google 正面叫板 Meta 的 LLama。

  不久之后,Google 又推出了另一个改进版本 Gemini 1.5,带来了 Gemini for Workspace。也有媒体报道,Google 内部还开发了一款“Gemini 的后代”——Goose,仅供内部使用,帮助员工更快地编写代码。

  面对层出不穷 G 打头阵的名字,据 Business Insider 报道,就连 Google 内部员工都已被“逼疯”,各种内部员工吐槽的表情包涌现出来,发出“哪位 VP 的 OKRs 是以 Al 产品名称的数量来衡量的?”的质疑:

  至此,你能准确分得清 Google 的各种模型吗?对最新发布的开放模型 Gemma 又有何看法?欢迎留言分享。

 


推荐产品

Copyright © 2021-2024 杏彩体育竞彩-官网app下载安装苹果 版权所有 服务热线:15396776978 电话:0514-87911666 网址:www.szshanny.com    备案号:   

地址:江苏省扬州市宝应县工区集中区   电话:15396776978   邮箱:hobbm@www.szshanny.com      邮箱登陆

关注我们