“开源”的新定义可能会给大人工智能带来麻烦

计算机代码墙
马库斯·温克勒 / Pexels

自称是开源定义(开源软件使用最广泛的标准)的管理者的开源倡议组织 (OSI) 于周四宣布对“开源人工智能”的构成进行更新。新的措辞现在可以排除 Meta 和 Google 等行业重量级公司的模型。

OSI 在最近的一篇博客文章中写道:“开源已经证明,在消除学习、使用、共享和改进软件系统的障碍后,每个人都能获得巨大的好处。” “对于人工智能来说,社会需要与开源同样重要的自由,以使人工智能开发人员、部署人员和最终用户能够享受到同样的好处。”

根据 OSI:

开源人工智能是一种根据条款和方式提供的人工智能系统,该系统授予以下自由[1]:

  • 将系统用于任何目的,无需征求许可。
  • 研究系统如何工作并检查其组件。
  • 出于任何目的修改系统,包括更改其输出。
  • 共享系统以供其他人出于任何目的使用(无论是否经过修改)

这些自由度既适用于功能齐全的系统,也适用于系统的离散元素。行使这些自由的先决条件是能够访问首选形式以对系统进行修改。

Mozilla 人工智能治理技术负责人 Nik Marda 告诉PCMag ,根据这样的定义, Meta 的 Llama 3.1Google 的 Gemma模型都不算开源人工智能。 “过去缺乏准确的定义,使得一些公司更容易表现得好像他们的人工智能是开源的,即使事实并非如此。许多——如果不是的话,大多数——来自大型商业参与者的模型将不符合这个定义。”

Marda 认为,旧的、宽松的定义让公司有足够的余地来潜在地破坏他们的消费人工智能产品,改变模型的功能并根据公司的想法禁止访问。此类行为可能会导致“服务中断、性能不佳以及每个人都使用的应用程序和工具中的功能更加昂贵”。

Meta 和谷歌都尚未承认新定义为行业标准。


Posted

in

by

Tags: