开源模型在评级中处于领先地位（图源：CRFM）

团队称，尽管闭源基础模型更容易满足该评级的许多指标，但开源基础模型在许多透明度方面获得了更高的评分。

例如，一些指标评估了下游使用的政策。由于闭源模型通常只通过API提供访问，因此他们可以更容易地分享与下游使用相关的信息，而开源模型的开发商则需要与下游部署者合作才能获得此类信息。

从理论上讲，这意味着闭源模型在这些指标上的得分要高得多，但团队称并没有发现实质性的差别。不过，一些闭源模型开发商在这些指标上的表现确实更好，其中以OpenAI为首。

开源和闭源模型在13个子域评级中的平均透明度评分（图源：CRFM）

总分方面，开源基础模型开发商遥遥领先。

团队认为，开源模型与闭源模型之间的差距是由上游指标造成的，例如开发模型所使用的数据、人力和计算细节。近年来，许多闭源模型开发商对其模型训练方法越来越保密。

《纽约时报》的记者Kevin Roose谈道，当他询问AI公司的高管，为什么不公开分享更多关于他们模型的信息时，通常会得到三种答案。

其一是诉讼。

目前，包括OpenAI在内，已经有多家AI公司被作家、艺术家或媒体公司起诉，指控他们非法使用受版权保护的作品来训练AI模型。

大多数诉讼针对开源AI项目，或是披露了其模型详细信息的项目。AI公司的律师们担心，他们对模型的构建过程说得越多，就越会让自己面临昂贵、恼人的诉讼。

其二是竞争。

大多数AI公司认为，他们的模型之所以有效，是因为他们拥有某种秘诀——其他公司没有的高质量数据集、能产生更好结果的微调技术、能让他们获得优势的某种优化。

他们认为，如果强迫AI公司公开这些“秘方”，就会把他们来之不易的智慧拱手让给竞争对手，让对手轻而易举地复制这些智慧。

其三是安全问题。

一些AI专家认为，AI公司公开其模型的信息越多，AI的进步就会越快，因为每家公司都会看到竞争对手在做什么，并立即尝试通过建立更好、更大、更快的模型来超越他们。

他们认为，如果AI的能力发展得太快，所有人都会处于危险之中，因为社会没有那么多时间来监管和减缓AI的发展。

对此，斯坦福大学的研究人员并不相信这些回答。

他们认为，应该向AI公司施压，让它们尽可能多地发布有关基础模型的信息，因为用户、研究人员和监管机构需要了解这些模型是如何工作的，它们有哪些局限性、危险性。

随着基础模型变得越来越强大，AI工具在人们日常生活扮演者愈发重要的角色，模型透明度问题不可忽视。

更多地了解这些基础模型的训练、部署方式，系统的工作原理，构建模型的数据集和数据来源等，将使监管机构、研究人员和用户更好地了解AI系统，对于保持开发商的责任感和了解基础模型的社会影响尤为重要。

AI革命不能在黑暗中进行。如果想让AI改变我们的生活，我们就必须了解它的“黑匣子”。

来源：CRFM、《纽约时报》