OpenAI正探索AI集体决策，提出类似维基百科条目模式

OpenAI正探索AI集体决策，提出类似维基百科条目模式

类别：[ 运营 ] 2023-05-23 09:04:01 来源：[5G通信公众号]

北京时间5月23日早间消息，美东时间周一，ChatGPT的开发者OpenAI公司的总裁格雷格・布鲁克曼（Greg Brockman）表示，公司正测试如何收集影响其AI的决策的广泛信息。他提到了一种类似于维基百科的模式，后者要求观点不同的人聚集在一起，从而就百科条目达成一致。

在旧金山由高盛(324.92, -1.23, -0.38%)集团和SV Angel主办的AI Forward活动上，布鲁克曼介绍了OpenAI如何寻求全球AI监管的大致信息。

布鲁克曼在谈到AI政策的时候表示：“不仅仅是在规格，我们认为这些规则可以适用于任何人。我们正在开始思考民主的决策方式。”

布鲁克曼谈到的另一个想法是，世界各地的政府应该进行协调，以确保AI的安全发展．

自去年11月30日推出ChatGPT以来，一跃成为有史以来增长速度最快的应用程序。AI也成为人们关注的焦点，不过它也有能力创造出深度伪造的图片和其他错误信息。

在评估AI的发展道路时，布鲁克曼考察了维基百科以及其他地方。他和OpenAI表示，像国际原子能机构（IAEA）这样的机构可以对AI的部署进行限制，审查它是否符合安全标准，并跟踪计算能力的使用。

他的另一个建议是达成一项全球协议，限制前沿AI能力的年度增长速度，或者建立一个主要国家的政府可以参与的全球联合项目。

OpenAI首席执行官山姆・阿尔特曼（Sam Altman）上周向美国立法者提出了为AI设置监管的各种想法，其中包括要求为开发最复杂的AI模型颁发许可证，并建立相关的治理制度。他本周正在访问欧洲进行访问，并与政策制定者会面。