>首页> IT >

OpenAI正探索AI集体决策,提出类似维基百科条目模式

时间:2023-05-23 09:59:25       来源:黑科技


(资料图片仅供参考)

5月23日,ChatGPT的开发者OpenAI公司的总裁格雷格·布鲁克曼(Greg Brockman)表示,公司正测试如何收集影响其AI的决策的广泛信息。他提到了一种类似于维基百科的模式,后者要求观点不同的人聚集在一起,从而就百科条目达成一致。

在旧金山由高盛集团和SV Angel主办的AI Forward活动上,布鲁克曼介绍了OpenAI如何寻求全球AI监管的大致信息。

布鲁克曼在谈到AI政策的时候表示:“不仅仅是在规格,我们认为这些规则可以适用于任何人。我们正在开始思考民主的决策方式。”

布鲁克曼谈到的另一个想法是,世界各地的政府应该进行协调,以确保AI的安全发展.

自去年11月30日推出ChatGPT以来,一跃成为有史以来增长速度最快的应用程序。AI也成为人们关注的焦点,不过它也有能力创造出深度伪造的图片和其他错误信息。

在评估AI的发展道路时,布鲁克曼考察了维基百科以及其他地方。他和OpenAI表示,像国际原子能机构(IAEA)这样的机构可以对AI的部署进行限制,审查它是否符合安全标准,并跟踪计算能力的使用。

他的另一个建议是达成一项全球协议,限制前沿AI能力的年度增长速度,或者建立一个主要国家的政府可以参与的全球联合项目。

OpenAI首席执行官山姆·阿尔特曼(Sam Altman)上周向美国立法者提出了为AI设置监管的各种想法,其中包括要求为开发最复杂的AI模型颁发许可证,并建立相关的治理制度。他本周正在访问欧洲进行访问,并与政策制定者会面。

关键词: