OpenAI警告人类通用人工智能的存在风险

2023-02-27 20:42:11 来源: 循环经济网


(相关资料图)

由微软提供资金支持的人工智能研究和部署公司OpenAI发表了一篇博客文章,敦促对通用人工智能(AGI)的发展保持谨慎和远见,AGI被定义为可以执行人类可以执行的任何智力任务的AI。

该公司最初由一群杰出的科技企业家和研究人员创立,包括埃隆·马斯克(Elon Musk)和山姆·奥特曼(Sam Altman),该公司表示,AGI可能对人类产生深远的影响,无论是积极的还是消极的。这篇博文概述了AGI的一些潜在好处,例如解决气候变化和贫困等全球挑战,以及一些潜在风险,例如与人类价值观和目标不一致,不良行为者的恶意使用以及对人类文明的生存威胁。

OpenAI认为,实现AGI需要各种利益相关者之间的仔细规划和协调,包括研究人员,政策制定者,行业领导者,民间社会团体和公众。该公司还呼吁对如何确保AGI符合人类价值观并可由人类控制进行更多研究。此外,OpenAI倡导在AI开发和部署中提高透明度和问责制。

该组织希望就3个关键问题进行全球对话:如何管理这些人工智能系统,如何公平分配它们产生的好处,以及如何公平地共享访问权限。

这篇博文是OpenAI使命的一部分,以确保人工智能造福全人类。该公司运营着一个非营利部门(OpenAI Inc.)和一个营利性部门(OpenAI LP),它们分享了这一愿景。OpenAI以开发世界上一些最先进的AI系统而闻名,例如GPT-4(自然语言处理系统),DALL-E(生成图像合成系统),以及其最新的病毒式热门歌曲ChatGPT(一种聊天机器人,基于互网上可用信息的大型语言模型进行训练)。

每日热点