关闭广告

OpenAI组建新团队:收集公众意见以确保AI大模型"与人类价值观保持一致"

网易科技报道4224人阅读

1月17日消息,美国当地时间周二,人工智能领域的佼佼者OpenAI在其博客上宣布,他们正在组建一个名为“集体对齐”(Collective Alignment)的全新团队。

这个团队主要由研究人员和工程师构成,将专注于设计和实施收集公众意见的流程,以帮助训练和塑造其人工智能模型的行为,从而解决潜在的偏见和其他问题。

OpenAI在博客中阐述道:“我们的目标是打造一个系统,它能够收集和‘编码’公众对我们模型行为的看法,并将这些宝贵的见解融入我们的产品和服务中。这样一来,我们未来的人工智能模型就能更好地‘与人类价值观保持一致’。”

为了实现这一目标,OpenAI正积极招募来自不同技术背景的研究工程师加入这个新团队。他们表示:“我们将与外部顾问和其他团队紧密合作,包括开展试点工作,将原型整合到我们的模型中。我们需要来自不同领域的专家,共同助力这项工作的推进。”

这个“集体对齐”团队其实是OpenAI去年5月启动的公共项目的一个延伸。该项目旨在资助建立一个“民主程序”的实验,以确定人工智能系统应遵循的规则。OpenAI曾明确表示,该计划旨在资助个人、团队和组织开发概念验证,以回答有关人工智能护栏和治理的问题。

研究工程师、OpenAI新团队创始成员泰纳·埃伦杜(Tyna Eloundou)强调:“随着我们不断追求超级智能模型的发展,这些模型将逐渐成为我们社会不可或缺的一部分。因此,让人们有机会直接提供意见至关重要。”

例如,为了确保只有人类才能参与投票和提供意见,OpenAI还考虑与Worldcoin进行合作。Worldcoin是OpenAI首席执行官萨姆·奥特曼(Sam Altman)创建的一个加密货币项目,它提供了一种有效区分人类和人工智能机器人的方法。

自2022年底推出ChatGPT以来,OpenAI凭借其生成式人工智能技术吸引了公众的广泛关注。这种技术能够利用简单的提示生成文本,使ChatGPT成为有史以来增长最快的应用程序之一。

然而,人工智能技术的快速发展也引发了人们的担忧。特别是其创造“深度伪造”图片和其他错误信息的能力,让人们在即将到来的2024年美国大选前夕感到不安。批评人士指出,像ChatGPT这样的人工智能系统由于其输入数据的影响而具有固有的偏见,用户已经发现了一些人工智能软件输出中存在种族主义或性别歧视的例子。

在最新的博客文章中,OpenAI回顾了资助受助者的工作成果,包括视频聊天界面、人工智能模型众包审计平台以及“将信念映射到可用于微调模型行为的维度的方法”。同时,他们还公开了所有受助者工作中使用的代码以及每个提案的简要摘要。

尽管OpenAI试图将该项目描述为与其商业利益无关,但考虑到其首席执行官奥特曼对欧盟人工智能监管的批评态度,这一说法似乎有些难以令人信服。奥特曼以及OpenAI总裁格雷格·布罗克曼(Greg Brockman)和首席科学家伊利亚·苏茨凯弗(Ilya Sutskever)一再强调,人工智能的创新速度非常快,以至于我们无法指望现有的权威机构能够充分控制这项技术。因此,他们提出了将这项工作众包的解决方案。(小小)

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

美防长:若乌克兰战败 我真的认为北约将与俄罗斯开战

每日经济新闻 浏览 35780

在美流浪博士换上新衣剪了头发 本人再发声感谢志愿者

极目新闻 浏览 28211

明年1季度上市 广汽传祺/华为打造豪华旗舰轿车

网易汽车 浏览 2581

以军带定位秀美食,真主党无人机立马杀到

浏览 966

金一南:激烈博弈后 美国被迫与中国保持"脆弱的平衡"

上观新闻 浏览 27717

物美系第3个IPO来了!阿布扎比、腾讯、联想、招银国际押注

科创板日报 浏览 2181

4名中国女性在德国遭性侵:疑似华裔男子冒充女性求租

红星新闻 浏览 8052

领克07官方伪装照:轿跑造型+EM-P动力,合资又要“头大”了?

Nice好车 浏览 4050

明星开工第一天!热巴晒自拍准备进组,杨幂高定上身底气十足

萌神木木 浏览 4195

孔德昕:去年全明星已被称为史上最糟糕的比赛之一 今年不遑多让

直播吧 浏览 4034

会搭配的中年女人有多好看?推荐掌握这3点精髓,时尚显气质

静儿时尚达人 浏览 4178

伊朗警告美英停止袭击也门胡塞武装

环球网资讯 浏览 4165

菲大使借用别人的核弹,对中国发出核战警告

浏览 2226

618心动购物季 408龘龘款狂欢惊喜价6.97万元

网易汽车 浏览 2419

詹俊:国足暂排小组第二&主动权仍在手,对出线还是抱有幻想的

直播吧 浏览 4327

普京:俄防空系统不可能打击伊尔-76运输机

每日经济新闻 浏览 4252

早春灰黑白穿搭依然很流行,中年女人试试从这些外套入手,显气质

Yuki时尚酱 浏览 2637

Jennie自曝单飞成立新公司原因!吐苦水称很怕生

文艺圈娱乐号 浏览 4715

41岁孙俪最新状态翻车!脸部浮肿满脸沟壑

萌神木木 浏览 4429

比特币涨势再添动力!英国为加密货币ETN敞开大门

科创板日报 浏览 2736

以方称已提交一份撤离加沙地带平民的行动计划

财联社 浏览 3937
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备2023013132号-1