宇宙链 宇宙链
Ctrl+D收藏宇宙链
首页 > DOGE > 正文

人类精英呼吁暂停AI实验 ChatGPT:合理但谨慎考虑

作者:

时间:1900/1/1 0:00:00

3月29日,非营利组织“未来生命研究所”发表了一封题为“暂停巨型AI实验”的公开信,呼吁全球的AI实验室暂停训练比GPT-4更强大的系统至少6个月,并在此期间开发出一份针对AI的共享安全协议,必要时需要政府介入。?

1000多名科技人士在这份公开信上签名,包括特斯拉CEO马斯克、StabilityAI?的CEOEmadMostaque等企业掌门人,也包括Alphabet旗下DeepMin的研究人员,还有诸如图灵奖得主YoshuaBengio这样的重量级学者。当然,也有人表达了不同意见,认为这是在阻碍技术进步。

开发出GPT-4模型的OpenAI公司内还没有人签名,该公司目前也没有对这封公开信予以回应。但我们向卷入纷争中的ChatGPT要了个回应。

这个AI自然语言大模型产品倒是表现出了善解人意的一面:暂停实验存在合理性,但需要谨慎考虑这么做带来的技术发展滞后问题。它还给出了关于AI的六大风险和十个管理制度建议。

人类精英:暂停实验确立规则

截至今日,挂在“未来生命研究所“官网上的《暂停巨型AI实验》公开信,已经收集了1130人的签字,名单里精英云集,不乏特斯拉、苹果等科技公司的高管,也有政客和作家,当年,更多的是全球多所高校的教授以及人工智能领域的专家。??????

声音 | 中国教育技术协会巨强:数字货币的兴起是人类发展的必然趋势 是未来的潮流:12月8日,由中国科学院学部主办,中国信息通信研究院等单位联合支持的“区块链技术与应用”科学与技术前沿论坛在深圳举行。在8日的区块链金融专题论坛上,中国教育技术协会金融专业委员会秘书长巨强表示,人类货币的发展有一个基本规律:不断的降低成本,越来越方便,越来越快捷。从这个意义上来说,数字货币的兴起是人类发展的必然趋势,是未来的潮流。他还指出,未来人类的货币一定会变成数字货币,特别是随着互联网、人工智能、区块链等技术的飞速发展,未来数字货币在发行流通、管理方面会变得越来越成熟。未来中央银行可能会集中发行数字货币,所以未来我们可能真的不需要任何纸币和硬币,传统意义上的货币发行方式、拥有货币的方式也将被彻底颠覆。(巴比特)[2019/12/8]

那么精英云集签字的这封公开信到底说了什么?以下是这封信的全文

广泛的研究表明,具有能与人类竞争的智能的AI系统会对社会和人类构成深刻的风险,顶尖的AI实验室也承认这一点。正如广受认可的阿西洛马人工智能原则原则所述,高级AI可能代表着地球生命历史的深刻变化,应该以合适的态度和资源去进行规划和管理。不幸的是,这种水平的规划和管理并没有发生。尽管最近几个月AI实验室陷入了一场失控的竞赛,以开发和应用越来越强大的数字思维,然而没有人能够理解、预测或可靠地控制这些思维,甚至他们的创造者也不能。

声音 | 陈伟星:黄金或者比特币本质上是人类协作的物理纪律准绳:陈伟星刚发微博表示,哥们说:黄金或者比特币,本质上是人类协作的物理纪律准绳。人们总是希望自由,但我们又不得不依赖秩序。帝国心态,塑造了法币自由的假象,带来的后果是贫富悬殊、债台高筑和阶层仇视,5000年来被一遍一遍的战争证明。 ????[2019/6/16]

当代AI系统在一般任务上正在拥有与人类竞争的能力,我们必须问问自己:

我们应该让机器在我们的信息渠道中充斥宣传和谎言吗?

我们是否应该自动化所有的工作,包括那些有成就感的工作?

我们是否应该培养出可能比我们数量更多、比我们更聪明、最终超越并取代我们的非人类思维?

我们是否应该冒着失去对我们文明控制的风险?

此类决策决不应该委托给未经选举产生的技术领导人。只有当我们确信AI的效果是积极的,风险是可控的时候,AI系统才应该被开发。这种对AI的判断必须是合理的,并随着系统潜在影响的变化而变化。

OpenAI最近关于人工通用智能的声明指出,“在开始训练未来的系统之前,进行独立审查可能很重要。同时对于最前沿的工作而言,人们应该在合适的时间点限制用于创建新系统的计算增长率。我们同意这一说法,并认为现在就是合适的时间点。

中央财政部部长刘昆:区块链等新产业深刻影响人类社会发展,给多边开发机构带来了新的机遇和挑战:中央财政部今日发布消息,财政部部长刘昆近日在新开发银行第三届理事会年会开幕式上致辞,他表示近年来,人工智能、区块链、共享经济等新产业、新业态、新经济不断涌现,深刻影响人类社会发展,也给多边开发机构带来了新的机遇和挑战。希望新开发银行抓住新一轮科技和产业革命的机遇,始终以支持基础设施建设和可持续发展为宗旨,不断创新融资模式,帮助成员国实现包容和可持续发展,促进全球经济复苏与增长。[2018/6/6]

因此,我们呼吁所有的AI实验室立即暂停训练比GPT-4更强大的AI系统至少6个月。这种暂停应该是公开的和可核实的,所有关键的参与者也能暂停相关工作。如果这种暂停不能迅速开始,政府应该介入并实施暂停。

AI实验室和独立专家应利用这一暂停的时段,共同开发一套AI设计和开发的共享安全协议,这些协议需要由独立的外部专家严格审计和监督。这些协议应确保所有遵守它们系统的AI是安全的。这种暂停并不意味着总体上暂停AI开发,只是让人们从具有新兴功能的、不可预测的危险竞赛中后退一步。

AI的研究和开发应该重新聚焦于使当今强大、最先进的系统更加准确、安全、可解释、透明、稳健、一致、可信和可靠。

马云:未来10-20年内 机器智能、IoT和区块链三大技术让人类面临挑战:在第二十届中国科协年会开幕式上,阿里巴巴集团董事局主席马云出席并发表题为《因为相信,所以看见》的演讲。马云认为,未来10-20年以内,将有三大技术让人类面临挑战:机器智能、IoT和区块链。对于区块链,他认为区块链不是泡沫,但今天的比特币可能是泡沫。[2018/5/26]

与此同时,AI开发人员必须与政策制定者合作,大幅加快强大的AI管理制度的开发。管理制度至少应包括以下内容:

?针对AI的新的、有能力的监管机构;

?监督和跟踪能力强大的AI系统和计算能力池;

?帮助区分真实和合成数据的溯源、水印系统,并跟踪模型泄露;

?提供健全的审计和认证生态系统;

?对AI造成的损害进行责任认定;

?为AI技术的安全研究提供充足的公共资金;

?资源充足的机构以应对AI将造成的巨大经济和破坏。

人类可以通过AI享受一个繁荣的未来。在成功创建了强大的AI系统后,我们现在可以享受一个“AI之夏”。

清华大学朱岩:区块链对人类影响深远:清华大学教授朱岩在本校举办的加密经济学研讨会上表示,不能用原有的资产概念来界定比特币,不能用“旧尺子”衡量区块链。区块链对人类社会将会产生深远的影响,将会重新界定人类社会的关系。区块链和比特币发展到目前阶段,众多粗浅认知的泡沫即将被捅破。[2018/3/12]

在这个AI的夏天,我们可以收获回报,为所有人的利益设计这些系统,并给社会一个适应的机会。人类社会曾经暂停使用一些可能会对社会造成灾难性影响的技术,我们现在也可以在AI领域这样做。让我们享受一个漫长的AI之夏,不要在没有准备的情况下匆忙进入秋天。

事实上,这封公开信是近期人类精英们对人工智能风险担忧的总爆发。自ChatGPT高速迭代后,担忧从未停止,特别是当微软、谷歌、百度、华为等科技巨头们在自然语言模型上展开“军备竞赛”之后。

日前,“深度学习之父”杰弗里·辛顿在媒体采访中表示,人工智能正处于“关键时刻”,毁灭人类“并非不可能”。AI领域内的“大牛”盖瑞·马库斯发推特支持辛顿,甚至发出灵魂一问:“用百分之一的人类毁灭风险换取和机器对话带来的乐趣,这值得吗?”

而马库斯在转发FLI这封公开信时表示,“这封信并不完美,但精神是正确的。我们需要放慢脚步,直到我们更好地理解AI带来后果……他们可能会造成严重伤害……主要参与者对他们正在做的事情越来越保密,这使得社会很难抵御可能发生的任何伤害。”

也有科技圈人士对这封信的观点持不同意见。

Writer的创始人Waseem以讽刺的语气表达了他对权威们的不满,“让我们停止建设和发展我们的公司,因为来自硅谷的亿万富翁说我们有风险。一定要喜欢那些比我们人类更聪明的人,因为他们告诉我们如何生活。当我们有他们神圣的指引时,谁还需要进步?”?

OSSCapital的创始人JosephJacks态度更是简洁明了:强烈反对,绝对不签这个。

?ChatGPT:暂停合理但小心阻滞技术

目前,OpenAI还没有就FLI的这封公开信做出回应。而我们把人类精英们的担忧与建议甩给了ChatGPT,引发这场纷争的这个对话机器人不但认可了FLI要求暂停实验的合理性,还补充了六大AI风险。

ChatGPT的答案中也包含了暂停实验带来弊端:导致技术发展的滞后。这也和舆论场上很多普通大众的想法趋同。????????????????????

那么,问题摆在眼前,如果要让研究人员和政府制定规则,该包含哪些内容呢?ChatGPT给出了十大建议,相当于给包括自己在内AI发展画了一个规范圈。

连ChatGPT自己都这么说了,可见,“AI失控”、”替代人类“无论是在意见领袖圈层还是舆论场上都有探讨的意义。

最近,微软的创始人比尔·盖茨在大力肯定人工智能带来生产力提升的同时,也强调过风险,“AI失控的可能性是存在的,一台机器会认为人类是自己的威胁吗?它们会得出结论认为自身利益与人类的利益不同进而不在意我们吗?”他预测,随着算法、算力的提升,超级智能AI会在未来出现。

连OpenAI的CEOSamAltman都表示,超级智能AI的风险可能会远远超出我们的预料。此前,他在技术研究员LexFridman的播客中表达他的担忧,包括AI造成的虚假信息问题,带来的经济冲击等等,“危害可能远远超过了人类能应对的程度”,他举了个例子,“我们怎么会知道,大语言模型没有在推特上指挥大家的思想流动呢?”

这正应了那封公开信中所说的:没有人能够理解、预测或可靠地控制这些数字思维,“甚至他们的创造者也不能”。

虽然通用人工智能还远远没有到来,但就像比尔·盖茨说得那样,在这之前,世界需要建立规则以使AI带来的正面影响远远超过其负面影响。

换句话说就是,别让人类造出的东西把人类自己灭了。毕竟,战争、核事故带来的灾难还历历在目。

标签:区块链GPT人工智能ATG区块链dapp游戏arbgpt币团队人工智能对口的工作Catgirl Optimus

DOGE热门资讯
以太坊主网Shapella升级官方公告:质押提款即将到来 我需要做什么?

提款来了!Shapella以太坊主网升级将在epoch194048处激活,定在北京时间2023年4月13日06:27:35来源:blog.ethereum.org作者:ProtocolSupportTeam翻译:Franci.

1900/1/1 0:00:00
ZK专家“华山论剑”:安全与去信任 ZK协议在机制上该如何平衡取舍?

ZK领域头部专家在本文中分享了零知识证明协议在机制设计和工程建构上的安全原则与新颖方案,以及在设计过程中的种种权衡。近日,zkSync和Polygon都推出了各自的zkEVM,掀起了一波行业的热潮.

1900/1/1 0:00:00
NFTFi衍生品赛道早期探索:下一个“Blur”在哪里?

原文:《早期探索:NFTFI衍生品赛道及项目盘点nftperp、tribe3、putty等》 作者:Maverick 注:本文撰写于2月14日,一些数据可能出现延迟过去一个月,NFT市场交易量久违地出现反弹,NFTFI也重新活跃起来.

1900/1/1 0:00:00
金色Web3.0日报 | 1.41亿枚USDC转入Coinbase

DeFi数据 1、DeFi代币总市值:498.38亿美元 DeFi总市值及前十代币数据来源:coingecko2、过去24小时去中心化交易所的交易量23.33亿美元 金色财经挖矿数据播报:ETH今日全网算力上涨1.

1900/1/1 0:00:00
比特币一季度表现远超以太坊 以太坊会补涨吗?

一季度行情即将接近尾声,比特币和以太坊的走势越来越趋同,几乎完全相关。比推终端数据显示,以太坊年初至今(YTD)上涨了50.02%,但比特币却飙升了72.30%,有望创下两年来最佳的季度表现.

1900/1/1 0:00:00
FASB 提出新的加密货币会计准则 这意味着什么?

摘要 过去一周加密货币领域非常忙碌:财务会计准则委员会提出了有关加密资产的新标准,而美国证券交易委员会则发布了警告,敦促投资者对“加密资产证券”保持谨慎.

1900/1/1 0:00:00