3月22日,生命未来研究所(FutureofLife)向全社会发布了一封《暂停大型人工智能研究》的公开信,呼吁所有人工智能实验室立即暂停比GPT-4更强大的人工智能系统的训练,暂停时间至少为6个月。
目前该公开信已获得超过1100个人士支持,其中包括埃隆马斯克、山姆·奥特曼、约书亚·本吉奥等知名人士。
公开信正文
大量研究表明,具有人类竞争智能的AI系统可能对社会和人类构成深远的风险,这一观点也得到了顶级AI实验室的认可。
野村预计美联储将在3月份降息25个基点,并暂停量化紧缩:3月14日消息,野村预计美联储将在3月份降息25个基点,并暂停量化紧缩。(财联社)[2023/3/14 13:02:44]
正如广泛认可的阿西洛马人工智能原则中所述,高级AI可能代表地球生命史上的深刻变化,应以相应的关怀和资源进行规划和管理。
不幸的是,这种级别的规划和管理并没有发生,尽管最近几个月人工智能实验室陷入了一场失控的竞赛,以开发和部署更强大的数字思维,没有人——甚至他们的创造者——都无法理解,预测或可靠地控制。
当代人工智能系统现在在一般任务上变得与人类具有竞争力,我们必须扪心自问:
我们是否应该让机器用宣传和谎言充斥我们的信息渠道?
我们应该自动化所有的工作,包括令人满意的工作吗?
Silvergate:暂停发放A系列优先股5.375%股息以保持流动性:1月27日消息,加密友好银行Silvergate Capital宣布,已暂停支付其5.375%固定利率非累积永久优先股A系列的股息,以保持流动性。这一决定反映了Silvergate专注于维持具有良好资本状况的高流动性资产负债表,以应对数字资产行业近期的波动。随着市场条件的变化,公司董事会将重新评估季度股息的支付情况。(BusinessWire)[2023/1/27 11:32:31]
我们是否应该发展最终可能超过我们、超越我们、过时并取代我们的非人类思维?
我们应该冒险失去对我们文明的控制吗?
此类决定显然不能委托给未经选举产生的技术领导者。只有当我们确信它们的影响是积极的并且它们的风险是可控的时候,才应该开发强大的人工智能系统。这种信心必须有充分的理由,并随着系统潜在影响的大小而增加。
前爱尔兰央行副行长:公司结构和客户资产保护问题解决前应暂停授予加密货币交易所许可:金色财经报道,前爱尔兰央行副行长兼金融监管负责人 Matthew Elderfield 在最新一期英国《金融时报》发表评论文章并呼吁应暂停授予加密货币交易所许可,直到加密货币交易所解决公司结构和客户资产保护问题。Matthew Elderfield 认为 FTX 的失败凸显了公司结构的重要性,并称 Binance 迄今为止都没有透露其总部所在地,他预计未来提交牌照申请的加密货币交易所都需要改变商业模式,必须根据“所用解决方案的可靠性”以及“与金融犯罪的潜在关联性”,审查每一种加密资产是否适合客户交易。[2022/12/29 22:13:23]
OpenAI最近关于通用人工智能的声明指出,“在某些时候,在开始训练未来系统之前进行独立审查可能很重要,并且对于最先进的努力来说,同意限制用于创建新系统的计算增长率楷模。”我们同意这一观点,并且认为现在就要行动起来。
加密借贷平台Vauld暂停平台提款,或将进行重组:金色财经报道,加密货币交易所Vauld首席执行官Darshan Bathija周一在一篇博客文章中表示,该公司“做出了艰难的决定,立即暂停Vauld平台上的所有提款、交易和存款。”
Bathija称,由于各种因素的影响,包括市场波动和商业伙伴的财务困难,Vauld在财务上陷入困境。Bathija说:“我们的管理层仍然完全致力于与我们的财务和法律顾问合作,尽我们最大的努力探索和分析所有可能的选择,包括潜在的重组方案,以最好地保护Vauld的利益相关者的利益。”(The Block)[2022/7/4 1:49:33]
因此,我们呼吁所有人工智能实验室立即暂停训练比GPT-4更强大的人工智能系统至少6个月。这种暂停应该是公开的和可验证的,并且包括所有关键参与者。如果不能迅速实施这种暂停,政府应介入并暂停。
公告 | 币赢USDT钱包正进行系统维护 期间暂停USDT充提服务:币赢公告称:由于USDT钱包正在进行系统维护,在此期间平台将暂停USDT充提服务。预计维护时间为24小时。[2019/3/14]
人工智能实验室和独立专家应该利用这次暂停,共同开发和实施一套用于高级人工智能设计和开发的共享安全协议,并由独立的外部专家进行严格审计和监督。这些协议应确保遵守它们的系统是安全的,无可置疑。
这并不意味着总体上暂停AI开发,只是从危险的竞赛中倒退到具有紧急功能的更大的不可预测的黑盒模型。
人工智能研究和开发应该重新聚焦于使当今强大的、最先进的系统更加准确、安全、可解释、透明、稳健、一致、值得信赖和忠诚。
与此同时,AI开发人员必须与政策制定者合作,以显着加快开发强大的AI治理系统。这些至少应包括:
专门负责AI的新的和有能力的监管机构;
监督和跟踪高性能人工智能系统和大量计算能力;
出处和水印系统,以帮助区分真实与合成并跟踪模型泄漏;
强大的审计和认证生态系统;
人工智能造成的伤害的责任;
为技术人工智能安全研究提供强大的公共资金;
以及资源充足的机构来应对人工智能将造成的巨大的经济和破坏。
人类可以享受人工智能带来的繁荣未来。成功创建强大的AI系统后,我们现在可以享受“AI之夏”,收获回报,设计这些系统以造福所有人,并为社会提供适应的机会。社会已经暂停其他可能对社会造成灾难性影响的技术。
我们可以在这里这样做。让我们享受一个漫长的AI夏天,而不是毫无准备地陷入秋天。
云集行业大佬
目前已有超过1000人在该公开信上上签字,包括马斯克、山姆·奥特曼、约书亚·本吉奥、巴勃罗·贾里洛·埃雷罗等行业大佬。
以下是部分名单:
ElonMusk,SpaceX、Tesla和Twitter的首席执行官
SamAltman,OpenAI首席执行官
SteveWozniak,苹果联合创始人
EmadMostaque,StabilityAI首席执行官
YoshuaBengio,因开发深度学习而获得图灵奖,蒙特利尔学习算法研究所所长
StuartRussell,伯克利计算机科学教授,智能系统中心主任,标准教科书“人工智能:现代方法”的合著者
PabloJarillo-Herrero,麻省理工学院物理学教授,美国国家科学院沃尔夫物理学奖
JohnJHopfield,普林斯顿大学名誉教授,联想神经网络的发明者
ConnorLeahy,Conjecture首席执行官
……
顶级精英的忧虑
业内人士对于AI的担心有增无减。
OpenAl公司的首席执行官山姆·阿尔特曼(SamAltman)近日表示,他对人工智能(AI)技术的潜力感到兴奋,但也对一些潜在的滥用行为“有点害怕”。还表示“它有巨大的前景也有巨大的能力,但随之而来的危险也是巨大的。”
「人工智能教父」GeoffreyHinton近日在CBSNEWS的采访表示,人工智能正处于一个「关键时刻」,通用人工智能(AGI)的出现比我们想象的更加迫近。
马斯克在2023年世界政府峰会上谈及ChatGPT,认为短期内人们需要警惕人工智能的安全问题,并呼吁对人工智能进行监管。
“我担心的是,对于人工智能来说,如果它出了问题,从监管的角度来看,反应可能太慢了。我想说,未来文明面临的最大风险之一是人工智能。”
但人工智能既有消极的一面,也有积极的一面。
”它前途无量,力量强大,但也伴随着巨大的危险。看看核物理学的发现,我们可以得到核能发电,但是它也带来了核弹。”
”总之,我认为我们应该深切关注这个问题,我们应该对从根本上对公众构成风险的事情进行某种监管。”马斯克表示。
写在最后
从ChatGPT3、ChatGPT4,再到文心一言,AI几乎正在呈指数级速度发展发展,处于人工智能时代的飓风中,未来人类又应该何去何从......
文/?WilliamM.Peaster,Bankless作者;译/金色财经xiaozou2023年2月28日,MetaMask宣布MetaMask?SDK入驻Unity资产商店.
1900/1/1 0:00:00By:?Johan 据慢雾安全团队情报,2023年3月13日,Ethereum链上的借贷项目EulerFinance遭到攻击,攻击者获利约2亿美元.
1900/1/1 0:00:00作者:YuanShan/img/20230515161542501649/0.jpg "/>“在互联网上,没有人知道你是一条狗.
1900/1/1 0:00:001.Binance及其创始人赵长鹏被起诉速览美国CFTC指控2023年3月27日,美国商品期货交易委员会(CFTC)宣布向美国伊利诺伊州北区地方法院提起民事诉讼.
1900/1/1 0:00:00原文:SUIFoundation 编译:SUIWorld 今天,SuiNetwork在官方推特上宣布推出永久测试网,这是一个长期运行、去中心化和无需许可的测试网,与过去的Waves1和Waves2测试网不同.
1900/1/1 0:00:00这条推文来聊一聊Cosmos生态的LSD赛道,与近期火热的以太坊LSD相比,无论从市场关注度还是LSD资产总量,前者都鞭长莫及.
1900/1/1 0:00:00