科学家警告称，遏制算法不会停止超级智能人工智能

一组计算机科学家使用理论计算来证明算法无法控制超级智能AI。

他们的研究解决了牛津哲学家尼克·博斯特罗姆所说的控制问题：我们如何确保超智能机器为我们的利益服务？

研究人员构想了一种理论上的遏制算法，该算法可以通过模拟AI的行为并在程序的动作变得有害时停止程序来解决该问题。

声音 | Vitalik：被捕以太坊科学家 Virgil Griffith 未给朝方提供任何实质帮助:以太坊联合创始人 Vitalik Buterin 发表长文，澄清以太坊基金会科学家 Virgil Griffith 访问朝鲜是个人行为，未给朝鲜政府提供任何实质性的帮助，并在准备请愿书要求释放 Virgil Griffith。Buterin 表示，Virgil Griffith 是我的好友，访问朝鲜是他的个人行为，以太坊基金会并未提供任何形式的支持。对地缘的开放态度是一种美德，而 Virgil Griffith 的这个优点在之前就已经体现出来了，比如帮助增进了与以太经典、Hyperledger 之间的关系。我认为 Virgil 并未给朝鲜政府提供任何实质性的帮助，他根据有关开源软件的公开信息发表了演讲，这并不是什么高深的黑客技术辅导。我希望美国能专注到真正有害的事情上，而不是抓捕发表公开信息演讲的程序员。此前，纽约南区检察官办公室和联邦调查局宣布，已逮捕以太坊基金会研究科学家 Virgil Griffith，指控他违反美国制裁法案，前往朝鲜参加区块链大会，发表演讲并提供建议，帮助朝鲜利用加密货币和区块链技术逃避制裁。[2019/12/2]

但是，他们的分析发现，建立一种可以控制这种机器的算法从根本上来说是不可能的，人类与机器中心主任IyadRahwan说：

声音 | Heriot-Watt大学科学家：区块链技术在能源领域具有巨大潜力:据Coin Crypto Rama消息，在《可再生和可持续能源评论》中，苏格兰Heriot-Watt大学科学家称区块链技术在能源领域具有巨大潜力。该大学副教授Valentin Robu表示：“在能源应用中，区块链通常与人工智能（AI）技术相结合，如多智能体系统和机器学习，这些技术可以实现智能微合同和本地能源交换。”这有助于建筑系统和能源服务提供商识别消费者能源模式，并可根据消费者个人需求开发适合的产品。研究助理Merlinda Andoni补充说：“区块链可能被用于智能设备的自动化和安全通信，这将进一步促进智能电网应用和能源行业的脱碳化。”[2018/12/12]

如果将问题分解为理论计算机科学的基本规则，就会发现，命令AI不破坏世界的算法可能会无意中止其自身的运行。如果发生这种情况，您将不知道遏制算法是否仍在分析威胁，或者它是否已停止遏制有害的AI。实际上，这使遏制算法无法使用。

前华为首席区块链科学家、“区块链扑克牌大佬”黄连金出任FansTime技术顾问:今日，FansTime在官方twitter上发布公告称，华为前首席区块链专家黄连金已加入FansTime团队，出任技术顾问。据了解，黄连金是著名区块链专家，美国ACM Practitioner Board委员，中国电子学会区块链专家委员，前华为首席区块链科学家、首席身份认证管理架构师和技术副总裁、华为资深高端专家。曾就职于加拿大CGI集团，创建了CGI联邦身份管理和网络安全能力中心，并为美国联邦政府、金融机构和公用事业公司提供金融、区块链、安全等方面的专业咨询。[2018/3/6]

研究发现，由于计算的基本局限性，没有一种算法可以计算出AI是否会危害世界：

假设超级智能将包含一个程序，该程序包含通用图灵机在输入时可能会像世界状况一样复杂地执行的所有程序，那么严格的围堵要求对该程序进行仿真，这在理论上是不可能的。

到目前为止，这种类型的AI仍仅限于幻想领域。但是研究人员指出，这项技术正在朝着科幻小说作家所设想的超级智能系统的类型迈进。

研究的合著者，马克斯·普朗克人类发展研究所的曼努埃尔·塞布里安说：“已经有机器独立执行某些重要任务，而程序员却没有完全了解他们是如何学习的。”

“因此提出了一个问题，在某个时候这是否可能变得不可控制并且对人类构成危险。”

标签：区块链GILRIFFFI区块链工程好就业吗GilgeousHEARIFYAI币YFFI

莱特币热门资讯