ChatGPT类产品安全隐患解决？英伟达发布开源工具包

随着ChatGPT等AI聊天机器人自去年底以来迅速走红，对于它们安全问题的相关警告也层出不穷。尽管背后的开发者也在竭尽全力地想办法解决这些问题，比如实施资讯过滤和人类纠正那些被标记的问题，但效果都不尽人意。

有鉴于此，英伟达公司（Nvidia Corp.）周二正式发布了一个名为NeMo Guardrails的开源工具包，可以禁止AI聊天机器人提供那些受限的信息，使人工智能驱动的应用程序更加准确、适当、符合主题和安全。

Blockchain Australia CEO：政府不应该仍将加密领域视为“狂野西部”:上周在参议院关于澳大利亚作为技术和金融中心的特别委员会上，加密行业协会Blockchain Australia首席执行官Steve Vallas表示，该协会强烈抵制加密领域仍然“有点狂野西部”的说法，并一直“非常有意地要求监管机构与我们合作”。Vallas将这一描述的出现追溯到2017-2018年的ICO热潮，他指责政府对这一现象采取过于被动的“观望”态度。“今天的情况已经完全不同。我们看不到澳大利亚国内对ICO有兴趣，我们也看不到监管机构愿意让这种情况再次发生，因此我们有了新的篇章，但这种说法一直存在……当人们不了解这个领域时，他们倾向于将其描述成狂野西部、邪恶的坏人。”（Cointelegraph）[2021/8/9 1:44:10]

每个人都意识到了大型生成语言模型的力量，英伟达应用研究副总裁Jonathan Cohen说，以一种安全可靠的方式部署它们非常重要。

MakerDAO创始人：Chainlink社区不应仇视Maker 预言机不应遭到垄断:今日，MakerDAO联合创始人兼首席执行官Rune Christensen发推文称：“我向那些受到伤害的人道歉，因为我曾声称没有Maker就没有Chainlink。显然这是夸张。但我希望Chainlink社区能看看这些不同帖子里的垃圾信息，并重新考虑这是否是一个好的营销策略。无可否认，Maker开创了中值器（medianizer）去中心化预言机设计和链下聚合设计，Chainlink也采用了这两种设计，并且无可否认地受益于注意到Maker已经发布的产品的能力。我当然对此没有异议，事实上这就是开源和区块链的全部意义所在。但我只是不明白为什么Chainlink社区这么多年来一直用攻击、谎言和仇恨来瞄准Maker…… 所有这些都是为了继续使用世界上运行时间最长的去中心化预言机网络的‘罪行’。真的有人希望只有一个预言机垄断运行所有顶级DeFi协议吗？拥有这样一个关键基础设施的多样性不是更好吗？”[2021/7/4 0:25:40]

英伟达表示，NeMo Guardrails将作为终端用户和人工智能程序之间的一层防护墙。将其与传统软件混合，该系统将能够识别用户提出的事实问题，并检查机器人是否能够和应该回答这个问题。系统还将确定生成的答案是否基于事实，并控制聊天机器人给出回答的方式。

动态 | RYVL公司收购数字资产投资公司Blockchain Nordic:据proactiveinvestors报道，纳斯达克上市公司RYVL以47.6亿欧元（54.19亿美元）收购欧洲数字资产投资公司Blockchain Nordic。[2018/12/11]

例如，假设一名员工询问人力资源聊天机器人，公司是否为想要领养孩子的员工提供支持。这将通过NeMo Guardrails并返回包含公司相关利益的文本。询问同一个机器人有多少员工利用了这一福利，可能会引发拒绝指令，因为这些数据是保密的。Cohen还表示，英伟达已经在Guardrails的底层系统上工作了"多年"，但就在大约一年前意识到它很适合GPT-4和ChatGPT这样的模型。"从那时起，我们一直在朝着NeMo Guardrails的这个版本发展，"他说，"人工智能模型安全工具对于那些为企业用途部署的模型至关重要。"

财联社

媒体专栏

阅读更多

金色荐读

金色财经 善欧巴

Chainlink预言机

白话区块链

金色早8点

Odaily星球日报

欧科云链

深潮TechFlow

MarsBit

Arcane Labs

标签：CHAHAIAINChainCHADHeroesChainedchainlink币怎么挖3X Short Chainlink Token

Filecoin热门资讯