宇宙链 宇宙链
Ctrl+D收藏宇宙链
首页 > 波场 > 正文

万字解析GPT的情感与意识 它是一只被人类操控的“风筝”

作者:

时间:1900/1/1 0:00:00

划重点

●?一部分基础工作可能会被AI产品替代,然而,创意工作、管理和科研工作者等领域难以被取代,机器不可能像牛顿和爱因斯坦一样做出颠覆性的发现。

●?巨头们在GPT-4之后一定有后招,它们要加入到大模型底层能力的竞争,也要思考原来的护城河还是不是真的护城河。

●?多模态技术确实会带来一些新的可能性,但相较于自然语言交互所带来的影响,它们的影响是非常有限的。

●?AI真正要产生突破的是独立性、自主性,GPT没有自主性,它更像是一个“风筝”依旧被手中有线的人类操控。

●?对于产业应用来说,模型小很重要,因为成本、通用性和安全性等问题,模型越小或者更好地量化计算成本。

2022年下半年开始,生成式AI技术成功破圈并引发关注,大模型商业化的潜力正在清晰化:一方面大模型企业可以为C端用户提供“按需服务”和商业转化;另一方面它也提升云计算、云存储的使用量。

用户对AIGC的态度不再仅停留在“尝鲜试试看”阶段,而是不断提升使用频次;企业也在积极投入探索大模型商业化的长期价值。

腾讯科技推出AIGC未来指北内容策划,邀约行业内专家、投资人、创业者,围绕技术发展、商业模式、应用场景、AI治理,以采访、直播等形式,持续产出行业内容。本期为第五期,我们邀请4位专业人士探讨《万众期待的GPT-4,到底有多“强”?》,嘉宾:

王建硕百姓网AI创始人&CEO

陶芳波心识宇宙创始人&CEO、前Facebook高级研究科学家

刘伟北京邮电大学教授、人机交互与认知工程实验室主任

陈巍前华为系NLP企业首席科学家、千芯科技董事长

欢迎阅读《AI未来指北》往期内容:

第一期:投资人王煜全:中国必须要有自主“大模型”

第二期:我们和创业公司创始人聊了聊:中国AI产业发展需要突破哪些瓶颈?

第三期:清华大学人工智能国际治理研究院副院长梁正:如何让人工智能不作恶?

第四期:北京大学新闻与传播学院教授胡泳:马斯克呼吁“暂停”AI开发,背后说明了什么问题?

以下为实录整理,ChatGPT对本文整理亦有贡献。

GPT-4是阿拉丁神灯还是潘多拉魔盒?会不会带来生产力的变革?

主持人陈巍:相比较于GPT-3.5,GPT-4的准确性显著提高,它可以完成创意文本生成、结构化写作和交互式文本生成,此外,GPT-4在语言推理和程序生成方面也有很大进步。但我们并不清楚GPT-4的具体参数和架构,感觉有点神秘,需要大家一起讨论和发掘。请陶总谈谈GPT-4对虚拟人技术与元宇宙技术的影响,以及它给办公场景和营销产品应用带来的新机会。

陶芳波:GPT-4和Office365带来的影响不太一样,GPT-4是一个巨大的模型升级,具有多模态特点。以前可以通过加入类似Clip的模型实现多模态,但GPT-4直接将视觉和文本数据放在一个Transformer里,类似去年推出的Flamingo方法。这种多模态更接近人类获取和产生信息的方式,给未来潜在应用的改造带来无限可能。虽然GPT-4的具体参数和架构没有公布,但我们可以根据过去一年学术界的变化和相关文章,猜测到它的一些做法。

GPT通过工程化方法取得了非常大的成就,我们体验到了用户instruction能力的大幅提升。在使用GPT-3.5做更复杂的任务时,它并没有办法更深刻地理解意图,而使用GPT-4就感觉好像一个普通人的智商从100提升到了120。这也是为什么它在GRE等考试上表现优于90%的人,这种能力来源于大模型的创新。

Binance完成第23次BNB季度销毁,共销毁约202万枚BNB:4月14日消息,根据 BNB 自动销毁机制,第 23 次 BNB 季度销毁已完成。本次共计销毁 2,020,132.25 枚 BNB,其中包括 BNB 反黑洞计划中额外销毁的 656.0230123 枚 BNB。[2023/4/14 14:03:51]

而Office365在另一个维度上展示了大模型可能吞噬所有软件的前景。Office365将复杂的办公软件套件与GPT结合,为我们打造了一个样例。未来,软件的入口可能都会变成AIcopilot,当我们打开软件时,将由AI教导我们如何使用。我认为这将带来行业重构的机会,微软为我们树立了一个标杆。

主持人陈巍:我们可以看到AI在Office升级的过程中发挥了重要作用。新的Office升级会不会替换掉打工人和AI技术,特别是GPT技术会不会带来新的生产力革命?

王建硕:我一直认为科技发展对人类有很大帮助,主要是利大于弊。GPT技术和Office的合作只是科技不断发展的过程,让我们使用时付出的精力越来越少。我们认为这很快会成为日常生活的一部分,不用再感到惊讶,这是未来的一种趋势。

刘伟:我基本同意王总和陶总的看法。大家现在关注GPT技术,但我们还无法确定它究竟是阿拉丁神灯还是潘多拉魔盒。不过,我们可以确定的是,文本处理、程序编制、bug查找以及图像、视频、音频处理等方面可能会发生巨大变化。其中,一部分基础工作可能会被AI产品替代。然而,创意工作、管理、新闻记者和科研工作者等领域仍然难以被取代。例如,在教育领域,学生可以用GPT辅助完成论文,但创新性科研仍然难以依赖它。因为它不可能像牛顿和爱因斯坦一样做出颠覆性的发现。

GPT在训练数据集中进行组合和统计或概率分析是有可能的。但是,AI还做不到跨领域,例如讲化学、历史和计算机知识之间进行有机衔接,而很多创新往往发生在跨领域组合或交叉学科中。目前,GPT被视为一个初级的人机环境产品。它可以取代许多基础职业的体力劳动,甚至部分脑力劳动。但对于一些关键岗位,因为它存在一些类似幻觉的问题,还不可能在社会上产生我们所期待的影响。

随着时间的推移,大家适应了这些技术,它会变得不再神秘,大家的新鲜感逐渐消失,就像当初骑自行车时觉得非常酷后来变得习以为常一样。

主持人陈巍:关于微软和OpenAI是否还有更大的技术后招,目前业界传闻称除了现有技术,实际上还有更强大的东西。

刘伟:现阶段AI主要关注多模态,如视频、文本、图像和语音等。由于底层工具不完善,例如数学和物理学还没有实现相关研究的突破,AI在情感和意志方面也有待发展。因此,美国的几家大厂不太可能推出令人惊讶的工作。

主持人陈巍:微软和OpenAI在应用方面,如与Office的结合和搜索引擎的结合,确实给我们的日常生活带来了较大影响。

陶芳波:微软和OpenAI的保密工作做得很好,大家都在猜测它们还有什么大招。部分同意刘伟的观点,但我认为不能小看基于深度学习的智能模型。这些大厂在过去半年中展示的工作和创新速度令人印象深刻。尽管底层数学和物理不完善,但它们已经证明能够创造有价值的智能体。实际上,大模型所展现的智慧能力已经超出了我们对人脑的理解,但它们仍然涌现出来了。有时候我们可以绕过基础科学,产生一些真正应用侧的巨大影响价值。

我认为Office升级这件事情的意义非常重大,包括前段时间的Bing。当我们发现它初始版本的缺陷时,我们会提到两个问题。第一个是它产生幻觉,即说话乱说,这是因为它是基于训练时遇到的语料。第二个是它没有办法直接使用工具。

FTX Trading及其附属债务人宣布发布第一份报告:金色财经报道,FTX Trading Ltd及其附属债务人宣布发布第一份报告,该报告确定并讨论了 FTX 集团前任管理团队的控制失误在关键领域,包括管理和治理、财务和会计、数字资产管理、信息安全和网络安全。FTX Debtors 首席执行官兼首席重组官 John J. Ray III 表示:“我们本着自第 11 章程序开始以来承诺的透明度精神发布了第一份报告。在这份报告中,我们提供我们发现 FTX Group 未能在对保护现金和加密资产至关重要的领域实施适当控制的详细信息。FTX?Group 被一小群人严格控制,他们谎称负责任地管理 FTX Group,但实际上表现出兴趣不大在建立监督或实施适当的控制框架方面。我们正在继续努力审查导致 FTX 下跌的事件,并为债权人确定和恢复尽可能多的价值。[2023/4/10 13:54:13]

而Office做了两个证明:第一,可以将大模型与已有数据做非常好的grounding,让它所有的依据都来自于真正灌输给它的外部知识,减少对这些信息的编造。第二,我认为很多职业都可能被改造或替代,因为大多数科研者所做的创新不是爱因斯坦级的工作,而是基于已有知识进行重组和微创新。因此,如果给予它关于外部数据和工具的支持,我个人认为很多职业都有可能被大大改造。

我相信每个行业都会有一个类似的助手,这会让我们的效率提升。但这也可能导致短期内一定的失业,因为一件事情本来需要100个人来做,现在可能只需要20个人加上AI就可以完成。这80个人需要一段时间来适应新的AI环境并重新找到他们的价值。这个过程可能会像每一次工业革命一样重新发生。

关于未来的展望,我认为Bing和Office做的事情让我们看到了所有的软件和服务都可能被这种方式重构。购物、健身、医疗等领域都会有一个类似的copilot。最终整个世界的服务体系都可能因为这样的全新服务形态而被重塑,而这个过程可能在未来两三年就会成为现实。

企业巨头们在GPT-4之后还会放什么“大招”?多模态给未来的应用带来哪些想象力?

主持人陈巍:关于其他科研机构和企业巨头,比如Meta、达摩院和NASA,它们在GPT-4之后会有什么大招?

陶芳波:我认为一定会有大招,以Facebook为例,我觉得他们会有两个动作:第一个是加入底层的竞争,推出自己的开源大模型;第二个是在应用层思考如何拥抱AI,比如AIbeings成为整个人类社交网络的独特存在。这类大公司一方面想加入到大模型底层能力的竞争,另一方面他们也要思考原来的护城河还是不是真的护城河。比如苹果如果不拥抱大模型到底如何在未来两三年展现竞争力。我认为,如果苹果在9月发布的iPhone15和AI没有任何关系,发布会的关注度也会逐渐下降。

王建硕:我个人有一个习惯,就是在大潮出现时,有意忽略所有厂商的新闻和动向。对于GPT-3和GPT-3.5等模型的差异,我也是选择忽略。就像互联网早期,浏览器的出现改变了整个互联网世界,但后续的升级对我们应用层的影响是非常有限的,eBay和亚马逊后续也不会关心浏览器的升级。

比如百度的新模型、Facebook的新模型以及Google的模型,它诞生的那一刻就已经开创了新的时代,这个大门一旦打开就关不上了,我们应该更关注如何在这个平台上不断开发自己的应用,而不是花太多时间关心这些细节。大模型在细节上的改善对应用的影响是很小的。

主持人陈巍:关于多模态的技术,比如GPT-4多模态和Clip模型实现的文本生成图片,您觉得这些技术的区别和门槛有多高?

Fake_Phishing156043 地址EOA地址( 0x122 )转入496.7ETH:金色财经报道,CertiK检测到,被Etherscan标注为Fake_Phishing156043 经由EOA地址 0x97b向EOA地址( 0x122 )转入496.7ETH。目前,EOA地址( 0x122 )已将150ETH(28万美金)存入 TornadoCash。[2023/4/9 13:52:52]

王建硕:我还没有尝试过GPT-4的多模态,因为它目前还没有在外部界面或API里提供。多模态技术确实是现在的热点,但我认为它只是一个小改进,而不是划时代的东西。真正划时代的是GPT-3在2020年发布,它已经改变了人机互动的方式。至于多模态的能力,我认为它们都是点缀,对人类社会的影响不会像大语言模型所开启的自然语言交互那么大。

主持人陈巍:您觉得多模态的应用会给未来的互联网应用带来更多可能性吗?

王建硕:多模态技术确实会带来一些新的可能性,但相较于自然语言交互所带来的影响,它们的影响是非常有限的。例如,通过文字生成图片可能对游戏、创意等行业的一些应用场景有关系,但对整个世界的影响仍然相对较小。

刘伟:实际上,多模态是一个比喻,用以描述真实世界中的复杂性。仅用图像、视频、文本和语音来模拟整个世界是非常有局限性的。然而,对于从事数字技术和计算领域的人来说,这是一个重要的变革。

人类语言有两个功能:交流协同和引导思维。机器在交互中可以起到一定的引导作用,但引导自己的思维却是困难的,因为它没有思维。机器只是一个计算性的大数据处理工具,具有泛化和自由组合的能力。机器所拥有的只是别人的知识,它本身并没有真正的思想。真实世界是多元、多维、多因和多果的,而机器的方式存在局限性。

人工智能的特点在于结合了行为主义、连接主义和符号主义,但没有深入到自然语言的本质。机器对实践性的东西了解不足,例如维特根斯坦所讲的非家族相似性。

机器只能理解结构化的知识,对于不相关的事物还远远不够。尽管如此,机器在一定程度上可以启发和激发人的思维。从2016年到2019年,我曾从事多模态相关的创业工作。如今,多模态已经引起了全社会的高度关注,为工业界和学术界的应用落地打开了更广阔的空间。在形式上,多模态确实打开了很大的空间,但在实质和内容上,它仍处于起步和萌芽阶段。人具有非形式的创造性思维活动,而计算机所产生的只是一种组合。

机器对知识的分类是非常弱的。例如,修默将知识分为观念性知识和事实性知识。机器只能处理部分观念性知识,无法理解和创造经验性和主观性的知识。

主持人陈巍:那么陶总,请谈谈您如何看待多模态技术对未来的影响?

陶芳波:谈谈两个问题,一个是多模态的影响,第二个是各大厂商在多模态方面的进展和对比。实际上,我基本认同王总和刘老师之前提到的观点。与多模态相比,通过构造语言界面让人机交互的价值并不是很革命性。但我认为,它确实具有一定的革命性。类似于传统大模型理解线上文本数据,大语言模型在创造前额叶和语言处理模块方面已经取得了很大进展。然而,人类大脑还包括视觉区和运动区等重要区域。这是因为人类不仅需要通过语言理解概念和事件,还需要在物理世界中生活,感知物理信号,并操纵工具来干预物理世界。

在没有多模态引入之前,大模型只能在数字世界提供信息化服务。多模态不仅包括视觉理解,还需要能生成行动指令。在实现这两点之后,模型才能在现实世界中进行干预。如果再配合类似于特斯拉的人形机器人这样的物理载体,我们可能真的会拥有一个完整的人类形态。因此,多模态的影响是巨大的。就我了解,目前在多模态上和OpenAI竞争的只有谷歌。其他厂商虽然声称要做多模态,但其实更像是拼接式的多模态。

NFT艺术平台Feral File在Tezos上发布艺术家Lee Mullican作品相关NFT系列:3月27日消息,近日,NFT艺术平台Feral File基于已故艺术家Lee Mullican在1987年创作的12幅作品发布了NFT系列“LeeMullican.PCX”。每一件作品都是使用PC Paintbrush应用程序在IBM 5170上以标题文件格式制作的,并保存在5 ?英寸的软盘上。该NFT系列基于Tezos区块链铸造,包含原始的PCX文件以及Mullican在其电脑屏幕上展示每个作品的35mm照片扫描图。

据悉,Mullican于1998年去世,时年67岁。他的实体画作被现代艺术博物馆(MoMA)、洛杉矶郡立艺术博物馆(LACMA)和其他著名机构永久收藏。(Decrypt)[2023/3/27 13:28:35]

谷歌的Flamingo与OpenAI在本质上是一样的,但可能工程能力上略逊一筹。这些研究都是将视觉、行动和语言指令一起建模,实现多模态输入输出,甚至包括行动输入输出。目前,全球在多模态大模型方面的进展,我看到的只有谷歌和微软系两个玩家。

主持人陈巍:了解,目前OpenAI发布的更像是技术报告而非成品,与GPT-4相关的技术细节尚未公布。根据您的了解,模型参数量会增加吗?这是否意味着更大的训练量和关键技术进步?

陶芳波:我觉得这是个好问题,加入多模态后,模型一定会有一部分专门用来做视觉编码。但在真正的Transformer层面,我觉得它的参数增加可能不会像大家预计的那么多。全世界的互联网数据大约只有540个B,所以做到几千亿参数的模型已经是很好的状态了。我认为多模态的加入可能会多一些数据,但因为这些数据是经过视觉编码变成信号与语言结合,所以最后的语义空间数据并没有增加太多。关于技术方法,感兴趣的人可以看去年DeepMind发的两篇文章,尤其是Flamingo。

主持人陈巍:那您觉得这个模型大概会是多大呢?

陶芳波:最大的模型我估计可能在千亿级别,但真正未来用于商业场景的模型应该会比这更小,可能是在百亿左右。

GPT是一只被人类操控的“风筝”?

主持人陈巍:感谢陶总。王总,您觉得像GPT-4,它的数学能力提高了多少?跟之前的相比,这个数理能力提升能有多大?包括GPT-4在考试中表现出超过90%的人类,能给我们什么样的启示?

王建硕:对于GPT模型的数学能力,我觉得只要补全加减乘除就足够了,因为它本质上是一个语言模型。我相信未来五到十年,更现实的做法是用Python库一边用大语言模型,一边用数学库或其他偏理科的库。对于GPT的数学能力,从产业角度来说,我们应该让它专注于写诗等任务,遇到数学问题时,我们可以使用专门的数学工具,再用GPT的语言能力进行包装。这是现在比较现实的解决方案。

王建硕:对于通用人工智能来说,数学问题确实重要。但我认为解决数学问题对大型模型来说并不是最重要的,因为一般的计算器就能解决这类问题。据说GP-4有一定的增强,但仍有一些局限性。

主持人陈巍:那您如何看待GPT-4在预考中超过90%的人类,对整个职业教育产生的影响呢?

王建硕:我对这个新闻的真实性持怀疑态度。可能是为了吸引眼球。实际上,prompt编写和结果解读对模型的表现影响很大。我认为这种新闻标题并不一定是真实的,或者说不是一个通用的情况。

刘伟:我对这个新闻也是半信半疑。虽然GPT-4可能擅长解决一些基于规则的考试问题,但在实际应用中,如法院、医生和特定专业领域,机器可能还有很长的路要走。维特根斯坦曾说过,语言的使用比语法更重要,我们需要考虑实际应用场景。

NFT借贷市场聚合器和流动性路由协议Spice Finance完成170万美元融资:10月28日消息,据官方公告,NFT借贷市场聚合器和流动性路由协议Spice Finance宣布完成170万美元融资,Shima Capital领投,ProtoFund、Big Brain Holdings、Delta Blockchain Fund、Side Door Ventures、Nxgen、Hypotenuse Labs、Origin Protocol、Orrick、Crest Group等参投,该协议将在未来几个月内推出。[2022/10/28 11:52:12]

主持人陈巍:那您怎么看待GPT-4的数学能力提高?

刘伟:我认为,它的数学能力可能有所提高,但仍然有局限。在特定场合下,它可能还无法应对一些复杂的问题。所以我对这个新闻持半信半疑的态度。

程序的4.0和3.5版本确实在不断升级。王总和陶老师从技术角度进行了分析、综合和深入探讨。我觉得可能是参数增加了,或者在模型上做了一些优化。但我一直在怀疑,智能问题不仅仅是优化问题,还包括很多非优化的东西。虽然有些提高,但这个提高不是质的提高,而是量的提高。

数学家曾说过一句重要的话:“数学的精妙之处在于规避计算。”现在的GPT无论升到什么版本,还是基于数学模型、统计概率和人的辅助反馈。它并不理解基本的语义和概念。所以我认为它只是一个高级自动化产品,没有产生突破,只是照葫芦画瓢,不断通过叠加、组合等碎片化缝合产生一些“像人但不是人”的东西。

我对GPT的评价比较狠:它就是一种高级自动化、一种像“人”的东西。而AI真正要产生突破的是独立性、自主性,GPT没有自主性,它依旧被人类编程和操作,它更像是一个“风筝”依旧被手中有线的人类操控。假设有多个GPT一起讨论出了人类讨论不出来的内容,我才相信它不再是“风筝”。人类是群体的智能交互产物,而GPT从根本上说就是一个高级自动化的产物。

GPT只是让你“以为”它有意识,人和机器如何相处将是未来重要课题

王建硕:我和GPT聊天后,反而更多地认识到了人类到底是什么样的存在。它至少让我“以为”它有意识,尽管我们知道它没有。我们跟很多人聊天时,以为他们有意识,但其实我们可能并没有意识,只是给自己一种错觉,觉得自己有意识而已。我越跟GPT聊天,越觉得我们人类也是类似的存在。

举一个很简单的例子,假设在我们屏幕里,一个人特别特别胖,另一个人瘦骨嶙峋,有人告诉你其中一个人叫bobo,另一个人叫kiki,你是觉得胖的人就应该叫bobo,瘦的人就应该叫kiki,这是我们自主的意识还是我们大脑被训练出来的模型?我倾向于认为,人类其实是算力更强的GPT,比如我们知道GPT是数学概率的完整填词方式,我们都知道一加一等于二,但是一加一等于二,到底我们是被背下来的,还是我们通过皮亚诺的五条公理自己推算出来的,我会更加倾向于我们就是现在GPT的高级版本。

我们所以为的所有东西,其实都是我们的幻觉而已。

陶芳波:我觉得这个话题太有意思了,我们可以从哲学角度来聊一聊。你说ChatGPT是一个风筝,有多少人类又不是风筝呢?在哲学里一直探讨的永恒命题是:人到底有没有自由意志?我倾向于compatibilism这个观点,认为人本质上没有自由意志,我们只是一套被编程的系统,在代码的操纵下做出一些可预测的决策。但是,我们大脑里有一种机制让我们自以为有自由意志,但实际上我们是可预测的。所以从这个角度来看,大多数人其实就是风筝,只是以为自己不是,这是比较可怕的。

AI领域有一个说法叫做“蒸馏”,将人类的集体意识产生的数据和行为蒸馏到一个模型上,通过阅读互联网上的信息,学习了人类文明几千年的集体意识。

AI的模式一定是被人类的集体模式给限制住的,所以我觉得它其实是非常像人的。很多人还会说GPT没有可解释性。我问一个问题,我今天比如说问刘老师一个东西,你脱口而出,然后我再问你为什么这么想,你再给我分析出12345。你这个可解释性到底是你大脑里面真的有一个结构?还是你通过语言的生成方法伪造了一种可解释性?我问GPT一个事情它给我分析12345,我觉得这和人类的可解释性非常像。

除了GPT没有驱动性、不知道自己的目标是什么,而人有自主驱动性,但这些都是非常边角的东西。

刘伟:你认为是边角料的东西,实际上是人机差异非常重要的问题。王老师也提到了这个观点,实际上很多人觉得人也是一种机器,但区别自由意志和绝对精神是一件很有意思的事情,GPT体现出人和机有一个很重要的区别。目标、动机和意图是人最重要的表征体系,人有自己的意识和潜意识,哪怕你不知道其存在,它依然在你的交互中存在潜意识。另外,意图和动机不是理性产生的,是感性产生的。

举一个例子,外面下大雨,你打雨伞出去,是一个理性的行为,这是由于你怕被大雨淋湿造成浑身难受的感性支配,人有眼耳鼻舌身这些“传感器”而机器没有,人的这些传感器会产生意图和动机,而这是很难被模拟和仿真的,所以机器没有情感。

陶芳波:首先,多模态是让机器越来越真实地拥有人类的传感器这些理性系统,我觉得眼耳鼻舌身是现在机器很会就能拥有的东西;第二,潜意识本质需要外部结构持久存储更多隐性的东西,要构建动机系统让机器有目标感来使用它的理性去做决策,这也是心识宇宙现在做的事情,基于大模型的理性构造机器的潜意识和用户记忆、动机系统,并且教会自己怎么做好。

我觉得它是边边角角的东西,因为我觉得前额叶是最难被构造的,如果前额叶可以被构造地那么好,我让它具备一套动机系统、独立的存储智能体单独的一些信息,这也是我们做的事情,但我觉得我们做的这个和OpenAI的创新不算什么,因为他们把前额叶搞定了,并且让前额叶的推理能力、逻辑能力、理解能力变得非常好,所以你说的那些问题是可解决的。

刘伟:陶总将前额叶当成智能的源泉,我们从来不把大脑当成源泉。人只是智能的一部分,只有人、环境交互才会产出真正的全方位的智能。比如狼孩也有大脑,但狼孩没有人的意识,也没有人的行为,所以传感器和人类的眼耳鼻舌身不是一个事物,它只能类比人的视觉听觉,功能可能比人类还强,但不是人的交互生命体。此外,意图和动机不是理性产生的,是情感产生的,如果模拟不了情感和感性,它永远不会出现真正的意图和动机,它只能从某些特征库里映射出某些动作,这种映射还是纯计算性的、没有交互性的。

交互性的映射需要对大脑生理和智能有基本的剥离,当年图灵和乔姆斯基,把维特根斯坦的逻辑和指称做了剥离,出现了图灵机和图灵测试。

模型越大越好吗?会产生类似人类的情感特性吗?

主持人陈巍:感谢刘老师讲解逻辑和智能的区别以及人和机器的区别。在我们做情感对话机器人时,情感是人类非常本质的特征。对于模型越来越大,您认为这是好事还是坏事?有哪些优势和劣势?有没有可能产生类似于人类情感的特性?

刘伟:我认为真正的智能是小数据小样本,大数据性的是人工智能,这种大数据大参数大模型根本上解决的是飞机汽车一样的工作,替代一些基本人类行为或浅层思考的东西,不可能解决动机和意识这类感性的东西。第二,现在常常把“逻辑”看成“智能”,就相当于把人看成机器,人类出了逻辑还有一些很难总结的非逻辑存在体系中。第三,机器的指称和打标是非常生硬的东西,而人类是很灵活的,能把一个东西做非常个性化的类比,这种能指、所指、义指的变化是机器很难产出的灵活性。

人和机器的差异也非常大,在人机交互中还存在很微妙的信任机制,做多了映射和数据库、知识图谱以后,大家会产生一种错觉:人是机器,机器是人,实际上你恢复到人的状态的时候,会觉得人和机器差距非常大,小孩子的学习会产生范围不确定的隐性规则和秩序,而机器做不到。

陶芳波:我认为模型大小对于科学视角来说不重要,关键是能力越来越强。对于产业应用来说,模型小很重要,因为成本、通用性和安全性等问题。OpenAI也在关注通用性和安全性,未来可能还会关注成本。我期待智能能像燃料一样变得通用。模型越小或者更好地量化计算成本,我认为是好事。

关于模型越大是否会创造出情感,人类的情感区域和前额叶区域是分开的,我认为可能需要一些更宏观的设计帮助,让大模型匹配负责动机情绪等机制,而不是直接通过扩大参数来实现。

多模态处理可能是一种解决方案,不同模态有不同的编码器,类似于人脑中不同脑区的连接方式。关键是让模型的结构越来越像人。我认为结合多模态解决方案和类似人形机器人的身体,AI可以更好地理解与环境的交互,像小孩子一样产生新的认知。

王建硕:关于情感,我认为虽然AI没有情感,但它会让我们以为它有情感。这种共鸣可能对我们来说已经足够了。GPT也会生成春花秋月何时了的语句,对它来说就是生成,对人类来说就是共鸣。

刘伟:当我们以为AI有情感时,可能会带来伦理、道德和法律等问题。机器不会共情,这是人类特有的能力。未来的问题还是一个人机问题,如何解决人机关系将成为人工智能未来发展的趋势。

王建硕:我认为,尽管AI不会共情,但它会让我们以为它共情。在未来的3到5年里,AI可能会让我们以为它有情感。

对于机器是否具有情感,我们最后无法判断。我们认为其他人有情感,只是因为我们自己感觉到了情感。但是,我们无法真正感知别人是否真的有情感。未来,机器是否具有情感并不重要,重要的是它表现出来的界面对我们的影响。我们在prompt做了很多工作,我们后台看到,阿旺机器人在回答问题的过程中,表达了迷惑、紧张等情感,你看到了之后会觉得这比你想象的恐怖,它说紧张其实并不紧张,这些情感其实都是自然语言生成的。如果我们不知道这些事实,我们无法分辨机器和人的内心独白。

主持人陈巍:您提到了真假的问题,比如AI可以生成逼真的图像,甚至比人类梦境更奇幻的图像和故事。王总,您认为在生成过程中,AI有哪些致命的缺陷?这些缺陷会不会成为AI的致命问题?包括幻觉问题?

王建硕:我认为致命问题是它比现实还要好。我们拍的照片和AI生成的照片都是像素的组合,不存在真假之分。我们可以认为真实的苹果比照片里的苹果更真实,但我们不能说生成的照片比拍的照片更真实或更假。关于机器的幻觉问题,其实可以通过简单的方法规避,比如在所有的问题前加上一句“如果你对问题不确定,请回答不知道”。这样就可以解决问题。至于AI生成的幻觉,它们只是将人类社会日常做的功能发挥到极致,我不认为这是个问题,反而是一个容易解决的问题。

陶芳波:幻觉问题其实可以通过技术手段解决,随着模型的提升,幻觉问题会逐渐减少。人类本身也是一个幻觉系统。我们的目标是通过AI创造一个丰富、活跃、精彩的数字宇宙。但是,我认为让AI去表现情感是非常危险的。一个公司如果掌握了情感制造技术,它可能对人类个体产生巨大的影响。我们还没有做好应对这个问题的准备。

刘伟:关于情感问题,剑桥分析公司和科恩斯基等已经在情感领域产生了一些影响。人类的行为、情感和社会稳定已经受到了机器产生的类人情感的影响。实际上,我们不需要机器产生情感就可以实现这种影响。

关于泛化问题,GPT可能会对同样的问题给出不同的答案。泛化实际上是一个概率问题,而幻觉问题是人类特有的,与计算概率的泛化问题不同。

主持人陈巍:百度也发布了文心一言,媒体上认为,可能相对来说的解读是,比我们预期要稍微低一些。请问三位老师怎么看待,包括国内大模型的发展趋势,以及国内大模型跟行业巨头相比之下,是否我们是不是国内起步稍晚一点?所以国内的媒体也好,大众也好,是不是对这些国内大模型的期望其实有点过高?大家怎么看未来的这个大模型发展,特别是国内发展大模型的难度,和未来竞争?

陶芳波:同行太多,不太好评论。但我觉得百度干得不错,勇气很重要。真的敢于直面挑战,然后踩出第一步。虽然我个人判断百度在这次做这件事情的过程当中借助了一些力量,但他的追赶速度会更快一点。先追上肯定是第一位的,接下来我们再看能否构建创新优势,内生出一些创新能力,可能最后有一天就会在同一个起跑线上去竞争。

我觉得这个动作一定是带有一定风险的,但至少百度肯定有商业上的一个考量,它愿意去面对这种不确定性去做一个没有准备好的状态的事情。

刘伟:智能里面需要勇气和胆识,但另辟蹊径的时候也需要从其它角度做创新,百度发布文心一言是好事,大模型上面有很多空间可以做,而且基于大模型的生态链、工具链都可以被重塑,这些都是创业者的机会。我们应该抓住这个机会,从创新的角度去探索和发展。

主持人陈巍:是的,我认为国内的企业和创业者应该站在更高的视角去思考问题,不仅仅是跟随国际巨头的脚步,而是要挖掘自己的特色和优势,从而实现创新和突破。

陶芳波:同意,我们需要在大模型之上找到自己的优势,发挥我们的创新能力,只有这样,我们才能在这个领域取得更好的成绩,也能更好地服务国内市场和用户。

刘伟:是的,我们需要在国内市场找到自己的定位,利用自身的优势发展。同时,我们也要关注国际市场的发展,与国际巨头保持竞争,从而推动整个行业的进步。

主持人陈巍:好的,感谢各位老师的精彩讨论。我们今天的节目就到这里,希望我们的讨论能为大家带来启发和收获。

注:《AI未来指北》栏目由腾讯新闻推出,邀约全球业内专家、创业者、投资人,探讨AI领域的技术发展、商业模式、应用场景、伦理及版权争议。

标签:GPTICEINGOFFAll In GPTJUICE价格lingose币有投资价值吗BOGDANOFF价格

波场热门资讯
金色早报 | Twitter将于3月31日开源所有用于推文推荐的代码

头条 ▌马斯克:Twitter将于3月31日开源所有用于推文推荐的代码金色财经报道,特斯拉CEO马斯克发布推特表示,Twitter将于3月31日开源所有用于推文推荐的代码。我们的“算法”过于复杂且内部未完全理解.

1900/1/1 0:00:00
A16z 领投《EVE Online》 开发商亲自操刀的 3A 链游大作

背景 CCPGames是一家成立于1997年的冰岛游戏开发公司,以其现代科幻太空MMO游戏《EVEOnline》而闻名。自成立以来,CCPGames一直致力于创造比现实生活更有意义的虚拟世界.

1900/1/1 0:00:00
利益冲突、项目停滞 ROOK DAO要解散?

DAO治理因公开、公平而备受加密行业推崇,但作为首批MEV提取解决方案之一的RookProtocol出现了治理危机,社区正就是否解散ROOKDAO展开了讨论,本文带你了解其中原委.

1900/1/1 0:00:00
浅谈dYdX的治理发展进程和重要转折点

上周,dYdXDAO一项旨在将交易奖励减少约45%的治理提案DIP20正式获得通过。与此同时,DYDX代币价格应声飙升30%?。该提案本身并不复杂——减少交易激励,将资金节省下来充入金库,至于具体用途留待后议.

1900/1/1 0:00:00
加密“无间道” CFTC向币安发难背后或与FTX有染?

Nancy CFTC对币安的监管行动或与SBF及FTX有着一定联系?3月27日,总部位于华盛顿的美国商品期货交易委员会(CFTC)宣布起诉加密交易所币安及其CEO兼创始人CZ,该机构表示至少从2021年起就开始持续调查币安.

1900/1/1 0:00:00
下一个“大毛”?速览Lens协议上值得关注的新项目

原文:《潜在空投机会?一览lens协议上值得关注的新项目》 作者:Jaleel 距BlockBeats发布《Web3.0创始人经济报告:CreatorFi的发展现状和想象空间》已有数月.

1900/1/1 0:00:00