金融圈注意了 BloombergGPT来了

ChatGPT引爆的AI热潮也“烧到了”金融圈，彭博社重磅发布为金融界打造的大型语言模型——BloombergGPT。

3月30日，根据彭博社最新发布的报告显示，其构建迄今为止最大的特定领域数据集，并训练了专门用于金融领域的LLM，开发了拥有500亿参数的语言模型——BloombergGPT。

报告显示，该模型依托彭博社的大量金融数据源，构建了一个3630亿个标签的数据集，支持金融行业内的各类任务。该模型在金融任务上的表现远超过现有模型，且在通用场景上的表现与现有模型也能一较高下。

一般来说，在NLP领域，参数数量和复杂程度之间具有正相关性，GPT-3.5模型的参数量为2000亿，GPT-3的参数量为1750亿。

英国金融行为监管局：向英国消费者营销的加密资产公司必须为金融促销制度做好准备:金色财经报道，英国金融行为监管局（FCA）：向英国消费者营销的加密资产公司必须为金融促销制度做好准备。所有向英国消费者营销的加密资产公司，包括总部位于海外的公司，很快将需要遵守英国新的金融促销制度。[2023/2/6 11:50:06]

关于BloombergGPT

报告指出，研究人员利用彭博社现有的数据，对资源进行创建、收集和整理，通过构建迄今为止最大的特定领域数据集来完成BloomberGPT，并基于通用和金融业务的场景进行混合模型训练：

彭博社主要是一家金融数据公司，数据分析师在公司成立的四十年的时间里收集了大量的金融文件，拥有广泛的金融数据档案，涵盖了一系列的主题。

我们将这些数据添加到公共数据集中，以创建一个拥有超过7000亿个标签的大型训练语料库。

金融时报：全球监管压力下新加坡成为加密行业避风港:英国《金融时报》报道，随着美国、英国和中国在内的全球监管方收紧监管，新加坡正成为加密行业的避风港。目前，包括以太坊创始人V神和币安创始人赵长鹏在内的行业大佬均已常驻或移居新加坡。新加坡尚未向加密货币公司颁发许可证，但已暂时授予一些大公司豁免权，让它们能为当地散户和机构投资者提供服务。该国主权财富基金GIC和国有投资公司淡马锡已在加密领域投资了数亿美元。新加坡金融管理局（MAS）让外国加密货币集团更容易落户和开展业务。新加坡证券交易所也推出了两个加密货币指数。币安已获得豁免权，上月，该公司在领英发布了200多个新加坡招聘岗位。美国交易所Gemini已将新加坡作为亚洲总部，预计到今年底将员工人数增至50人。比特大陆创始人吴忌寒也在新加坡成立了一家初创公司。（金融时报）[2021/7/8 0:35:40]

使用这个训练语料库的一部分，我们训练了一个具有彭博风格的，达500亿参数的模型，该模型是根据Hoffmann和LeScao等人的指导方针设计，基于通用和金融业务的场景进行混合模型训练。

Pacific中国社区负责人：收藏品有可能从单纯的兴趣爱好到一个大的金融行为的转变:4月8日，《共识52》第16期由币赢CoinW CMO Lorreta洛一主持, 参与嘉宾有Pacific中国社区负责人 Sophie 、Enft. one核心开发者 Golden。

在直播间，Pacific中国社区负责人Sophie介绍，Pacific是新一代跨链多生态NFT聚合器和金融基础协议。关于牛市，Sophie认为，是大盘带来的牛市，头部的艺术家和平台的牛市，而NFT并没有“出圈”。但是，随着市场价值的不断提升，意味着收藏品有可能从单纯的兴趣爱好到一个大的金融行为的转变。艺术品数字化上链以后将有更大的空间和想象力承载社会上的资金涌入。

《共识52》由币赢Coinw团队倾力打造，以线上直播的形式呈现，直播内容包括主题演讲、圆桌论坛、大咖对话、百家争鸣等，共同探讨区块链行业新趋势、新格局、新风向。[2021/4/8 19:58:22]

结果表明，我们的混合训练方法使我们的模型在金融任务上的表现大大超过了现有的模型，而在通用场景上的表现则与之相当甚至优于现有模型。

金融科技服务商Plaid正在与DeFi创企Dharma与Teller Finance合作:金融科技服务商Plaid目前正在与至少两家DeFi初创公司悄悄合作：该公司确认了与Dharma的整合，后者是Uniswap友好的DeFi钱包，早期得到了Coinbase和其他公司的支持。另外一家公司是Teller Finance，该公司希望为以太坊区块链带来无担保贷款。

Plaid的英国总裁Keith Grose曾是谷歌钱包创建者，他对加密技术（和DeFi）将如何与金融科技革命同步发展有着这样的愿景：“我认为，在DeFi成为金融主要途径的一部分之前，还有很长的路要走，但这确实是一个令人兴奋的角落，也是我个人热爱的点。”Grose称，说服银行向金融科技开放仅仅是个开始，他认为加密技术是合乎逻辑的下一步。

Grose解释道：“我们只触及了开放银行业务的表面，因为它只覆盖支付账户。我认为关键是能够允许人们访问和使用他们的加密资产，同时使用更传统的预算应用程序和支付应用程序。从长期来看，你的Coinbase账户或Compound钱包没有理由不被包括在内，这样你就可以追踪它，并在许多其他传统应用中加以使用。”（CoinDesk）[2020/9/26]

动态 | 币安下月将上线BUSD，其已获得纽约金融服务局批准:币安宣布与Paxos建立合作伙伴关系，下个月将推出与美元挂钩的稳定币。该稳定币被称为Binance USD（BUSD），其已获得纽约州金融服务局（NYDFS）的许可，允许在美国各州流通。Paxos联合创始人兼亚洲分公司首席执行官Rich Teo在评论时表示，NYDFS批准BUSD是迈向全球加密市场长期稳定的重要一步。（financemagnates）[2019/9/5]

1.BloombergGPT优势：特定领域模型仍有其不可替代性且彭博数据来源可靠

在论文中，彭博社指出，现阶段，通用的自然语言处理模型可以涵盖许多领域，但针对特定领域模型仍有其不可替代性，因彭博社的大多数应用均为金融领域，着手构建了一个针对金融领域的模型尤其优势，同时可以在通用LLM基准测试上保持竞争力：

除了构建金融领域的LLM外，本文的经验也为其他研究领域的专用模型提供了参考。我们的方法是在特定领域和一般数据源上训练LLM，以开发在特定领域和通用基准上表现优异的模型。

此外，我们的训练数据不同于传统的网络爬取数据，网络上的数据总有重复和错误，但我们的数据来源可靠。

2.BloombergGPT的训练数据集：

BloombergGPT的训练数据库名为FINPILE，由一系列英文金融信息组成，包括新闻、文件、新闻稿、网络爬取的金融文件以及提取到的社交媒体消息。

为了提高数据质量，FINPILE数据集也使用了公共数据集，例如ThePile、C4和Wikipedia。FINPILE的训练数据集中大约一半是特定领域的文本，一半是通用文本。为了提高数据质量，每个数据集都进行了去重处理。

对金融领域的理解更准

报告指出，在金融领域中的自然语言处理在通用模型中也很常见，但是，针对金融领域，这些任务执行时将面临挑战：

以情感分析为例，一个题为“某公司将裁员1万人”，在一般意义上表达了负面情感，但在金融情感方面，它有时可能被认为是积极的，因为它可能导致公司的股价或投资者信心增加。

报告指出，从测试来看，BloombergGPT在五项任务中的四项表现最佳，在NER中排名第二。因此，BloombergGPT有其优势性。

测试一：ConvFinQA数据集是一个针对金融领域的问答数据集，包括从新闻文章中提取出的问题和答案，旨在测试模型对金融领域相关问题的理解和推理能力。

测试二：FiQASA，第二个情感分析任务，测试英语金融新闻和社交媒体标题中的情感走向。

测试三：标题，数据集包括关于黄金商品领域的英文新闻标题，标注了不同的子集。任务是判断新闻标题是否包含特定信息，例如价格上涨或价格下跌等。

测试四：FPB，金融短语库数据集包括来自金融新闻的句子情绪分类任务。

测试五：NER，命名实体识别任务，针对从提交给SEC的金融协议中收集金融数据，进行信用风险评估。

对于ConvFinQA来说，这个差距尤为显著，因为它需要使用对话式输入来对表格进行推理并生成答案，具有一定挑战性。

ChatGPT为彭博点赞

华尔街见闻就这个问题专门询问了ChatGPT，ChatGPT认为BloombergGPT是一项很有意义的技术进步：

它是专门为金融领域开发的一种语言模型，可以更好地处理金融领域的数据和任务，并且在金融领域的基准测试中表现出色。

这将有助于金融从业者更好地理解和应用自然语言处理技术，促进金融科技的发展。同时，BloombergGPT还可以为其他领域的语言模型的发展提供参考和借鉴。总的来说，BloombergGPT是一个有益的技术创新。

标签：GPTBLOERGLOOMgpt币团队blockchain怎么用尔格币ERG要上线okeLOOM币

Gateio热门资讯