Bloomberg GPT，金融分野専用ChatGPT登場！

ChatGPTが引き起こしたAIブームは、金融業界にも波及しました。

Bloombergは3月30日に、BloombergGPTの開発について詳しく説明した研究論文を発表しました。これは、新しい大規模な自然言語生成人工知能（AI）モデルです。金融分野は複雑で多くの専門用語があるため、専用のAIモデルが必要だとBloombergは述べています。

この大型言語モデル（LLM）は、さまざまな金融データに特化したトレーニングを受け、金融業界内のさまざまな自然言語処理（NLP）タスクをサポートしています。BloombergGPTは、OpenAIが開発したChatGPTと同様に、書面によるコミュニケーションを根本から変え、金融業界を根本的に変革することになるでしょう。

この記事では、BloombergGPTが具体的に何であるか、そしてそれがどれだけ素晴らしいかを紹介します。

BloombergGPT／圖Bloomberg

アメリカの金融情報会社ブルームバーグ（Bloomberg）は、金融分野に特化した人工知能AI情報処理アプリケーションを提供し、顧客により良い機能とサービスを提供するために独自のAIチャットボット「BloombergGPT」を開発したと発表しました。

Bloombergは、BloombergGPT大言語モデル（LLM）を金融データに特化してトレーニングすることで、金融分野の自然言語処理（NLP）タスクを全面的にサポートすると発表しています。これらのタスクには、財務データの迅速な分析、リスク評価の支援、会計および監査タスクの自動実行などが含まれます。

このモデルは、市場感情分析、実名実体識別、ニュース分類、問題回答などの既存の金融NLPタスクを改善するのに役立ちます。さらに、BloombergGPTは、Bloomberg Terminalで利用可能な大量のデータを活用して、顧客のサポートをより良くすることができます。

BloombergGPTは、研究者によって開発されたハイブリッドトレーニング法を使用して、金融データと一般的なデータセットを組み合わせてモデルをトレーニングし、金融基盤に最適な結果を得ることができると同時に、一般的なLLM基盤でも十分な競争力を維持することができます。

データの作成、収集、整理において、ブルームバーグのリソースを持つBloombergGPTは、これまでで最も大規模なプロフェッショナル領域のデータセットの1つです。

40年以上にわたり、ブルームバーグは、多数の金融用語が含まれる文書を蓄積してきました。開発チームは、この英語の金融文書から3,630億のトークンを含む金融データセットを抽出し、作成しました。そして、さらに3,450億のトークンを含む公共データセットと重ね合わせ、大規模なトレーニングコーパスである70億のトークンを含むデータセットを作成しました。一方、2020年にOpenAIが発表したChatGPT-3モデルのトレーニングコーパスは約5000億トークンです。

BloombergGPTのコーパスの一部を利用して、Bloombergの開発チームは5000億個のパラメータを含む純デコーダ（decoder-only）因果言語モデルをトレーニングし、トレーニングされたモデルをベンチマークテストしました。

金融分野のNLPタスクにはBloombergの独自基準が採用され、一般的なNLPタスクにはBIG-bench Hard、知識評価、読解力、言語タスクなどの一般的な基準が採用されました。テストの結果、BloombergGPTは金融タスクにおいては他の同規模の開発モデルよりもはるかに優れており、一般的なNLP基準テストにおいては同等の水準を維持し、これらの基準を上回る成績を収めました。

BloombergGPTは、2つの主要なNLPタスクでテストされました。それぞれ、金融特有のタスクと一般的なタスクです。／図Bloomberg

BloombergGPTは他の大規模言語モデルと同じトレーニング基盤を持っているため、ChatGPTに似た機能を持っていますが、彭博に関連するタスクも処理できます。例えば、自然言語の指示を彭博クエリ言語に翻訳して終端機のユーザーの好み機能を使用することができます。また、Bloombergスタイルのニュース見出しを書くこともできます。

Bloombergは、大規模言語モデルをベースとした人工知能が多くの分野で応用可能性を示しているが、金融分野の複雑さと独特の用語のため、金融専門の知能モデルが必要であると述べています。BloombergGPTの導入は、金融業界がLLMをベースとした人工知能の開発と応用に向けて第一歩を踏み出したことを意味します。

Bloombergは、今後BloombergGPTをどのように利用するかは明言していませんが、継続的なトレーニングにより、BloombergGPTは私たちが想像する以上の成果を達成する可能性があります。BloonbergGPTの今後の活用と発展に期待しましょう！