ChatGPT（チャットGPT）などの大規模言語モデル（LLM）は、私達のコミュニケーションの手段を、総じて良い方向に変える新しいテクノロジーです。

人工知能（AI）言語モデルは、つい最近まで、幼児語の域を出ませんでしたが、突如として、革命についてまくしたてる生意気な大学生よりも巧みな話しぶりです。

エコノミスト誌の言語分野の第一人者で、同誌の「ジョンソン・コラム」の執筆者であり、最近出版された言語表現技法ガイドの共著者でもあるレーン・グリーン氏によれば、「私達は、深刻な破壊の時代を生きて」います。ChatGPT（チャットGPT）が最もよく知られている大規模言語モデル（LLM）は、既に、私達の行動手段を変え始めています。

ChatGPTは、検索エンジンとして極めて有効ですが、最も劇的な能力は、平均以上の能力を持つ人間が書いたと思わせる文章を生み出すことです。ここには、翻訳文、eメールや手紙、さらに長文の記事も含まれます。ChatGPTの文章生成機能は、ありふれた文章の翻訳や、既知の事実を集めて明確な語り口の文章に組み立てることにおいて、人間を補完する、あるいは人間にとって換わることさえ可能にします。また、弁護士に代わって、定型文を作成し、膨大な量の資料を処理し合成することも可能です。写真の作成や絵画の拡大が出来る生成AIもあります。学習材料のインプットが多ければ多いほど、効果が増すものと思われます。　

ホワイトカラーの労働者の多くは、こうした状況を、生活を脅かすものと捉えるかもしれませんが、すべてのホワイトカラーの脅威にはなり得ない、とグリーン氏は語っています。ChatGPTの類は、ありきたりの作業を再生することについては上達し続けることが予想される一方で、LLMの成果の監視などの、難易度が高く、よりやりがいのある仕事をするための時間を人間に提供することになるからです。

ChatGPTは、作業効率や生産性の低い労働者の救世主となる可能性さえあるかもしれません。コラムニストのティム・ハーフォード氏は、技術の進化によって、米国のアニメーションの主人公、ホーマー・シンプソンのような、最も作業効率の低い労働者に集中して、生産性の改善がもたらされる一方で、最も有能な労働者には、殆ど恩恵が及ばないことを示唆した研究結果を引用した記事を、フィナンシャル・タイムズに投稿しています¹

 

限界は認識されつつあるものの …

LLMは、革命的とも言える様々な能力を有する一方で、多くの問題を抱えています。例えば、捏造です。LLMの開発者には、理由が理解出来ないようですが、グリーン氏によれば、LLMの生成物に事実と異なる情報が含まれることは日常茶飯事です。また、多くの場合、説得力があるように聞こえることが、危険の度合いを増しています。

ニューヨークを拠点とする、ある弁護士は、ChatGPTに頼ることの危険性を身をもって経験しました。傷害事件の弁論趣意書の草案作成にLLMを使ったところ、架空の判例を6件引用しているとして、裁判官から譴責処分を受けたのです²。

ChatGPTにエッセーを書かせ、勉強を怠ける生徒にどう対応したらよいかを悩む教師もいますが、一つの方法は、ChatGPTの弱みに着目することです。課題を与えてエッセーを書くようChatGPTに指示した上で、完成物に誤った情報が含まれていないかどうか調べることを生徒に課し始めた教師もいます。

ChatGPTは、「インターネット上の膨大な量の資料を吸収」し、与えられた情報をうのみにして再利用することは得意ですが、私達が当然知っていることや、論理的な思考を要することにはうまく対処出来ない場合があるのです。グリーン氏によれば、ChatGPTは、1時間前に生きていて、2時間後にも生きている人が、その間の時間も生きている、ということは想定しません。こうしたことを指摘する材料がウェブサイト上に殆ど見られないのは、人間にとっては、敢えて言葉にする必要がないことだからです。

グリーン氏によれば、学習した材料のバイアス（先入観、偏見）を採用してしまう傾向があることも、ChatGPTの課題です。学習した題材が広範囲に及ぶほど、バイアスを取り除くことは困難です。学習内容を慎重に選別することによって、バイアスの排除や緩和を試みることは可能ですが、それではモデルの利便性が制限されてしまいます。また、「人種差別主義者と取られるような答えをしてはいけない」等といった明確な規則を、学習データに併せて設定することも可能ですが、そうした類の規則が完璧なものとなる可能性は極めて低いと考えます。

同時に、ChatGPTが利用する題材の幅が広いということは、クリスタル・メスやナパーム等の覚せい剤の作り方等、違法あるいは危険な情報を提供してしまうことにもなりかねません。ChatGPTの開発者は、安全策を導入してはいるものの、グリーン氏が言うように、ユーザーは日々、新しい回避策を見つけるものです。こうした裏口が存在するため、LLMの開発者は、訴えられたり、刑事訴追を受けたりしています。

…進化は止まらない

グリーン氏は、ChatGPTを、3つの観点から評価し、「事実の検索はA+、模倣は合格点ですが、二つの異なるものを結びつけることについては、辛うじて合格といったところです。重大な欠陥があるからです」と話しています。

ChatGPTには限界があっても、急速な進化を遂げていることは明らかであり、進化が続く公算は大きいと思われる一方で、言語モデルの構造、特に、訓練データへの依存度が高いことを考えると、真に独創性ある成果物を生み出すことには苦戦を強いられることが予想されます。

「”誰も知らないこと、あるいは、殆どの人が知らないことを見つけること”は、人間の手に委ねられるしょう」とグリーン氏は話しています。ということは、自分で取材せず、従って、裏付けのない既知の情報の焼き直しは別として、地に足の着いた、現場重視のジャーナリズムがChatGPTに取って換わられる公算は極めて小さいということです。独創性と新鮮さが重要な差別化要因になるでしょう。ブラックボックスは、熟慮を要する独創的な思考を生み出しません。新鮮な心象（イメージ）や隠喩（メタファー）によって生まれる、簡潔かつ明快で記憶に残る文章には、常に、生き残る余地があるのです。

ChatGPTは、文章作成の出発点を提供出来るとしても、歌うように流麗な文章にするには、人間が介在する必要があるのです。翻訳者は、LLMを使って作成させた原稿を、ニュアンスが失われていないか、微妙な言語上の落とし穴が回避出来ているかなどを確認するために見直す必要があり、いわば、編集者のような存在になると考えます。

人間は本物に飢えています。ChatGPTは、私達が文書に求めるものを変えるかもしれませんが、著作者を排除することはありません。「写真の発明が絵画を廃れさせることなく、何を、どのように描くかを変えただけなのと同じことです」とグリーン氏は述べています。

 

 

投資のためのインサイト

Anjali Bastianpillai（アンジャリ・バスティアンピライ）
ピクテ　テーマ株式運用チーム、シニア・クライアント・ポートフォリオ・マネージャー

 

ゴールドマン・サックスは、自然言語処理ツールが、今後10年で、世界のGDP（国内総生産）成長率を7%、労働生産性を1.5%押し上げる、と試算しています。

ChatGPTの潜在能力が100%発揮されるとしたら、このテクノロジーは、銀行業界では年間、2,000～3,400億米ドル、小売りおよび消費財業界では4,000～6,600億米ドル相当の価値を生み出す可能性がある、とマッキンゼーは試算しています。

ゴールドマン・サックスは、世界のソフトウェア市場が6,850億米ドル、生成AIソフトウェア市場が1,500億米ドル規模に拡大するものと予測しています。

 

 

[1] https://www.ft.com/content/74c63f77-f543-4be0-9cd9-2f5f40ba6f17
[2] https://www.reuters.com/legal/transactional/lawyer-used-chatgpt-cite-bogus-cases-what-are-ethics-2023-05-30/