- ビジネスに関する時事情報
- デジタル化・IT化によるビジネスの自動化・効率化
- ホームページ作成
- ビジネス効率化に有効な情報機器の紹介
- デジタルマーケティング
- ロボット・IoT・AI (人工知能)・その他
【運営元】株式会社ダークマター
【その他】プライバシーポリシー
今回は全11回中の11回目です。
第1回 1 Introduction：はじめに
第2回 2 What Are LLMs?：LLMとは何か？
第3回 3 Applications：応用
第4回 3.1 Ideation：アイデア出し
第5回 3.2 Writing：執筆
第6回 3.3 Background Research：背景調査
第7回 3.4 Coding：コーディング
第8回 3.5 Data Analysis：データ分析
第9回 3.6 Mathematical Derivations：数学的導出
第10回 3.7 Summary：まとめ
LLMs have become useful research tools for tasks ranging from ideation, writing and background research to data analysis, coding, and mathematical derivations. In the short term, cognitive automation via LLMs will allow researchers to become significantly more productive. I expect that a growing number of researchers will incorporate LLMs into their workflow. This could help to increase the overall speed of progress in economics, although it risks leaving behind those who do not take advantage of LLMs.
▽
LLMは、アイデア出し、執筆、背景調査からデータ分析、コーディング、数学的導出まで幅広いタスクにおいて有用な研究ツールに成長してきています。短期的には、LLMによる認知タスクの自動化により、研究者の生産性が大幅に向上するでしょう。今後業務にLLMを組み込む研究者がますます増加すると予想しています。これは、経済学の研究の進歩を高速化することに貢献する可能性があります。逆にLLM を利用しない人々を置き去りにしてしまう危険があります。
In the medium term, I anticipate that LLM-based assistants and tutors will become increasingly useful for generating the content that makes up research papers. Human researchers will focus on their comparative advantage - by posing the questions, suggesting directions for obtaining answers, discriminating which parts of the produced content are useful, editing, and providing feedback, akin to an advisor. Moreover, they will also continue to play an important role in organizing research efforts - for example, by coordinating teams and procuring data sources, akin to a research manager.
▽
中期的には、LLMを用いたアシスタントまたは家庭教師のような役割がますます論文のためのコンテンツ生成に活用されると予想します。その場合、人間の研究者は、人間ならではの得意なこと（課題設定、方向性の決定、結果の判断など）に集中しやすくなります。さらに、人間はプロジェクトマネージメントやデータの調達などにおいても引き続き重要な役割を担います。
Over time, further advances will imply that LLMs are performing their tasks better and better so that the need for humans to provide inputs, edits, and feedback will diminish. We may increasingly just rubber-stamp the output produced by ever-more advanced LLMs. The experience may be de ating. Eventually, our AI research assistants will graduate and become researchers of their own.
▽
時間の経過とともに、LLMにおけるさらなる技術の進化は、より高度なタスクにおいてパフォーマンスが上昇し、人間がプロンプトの工夫をすることや出力を編集し、フィードバックを与える必要性が消えていくのでしょう。そのうち、AIが私たちから「卒業」し、自立した研究者のように振る舞う日が来るかもしれません。
It is difficult to predict whether and how different areas of research will be differentially affected by cognitive automation - for example, will theorists be the last ones standing because their abilities prove difficult to replicate by LLMs, or will a more advanced LLM ne-tuned for mathematical applications outperform humans and automate theory work more quickly than other branches of economics? Will empiricists have a leg up because the process of collecting novel data involves many steps that are di cult to automate?
▽
研究のいろいろな分野において、認知タスクの自動化がどれくらいインパクトを及ぼすのかを予想するのは難しいです。例えば、最終的に、理論家たちだけがLLMに置き替わられなくて済むのでしょうか？それとも、LLMがますます強力になり、数学力を持つようにチューニングされることで、経済学の他の分野よりもむしろ理論の方が自動化が急速に進むのでしょうか。もしかすると、新しいデータを集めることの自動化の難しさから、実験者の方が最終的に有利だったりするかもしれません。
In the longer term, I believe that economists would be well advised to heed the “Bitter Lesson” of progress in AI, which Sutton (2019) described as follows:
for most of the history of AI, researchers worked on making their AI systems smarter and more poweful by programming domain-specific knowledge into them - for example, teaching a chess computer the wisdom accumulated by generations of chess players. He observed that this strategy always helped in the short term, but the benefits of it eventually plateaued.
In the long term, Sutton suggests that the brute scaling of compute has always proven the more successful strategy - for example, when DeepMind developed AlphaZero, a chess computer that used massive compute to learn chess by itself without any human input, it learned to beat all other chess computers in the world (and of course all humans) within 24 hours (Silver et al., 2017).
This strategy corresponds to what DeepMind founder Demis Hasabis has called “solving intelligence, and then using that to solve everything else.”
▽
長期的には、経済学者はサットン (2019)が次のように説明しているAIの進歩に関する「苦い教訓」に留意することをお勧めします：
AI研究の歴史の大部分において、研究者は分野固有の知識を用いて訓練することでAIシステムをより賢くしようと努めてきました。たとえば、何世代にもわたるチェスプレイヤーによって蓄積された知恵をチェスのコンピューターに教えるように。彼は、この戦略は短期的には常にうまく行きましたが、最終的には改善が頭打ちになることを観察しました。
長期的には、コンピューティングの大胆なスケーリングが良い戦略であることが証明されている、とサットン氏は示唆します。例えば、DeepMindが大規模なコンピューティングを使用して、人間の介入なしでチェスを自己学習するAlphaZeroを開発したとき、24時間以内に世界中の他のすべてのチェスコンピューター（そしてもちろん全ての人間）を打ち負かすことを学びました。
この戦略について、DeepMindの創設者Demis Hasabis が「知性を解き放ち、それを使用して他のすべてを解決する」と言及しています。
In our work as economists, we spend a lot of our time and energy on similar strategies to what Sutton described, expending tremendous resources on ne-tuning our models of human behavior and of the economy to obtain better results. Yet a similar bitter lesson may apply to economics: with enough compute, sufficiently advanced AI systems may be able to produce and articulate superior economic models, and the cognitive work of human economists - like that of all other researchers - may eventually become redundant.
▽
経済学者としての我々の仕事では、サットン氏が説明したのと同様の戦略を用いて、より良い結果を得るために、人間の行動に関するモデルの微調整に、多くの時間とエネルギーを費やしています。私たち経済学者も同様の苦い教訓を意識すべきかもしれません。十分なコンピューティングリソースがあれば、高度なAIシステムが優れた経済モデルを生成できるかもしれないし、人間の研究者による認知タスクは最終的には不要になってしまう可能性があります。
Garry Kasparov (2017) distills the lessons he learned from observing decades of progress in chess computers, with important milestones including his 1997 defeat to Deep Blue and the 2017 release of AlphaZero, as follows (p. 254-255):
“Thousands of years of status quo human dominance, a few decades of weak competition, a few years of struggle for supremacy. Then, game over. For the rest of human history, [. . . ] machines will be better than humans at chess. The competition period is a tiny dot on the historical timeline. This is the unavoidable one-way street of technological progress in everything from the cotton gin to manufacturing robots to intelligent agents.
The competition dot gets all the attention because we feel it intensely when it occurs during our lifetimes. The struggle phase often has a direct impact on our lives in real time, so we overin ate its relevance in the big picture. [. . . ] it is almost always better to start looking for alternatives and how to advance the change into something better instead of trying to ght it and hold on to the dying status quo.”
In Kasparov’s terminology, LLMs have entered the period of “weak competition” with cognitive workers, including economic researchers. We are currently at the competition dot, and LLMs are garnering a lot of attention. Yet just like the chess champions of the 1990s, we should not let our anthropocentric bias blind us to the rise of AI, and we should remind ourselves that the competition period, which we may feel intensely in coming years, is just a tiny dot on the historical timeline.
▽
チェスの人間チャンピオンであるGarry Kasparov(2017)は、1997 年にチェスAIであるDeepBlueへの敗北したことや 2017年のAlphaZeroの公開を重要なマイルストーンとして考察しています (p.254-255)。
「数千年にわたる現状の人類の支配、数十年の弱い競争、数年の覇権をめぐる闘争。今は全てがゲームオーバーです。人類の歴史の残りの部分では、チェスでは機械の方が人間よりも強くなっています。競技期間は歴史的な年表上では小さな点に過ぎません。これは、綿繰り機から製造ロボット、インテリジェントエージェントに至るまで、あらゆる分野における技術進歩の避けられない一方通行です。競争の一点が注目を集めるのは、私たちが生きている間にそれが発生する時にそれを強烈に感じるからです。闘争のフェーズは私たちの生活に直接影響を与えることが多いため、私たちはその全体像との関連性を重視しすぎました。ほとんどの場合、現状を必死に維持しようとするのではなく、代替案と、変化をより良いものに変える方法を探し始める方が良いのです。」
カスパロフの言葉を借りれば、LLMは経済学の研究者を含む認知労働者との「弱い競争」の時代に入ったということです。私たちは現在その「競争の一点」に参入しており、そしてLLMは大きな注目を集めています。しかし、1990年代のチェスのチャンピオンと同じように人間中心主義の偏見によりAIの台頭から目を逸らしてはいけません。また、今後数年間にわたって強烈に感じる競争の時期は、長い歴史の中のほんの小さな点にすぎないことを思い出すべきです。
Whereas my long-term predictions are clearly speculative, I am quite confident about my predictions on the short- and medium-term implications of LLMs. I also believe that the cognitive automation ushered in by the rapid rise of LLMs poses important and urgent new research questions to economists, of which I will brainstorm a few:
What will cognitive automation imply for labor markets? Will it also accelerate the automation of physical tasks? How can our society best prepare for the impending changes?
What are the implications of cognitive automation for education? Will human capital be devalued?
How will cognitive automation affect technological progress and economic growth? If human labor can be automated, what will be the bottlenecks to growth in the future?
…
Finally, but perhaps most importantly, how can we best address the AI alignment problem, i.e., ensure that ever-more advanced and potentially super-intelligent AI systems pursue objectives that are aligned with human objectives?
▽
私の「長期的な影響の予測」はもちろん推測にすぎませんが、LLMの短期および中期的な影響に関する予測にはかなり自信を持っています。LLMの急速な台頭がもたらした認知の自動化が、重要かつ喫緊な問がけを経済学の研究者に投げかけていると信じています。その中からいくつかブレインストーミングします。
認知の自動化は労働市場の観点で何を意味しますか?物理的なタスクの自動化も加速するのでしょうか?私たちの社会は、これらの差し迫った変化にどのように準備できるのでしょうか?
認知の自動化は教育にどのような影響を及ぼしますか?人間としての資産は価値を失うのでしょうか？
認知の自動化は技術の進歩と経済成長にどのような影響を及ぼしますか?人間の労働が自動化できれば、将来の成長のボトルネックはどんなものでしょうか?
…
最後かつおそらく最も重要なことですが、AIの調整の問題にはどのように対処すべきのしょうか。つまり、潜在的な超能力を持つ自律的に近いAIシステムが、我々人間の目的と同じ方向に成長させるためににはどうすればよいでしょうか?
Continuing on the last question, economists have the tools to translate concepts from the social sciences and humanities, such as “human objectives,” into analytic concepts like preferences that are more easily accessible to machines. And we have experience analyzing agency and control problems and their solutions. Their contribution is ur gently needed. In fact, there are two channels through which economists can make important contributions to this line of work: First, we can directly work on AI align ment; see, e.g., Korinek and Balwit (2023), for some tentative research directions. Second, our work will affect the concepts and representations through which future AI systems will view economic questions and, ultimately, through which they will view the world - just like our work in uences that of our human students, whether they work as economists or policymakers, it will also in uence future LLMs that perform economic research and that impact economic policy. As Keynes (1936) described so powerfully at the conclusion of his general theory,
. . . the ideas of economists and political philosophers, both when they are right and when they are wrong, are more powerful than is commonly understood. Indeed the world is ruled by little else. […] I am sure that the power of vested interests is vastly exaggerated compared with the gradual encroachment of ideas. […] soon or late, it is ideas, not vested interests, which are dangerous for good or evil.
At this point, human researchers, especially when AI-assisted, are still the best technology around for generating economic research!
▽
最後の質問の続きですが、経済学者は、「人間の目的といった社会科学や人文科学の概念を、「好み」のような機械が扱いやすい、分析に適した概念に変換する手段を持っています。また、私たちは分析の経験があります。彼らの貢献がぜひ必要とされています。実際、経済学者がこの分野に顕著な貢献をする方法が2つあります。1つ目は、AIの調整に直接関わることです。いくつかの暫定的な研究が存在し、例えば、Korinek and Balwit (2023) を参照してください。2つ目ですが、私たち経済学研究者の仕事は、将来のAIシステムが経済問題を考察し、最終的には世界を見る際の概念や表現に影響を及ぼすのでしょう。私たちの仕事は、経済学者として働くにしても政策立案者として働くにしても、人間の学生に影響を与えていることに例えることができます。同様に、経済の調査を実行し、経済政策に影響を与える将来の LLM にも影響を与えるでしょう。ケインズ (1936) が一般理論の結論として非常に力強く主張したように、
「経済学者や政治哲学者の考えは、正しい場合も間違っている場合も、一般に考えられているより遥かに強力である。実際、世界を支配するものはそれ以外にはほとんどない。私は、既得権益の力は、思想が徐々に侵食していくのに比べれば、はるかに誇張されたものだと確信している。遅かれ早かれ、善かれ悪しかれ危険なのは既得権益ではなく思想である。」
現時点では、人間の研究者は、特にAI 支援を利用した場合、依然として経済学の研究成果を生み出すための最良のテクノロジーです。
原論文
Language Models and Cognitive Automation for Economic Research
LLMについては以前のブログ記事を参考にしてください。
LLMとは？未来のAI技術を理解する
👇このページのQRコード
【運営元】株式会社ダークマター
【その他】プライバシーポリシー