言語モデルの問題解決能力を著しく向上させる実験手法の論文が公表される
Tree of Thoughts (ToT)は、言語モデルを推論するための新しいフレームワークで、言語モデルを促すための人気のある「Chain of Thought」アプローチを一般化したものです¹。問題解決への中間段階として機能する、首尾一貫したテキスト単位（「思考」）の探索を可能にします¹。ToTは、言語モデルが複数の異なる推論経路を考慮し、次の行動方針を決定するための選択肢を自己評価し、必要に応じて先を見たり後戻りしたりしてグローバルな選択をすることで、意図的な意思決定を行うことを可能にします¹。
我々の実験では、ToTが、自明でない計画や探索を必要とする3つの新しいタスクにおいて、言語モデルの問題解決能力を著しく向上させることが示されました：Game of 24、Creative Writing、Mini Crosswords¹である。例えば、Game of 24では、思考の連鎖を促すGPT-4が4%のタスクしか解決できなかったのに対し、本手法は74%の成功率を達成しました¹。
出典
2023年5月20日、Bingとの会話 (1) Tree of Thoughts：大規模言語モデルによる意図的な問題解決」
https://arxiv.org/pdf/2305.10601.pdf
(2) Tree of Thoughts - GPT-4 Reasoning is Improved 900% - YouTube.
https://www.youtube.com/watch?v=BrjAt-wvEXI.
(3) 松田拓実 on Twitter："GPT-4でTree of Thoughtsというフレームワークを使って、ゲーム..."
https://twitter.com/matsuda_tkm/status/1659720094866620416
(4) GPT-4と人工認知への旅
https://johnnosta.medium.com/gpt-4-and-the-journey-towards-artificial-cognition-bcba6dfa7648
名無しの外国人１
私は、「考える」ということは、自分自身の内面に語りかけることだと考えています。だから、これが進展しているのを見るのはいいことだ。
名無しの外国人２
私は意識と神経科学を研究してきました。脳のつながりの大部分は自分自身へのものです。心は大部分がフィードバックである。これをセルフトークの一種と考えるのは、大きな飛躍ではないでしょう。これは、セルフトークがいかに合理的で首尾一貫したものであるかを主張するものではなく、心は実際、ほとんど自分自身と会話しているというだけのことである。
名無しの外国人３
インナーモノローグとは、意識的に行うものです。
私の理解では、これは無意識のうちに思考プロセスに思考をフィードバックさせることに関してです。例えば、首尾一貫した文章を話すようなことです。私たちは話す前に、どのように文章を始めるかを考えなければなりませんが、これは話すときに無意識のうちに変化し、使うべき言葉を選びます。無意識のうちに再考し、意味という目的を思考のループにフィードバックするのです。
Comments
No one has commented yet. Be the first!