AI論文ライブラリarXivの生成AI論文を日本語で

エージェント 定番論文 分野:生成AI 約2分で読める

ReAct――「考える」と「行動する」を交互に行うLLMエージェントの基本形

ReAct: Synergizing Reasoning and Acting in Language Models

30秒でわかる要点

LLMに推論の過程(Reasoning)と行動(Acting)を交互に生成させる「ReAct」を提案。Wikipedia APIで情報を取りに行くことで思考の連鎖の幻覚や誤りの連鎖を抑え、対話型の意思決定タスクでは模倣学習・強化学習を成功率で34%・10%上回った。

目次
  1. 要約
  2. 課題
  3. 手法
  4. 結果
  5. 限界
  6. ビジネスで使えるか
  7. 関連論文

要約― この論文の概要は?

大規模言語モデル(LLM)は言語理解や対話的な意思決定のタスクで目覚ましい能力を示してきたが、推論(例:思考の連鎖プロンプト)と行動(例:行動計画の生成)の能力は、主に別々のテーマとして研究されてきた。本論文は、LLMに推論の過程とタスク固有の行動を交互に生成させ、両者の相乗効果を高める方法を探る。推論の過程は、モデルが行動計画を立て、追跡し、更新し、例外に対処するのを助け、行動は知識ベースや環境などの外部情報源とやり取りして追加の情報を集めることを可能にする。この手法をReActと名付け、多様な言語タスクと意思決定タスクに適用し、最先端のベースラインに対する有効性と、推論や行動の要素を持たない手法に比べて人間にとっての解釈性と信頼性が向上することを示した。具体的には、質問応答(HotpotQA)と事実検証(Fever)では、シンプルなWikipedia APIとやり取りすることで、思考の連鎖による推論でよく見られる幻覚や誤りの伝播の問題を克服し、推論の過程を持たないベースラインより解釈しやすい、人間らしいタスク解決の軌跡を生成した。2つの対話的な意思決定ベンチマーク(ALFWorldとWebShop)では、1〜2個の手本を示すだけで、模倣学習や強化学習の手法を絶対成功率でそれぞれ34%と10%上回った。コード付きのプロジェクトサイトを公開している。

課題― 何を解決しようとしているのか?

LLMの推論能力(思考の連鎖など)と行動能力(行動計画の生成など)は別々に研究されてきた。推論だけでは、外部の情報を確かめられないため幻覚や誤りの伝播が起きやすかった。

手法― どのような方法で取り組んだのか?

LLMに推論の過程とタスク固有の行動を交互に生成させる「ReAct」を提案。推論で行動計画を立て・更新し、行動でWikipedia APIなどの外部情報源から追加情報を得る。

結果― 何が分かったのか?

HotpotQAとFeverでは、Wikipedia APIとのやり取りで思考の連鎖の幻覚や誤りの伝播を克服し、解釈しやすい解決過程を生成した。ALFWorldとWebShopでは、1〜2個の手本だけで模倣学習・強化学習の手法を絶対成功率で34%・10%上回った。

限界― 注意すべき点は?

本要約(アブストラクト)の範囲では、使用した外部情報源はシンプルなWikipedia APIなどに限られ、より複雑なツールや長い作業での挙動は示されていない。

ビジネスで使えるか― 実務にどう活かせるか?

「調べる→考える→次の行動を決める」を繰り返す、現在のAIエージェントの基本設計。社内システムの検索や在庫確認などの道具をLLMに使わせる業務自動化を設計する際、推論の過程が残るので、動作の確認や改善がしやすい。

キーワード

本ページの事実記述は、原論文のアブストラクト(概要)の範囲に基づきます。数字や評価の詳細は原文でご確認ください。

3 注目度 注目度 5段階中 3

エージェント 約1分で読める

潜在空間で考えるエージェント群「SwarmEvolve」――進化的プログラム探索を高速・低コストに

SwarmEvolve: Latent Agent Swarms for Evolutionary Discovery and Optimization

要点1ラウンドに数百の低コストエージェントが群れで働き、潜在空間で推論して情報を共有する進化探索フレームワーク「SwarmEvolve」。21課題で最高の平均スコア、最良スコアへの到達は中央値3〜8分とされる。

Qile Jiang, George Em Karniadakis arXiv:2611.08483

5 注目度 注目度 5段階中 5

推論 定番 原論文 2022年 約2分で読める

思考の連鎖(Chain-of-Thought)プロンプト――途中の推論ステップを例示するだけで、LLMの複雑な推論力が大きく向上

Chain-of-Thought Prompting Elicits Reasoning in Large Language Models

要点プロンプトに「途中の推論ステップ」を含む例をいくつか示すだけで、大規模言語モデルの算数・常識・記号推論の性能が大きく上がることを示した。5400億パラメータのモデルに8例を示すだけで、数学文章題GSM8Kで最高精度を達成した。

Jason Wei, Xuezhi Wang, Dale Schuurmans 他6名 arXiv:2201.11903

5 注目度 注目度 5段階中 5

RAG/検索 定番 原論文 2020年 約2分で読める

RAG(検索拡張生成)の原点――言語モデルに外部知識の検索を組み合わせ、より事実に即した生成へ

Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks

要点事前学習済みの生成モデル(パラメトリック記憶)に、Wikipediaの密ベクトル索引を検索する仕組み(非パラメトリック記憶)を組み合わせた「RAG」を提案。オープンドメインQA 3タスクで最高性能を出し、より具体的で事実に即した文章を生成した。

Patrick Lewis, Ethan Perez, Aleksandra Piktus 他9名 arXiv:2005.11401