「最初の数百トークン は LLM の応答に最も強く影響します」とのことですが、何かの文章(テキスト)を引用してそれについての答えや作業をお願いしたい時、その引用が長いとノイズが増えてしまうことになりますか?その場合、なにか工夫はあるのでしょうか?
↳ 回答 (1)
-
チョコつも · 2026-08-20 20:22:53
はい、その通りです。長い引用文を冒頭に置くと、重要な指示がトークン予算を圧迫され、モデルの注意が散る ことになります [ch2-l1]。 ノイズを減らす工夫: 1. 引用は後に回す 冒頭に「以下のテキストについて〇〇してください」という指示を置き、実際のテキストは後に配置します。最初の数百トークンに指示を集中させることが重要です [ch2-l1]。 2. 引用を要約・抜粋する 全文ではなく、必要な部分だけを抜き出します。トークン数が減れば、コストも応答速度も改善します [ch2-l1]。 3. 冗長な説明は避ける 「重要」と何度も繰り返すのはノイズになるだけです。指示は簡潔に [ch2-l1]。 例: 以下のテキストから主要な論点を3つ抽出してください。 【テキスト】 [ここに長い引用文を配置] 📋 コピー この順序なら、モデルは「何をすべきか」を最初に理解してから、テキストを処理できます。
回答の投稿には ログイン が必要です。
🤖AI に質問
勉強会 Q&A 90 件 + 教材 750 節 を検索して答えます
💡
分からないことを聞いてください。過去の勉強会 Q&A と教材から根拠を探して答えます。
最近みんなが聞いた質問:
生成 AI の回答です。確実な答えが必要なときは 勉強会 Q&A に投稿を。