Lost in the Middle
定義
LLM が長いコンテキストの中盤に置かれた情報を見落としやすい現象。
詳しく
冒頭と末尾の注意が強く、中盤が弱い。Liu et al. (2023) で実証。窓が大きければ大きいほど顕著になるため、超ロングコンテキストでは RAG(Retrieval)と組み合わせる設計が有効。
定義
LLM が長いコンテキストの中盤に置かれた情報を見落としやすい現象。
冒頭と末尾の注意が強く、中盤が弱い。Liu et al. (2023) で実証。窓が大きければ大きいほど顕著になるため、超ロングコンテキストでは RAG(Retrieval)と組み合わせる設計が有効。
実際に「Lost in the Middle」を扱えるツール
運営サイト
株式会社Koinobori
コーポレート — 法人研修・教材制作・AI支援
koinobori.co.jp
NOBORIBA® 研修サービス
研修事業 — 講師ネットワーク約160名・年間62名が登壇
noboriba.jp
NOBORIBA® ビジネス交流会
SES × 異業種 — 東京で唯一の朝開催 交流会
noboriba.net
ここ
totonoe.tech
Web ツール集 — 文字・お金・単位・IT・AI・教養
totonoe.tech
KOINOBORI COBOLERS
COBOL 技術者ネットワーク — Windows 95 風・COBOL で書き出したサイト
cobolers.jp