totonoe

Lost in the Middle

DEFINITION

LLM が長いコンテキストの中盤に置かれた情報を見落としやすい現象。

DETAIL — 詳しく

冒頭と末尾の注意が強く、中盤が弱い。Liu et al. (2023) で実証。窓が大きければ大きいほど顕著になるため、超ロングコンテキストでは RAG(Retrieval)と組み合わせる設計が有効。

USE IN TOOLS — このツールで使われる用語

実際に「Lost in the Middle」を扱えるツール

← 用語集トップへ戻る

KOINOBORI ECOSYSTEM

私たちが運営するサイト