本文へスキップ
totonoe.tech

🤖 TAG

RAG / AI設計。

コンテキスト窓・トークン・埋め込み次元・ローカルLLM。RAG/LLMアプリ設計の前提を整える。

Claude 200K・GPT 128K・Gemini 2M。RAGの埋め込みベクトル次元とストレージ。ローカルLLMが自分のMacで動くか。LLMアプリの設計判断に必要な数字をワンクリックで揃えるツール群。

コンテキスト窓を整える

Claude 5世代 1M・GPT-6 Astra・GPT-5.6系 1.05M・Gemini 3系 1M・Llama 4 Scout 10M。主要 LLM 25モデルのコンテキスト窓を比較。

開く

トークン数を整える

GPT-4o・Claude・Gemini等7モデルでの推定トークン数を一括表示。コンテキスト制限とAPI料金見積もりの前提値に。

開く

LLM料金を整える

プロンプトを貼ると主要 LLM(GPT-6 Astra/Claude/Gemini ほか27モデル)の API 料金が一発で並ぶ。USD/JPY・バッチ・キャッシュ割引・月次予測まで。

開く

埋め込みサイズを整える

文章をAI用の数字(ベクトル)に変える「埋め込み」の容量とコストを、OpenAI・Cohere・Voyage・BGEなどモデル別に比較。AIに社内文書を検索させる仕組み(RAG)の設計に。

開く

ローカルLLMを整える

自分のMac/PCでLlama・Qwen・Gemma等が動くかを判定。量子化・コンテキスト長を切替えてメモリ要件を算出。

開く

プロンプトの書き方を整える

生成AIへの指示文を貼ると、目的・役割・前提・入力・制約・出力の形・例の7つの要素が書かれているかを、手がかりの語で確かめる無料ツール。「なるべく」「いい感じに」など数や例で言い換えられる言葉の位置、文字数と推定トークン数も表示します。枠に書き込んで1本の指示文に組み立てる機能、10の仕事の場面の書き換え例、10問の演習、従来の不可視文字・空白の掃除もあります。指示文の良し悪しやAIの答えの良し悪しは判定せず、入力は端末内だけで処理します。

開く

1.58bit を整える

AIを軽くする新技術「BitNet b1.58」を体感。必要なメモリがどれだけ減るかをモデル別に比較し、スマホ・PCで動かせる大きさが分かる。

開く

画像生成サイズ・アスペクト比を整える

画像生成AIの解像度とアスペクト比を整えるツール。幅×高さから比・MP・向きを算出し、比と目標pxから解像度を逆算。8/64倍数丸めとSD/SDXL/MJ/DALL·E別推奨サイズつき。送信ゼロ。

開く

temperature・top-pを整える

temperature・top-p・top-kを動かすと次トークンの確率分布がバーで即変化。低温=とがる/高温=平ら、絞り込みと再正規化をsoftmaxで可視化する教育デモ。送信ゼロ。

開く

RAGチャンク設計を整える

AIに大量の資料を読ませる「RAG」で、文書をどう分ける(チャンク)かを設計。必要な分割数・データ量・コストの見積もりに。送信ゼロ。

開く

他のタグ

運営サイト

私たちが運営するサイト