コンテンツにスキップ

AIエージェント向けのトークン効率の高いメモリ — JSONより22%少ないトークン

なぜトークン効率が重要なのか

Section titled “なぜトークン効率が重要なのか”

AIエージェントが処理する各トークンはコストと時間を消耗します。エージェントがセッション開始時にメモリファイルを読む際、ファイルのフォーマットは直接以下に影響します:

  • コスト — トークンが少ない = API請求額が安い
  • 速度 — トークンが少ない = 応答が速い
  • コンテキストウィンドウ — トークンが少ない = 実際の作業に多くのスペース

toon-memoryはLLMに対してJSONより22%効率的TOONフォーマット(Token-Oriented Object Notation)を使用します:

  • AI理解に最適化 — LLMの情報処理方法に基づいて設計
  • ロスレス — データ損失なし、完全なラウンドトリップサポート
Format Tokens (16 entries) vs JSON
────────────── ─────────────────── ───────
JSON 1097 baseline
TOON 850 -22.5%
Method Tokens to get context vs re-reading files
───────────────────────────── ───────────────────── ───────────────────
Re-read source files ~3000 baseline
memory_recall (flat) ~1200 -60%
memory_recall (graph, compact) ~900 -70%
memory_smart_recall ~850 -72%

完全な5フェーズのエージェントセッションをシミュレート:

Phase Without memory With memory_recall With context_* tools
────────────────────────────────────── ───────────────── ───────────────── ─────────────────
Phase 1: Session Start 516 t / 6 c 409 t / 3 c 373 t / 1 c
Phase 2: Debug Issue 176 t / 4 c 182 t / 2 c 252 t / 1 c
Phase 3: Implement Feature 189 t / 6 c 183 t / 3 c 305 t / 1 c
Phase 4: Code Review 316 t / 4 c 130 t / 2 c 243 t / 1 c
Phase 5: Wrap-up 1,214 t / 5 c 68 t / 2 c 117 t / 1 c
────────────────────────────────────── ───────────────── ───────────────── ─────────────────
TOTAL 2,411 t / 25 c 972 t / 12 c 1,290 t / 5 c

結果:

指標 メモリなし memory_recallあり context_*ツールあり
セッションあたりトークン数 2,411 972 (-60%) 1,290 (-47%)
セッションあたりツール呼び出し 25 12 (-52%) 5 (-80%)
セッションあたりコスト(GPT-4) $0.072 $0.029 $0.039
{
"id": "a1b2c3d4",
"category": "decision",
"key": "use-zod",
"content": "Use Zod for validation",
"file": "src/types.ts",
"tags": "validation;types",
"date": "2026-07-10"
}
a1b2c3d4|decision|use-zod|Use Zod for validation|src/types.ts|validation;types|2026-07-10

TOONフォーマット:

  • |をデリミタとして使用(":,よりトークンが少ない)
  • 文字列にクォートなし
  • 中括弧なし
  • コンパクトだが人間が読める

トークン効率の高いリコールモード

Section titled “トークン効率の高いリコールモード”

フラットモード(デフォルト)

Section titled “フラットモード(デフォルト)”
Terminal window
memory_recall({ query: "redis" })
// 完全な詳細でマッチするエントリを返す
Terminal window
memory_recall({ query: "redis", mode: "graph", hops: 2 })
// グラフ接続経由で関連エントリを展開
Terminal window
memory_recall({ query: "redis", compact: true })
// 数値インデックス付きエントリを返し、id/date/fileを削除
// グラフエッジは->2, ->3として描画
Terminal window
memory_smart_recall({ intent: "database configuration" })
// BM25+グラフ+品質を1回の呼び出しで結合
// 全タスクの開始時に使用
モード 最適用途 トークンコスト
フラット シンプルなキーワード検索
グラフ 相互接続された決定 低(コンパクト)
コンパクト トークン制約のあるコンテキスト 最低
スマート 不明な検索語 中(包括的)

GPT-4の価格($0.03/1K入力トークン)、1日10セッションと仮定:

シナリオ メモリなし toon-memoryあり 削減額
1日10セッション $0.72/日 $0.29/日 $0.43/日
月30セッション $21.60/月 $8.70/月 $12.90/月
年365セッション $262.80/年 $105.85/年 $156.95/年
Terminal window
npm install -g toon-memory
npx toon-memory # インタラクティブインストーラー

次のセッションでエージェントはトークン効率の高いメモリを使用します。