モデルを切り替えた朝、キャッシュヒット率はゼロに戻る — Opus 4.8 から Sonnet 5 への段替えとプロンプトキャッシュ再ウォーム設計

// cutover.ts — タスク系統単位のモデル解決
type ModelId = "claude-opus-4-8" | "claude-sonnet-5";
 
interface TaskFamily {
  id: string;              // 例: "nightly-digest", "log-triage"
  prefixTokens: number;    // 共有プレフィックスの概算トークン数
  runsPerDay: number;
  avgIntervalMin: number;  // 実行間隔の目安（TTL判断に使う）
  model: ModelId;          // 現在の所属モデル
  cutoverAt?: string;      // ISO日付。これ以降は newModel に切替
  newModel?: ModelId;
}
 
export function resolveModel(f: TaskFamily, now = new Date()): ModelId {
  if (f.cutoverAt && f.newModel && now >= new Date(f.cutoverAt)) {
    return f.newModel;
  }
  return f.model;
}
 
// ガード: 同一系統が同日に2モデルへ割れる設定を機械的に拒否する
export function assertNoSplit(families: TaskFamily[]): void {
  for (const f of families) {
    if (f.cutoverAt && !f.newModel) {
      throw new Error(`${f.id}: cutoverAt があるのに newModel が未指定です`);
    }
  }
}

// prewarm.ts — 切替日の初回バッチ前に1回だけ実行する
import Anthropic from "@anthropic-ai/sdk";
 
const client = new Anthropic();
 
export async function prewarmPrefix(model: ModelId, systemPrompt: string) {
  await client.messages.create({
    model,
    max_tokens: 1,
    system: [
      { type: "text", text: systemPrompt, cache_control: { type: "ephemeral" } },
    ],
    messages: [{ role: "user", content: "ok" }],
  });
}

// cache-metrics.ts — 系統×モデル別のヒット率集計
interface RunUsage {
  familyId: string;
  model: string;
  inputTokens: number;               // usage.input_tokens
  cacheRead: number;                 // usage.cache_read_input_tokens
  cacheWrite: number;                // usage.cache_creation_input_tokens
}
 
export function hitRate(runs: RunUsage[]): Map<string, number> {
  const acc = new Map<string, { read: number; total: number }>();
  for (const r of runs) {
    const key = `${r.familyId}/${r.model}`;
    const cur = acc.get(key) ?? { read: 0, total: 0 };
    cur.read += r.cacheRead;
    cur.total += r.cacheRead + r.cacheWrite;
    acc.set(key, cur);
  }
  return new Map(
    [...acc].map(([k, v]) => [k, v.total === 0 ? 0 : v.read / v.total])
  );
}

// simulate.ts — 移行戦略ごとの30日コスト概算
interface Pricing { inPerMTok: number; outPerMTok: number }
const SONNET5_INTRO: Pricing = { inPerMTok: 2, outPerMTok: 10 };
const OPUS48: Pricing = { inPerMTok: 5, outPerMTok: 25 };
 
interface Family { prefix: number; fresh: number; out: number; runs: number; warmRatio: number }
 
function dailyCost(f: Family, p: Pricing, coldWritesPerDay: number): number {
  const warmRuns = f.runs * f.warmRatio;
  const read = (warmRuns * f.prefix / 1e6) * p.inPerMTok * 0.1;
  const write = (coldWritesPerDay * f.prefix / 1e6) * p.inPerMTok * 1.25;
  const fresh = (f.runs * f.fresh / 1e6) * p.inPerMTok;
  const out = (f.runs * f.out / 1e6) * p.outPerMTok;
  return read + write + fresh + out;
}
 
// 例: 8kプレフィックス・2k入力・1.5k出力・1日40回・平常時ヒット率90%
const fam: Family = { prefix: 8000, fresh: 2000, out: 1500, runs: 40, warmRatio: 0.9 };
 
console.log("Opus 4.8 継続   :", dailyCost(fam, OPUS48, 4).toFixed(3));
console.log("Sonnet 5 一括切替:", dailyCost(fam, SONNET5_INTRO, 4).toFixed(3));
// 割合分割: 両モデルで warmRatio が落ち、コールドライトが両側で増える
console.log(
  "50/50 分割      :",
  (
    dailyCost({ ...fam, runs: 20, warmRatio: 0.3 }, OPUS48, 14) +
    dailyCost({ ...fam, runs: 20, warmRatio: 0.3 }, SONNET5_INTRO, 14)
  ).toFixed(3)
);