TAG

Production

89 記事

あるモデルが、技術的な障害ではなく外部都合で短時間のうちに使えなくなる。引退・撤回・一時的な過負荷という三種の「使えない」を一つの可用性ステートマシンで扱い、自動運用を止めないルーターを TypeScript と Python の動くコードで設計します。

Claude Agent SDK のリトライやセッション再開で決済を二重処理する事故を防ぐ実装メモ。決定的な冪等性キー・Outbox・軽量ラッパーの3パターンを、動くコードと運用メトリクスつきで設計します。

Managed Agents の Dreaming は過去セッションを点検してメモリを再構成する自己改善機構です。Harvey や Wisedocs の公開数値を読み解き、Anthropic SDK で自前のメモリ整理ループを組む完全なコードと、本番運用での落とし穴までをまとめました。

6月15日に claude-sonnet-4 と claude-opus-4 が API から引退します。直書きされたモデルIDを引退前に洗い出し、出力パリティを検証し、別名レイヤーとフォールバックで安全に切り替えるまでの実装手順をまとめました。

モデル文字列を業務コードに直書きすると、世代交代のたびに本番が静かに壊れます。論理ロールと物理モデルIDを切り離す anti-corruption layer を、TypeScript と Python の動くコード・移行コスト・実運用の判断軸とあわせて設計します。

Anthropic API の cache_control には 5 分と 1 時間という 2 種類の TTL があります。これを「静的な前提情報は 1h、可変な few-shot は 5m」と二段に分けて運用する設計を、私の本番ワークロードで観測した数値とともに整理しました。

Claude API を組み込んだプロダクションサービスの観測性を、OpenTelemetry GenAI セマンティック規約に揃えて再設計するための実装メモ。スパン属性、メトリクス、コスト追跡、モデル切替時のリプレイ性を、個人開発サービスで運用してきた経験から具体的なコードで示します。

Claude API を本番運用すると、モデル単位のフォールバックだけでは守りきれない時間帯が必ず出てきます。SLI 連動の 4 階層デグラデーション設計を、Python と TypeScript のコード・SLO バーンレート・実運用の判断軸とあわせて整理しました。

529 Overloaded は単発のリトライでは止まりません。累計5,000万DLのアプリ運用で踏んできた失敗を踏まえ、ユーザー体験を落とさずに吸収するためのキュー化・モデル切替・フォールバック設計をコード付きで整理します。

Claude API を本番運用すると必ず詰まる「長文1リクエストが短文100リクエストを止める」問題に、3層プライオリティキューと DRR で公平性を入れた実装の話です。アーティスト・個人開発者の廣川政樹が5,000万DLアプリで運用してきた構成を、コードと運用メトリクスとともに共有します。

Claude API の 200K コンテキストを「無制限の置き場」ではなく予算として扱い、システム・ツール定義・メモリ・履歴・回答ヘッドルームに枠を切る設計を、TypeScript の実装コードと壁紙アプリ運用で得た数値とともに記録しました。

月初の3日間トークン消費データから月末コストを±10%精度で予測するEWMA＋季節性分解モデルの実装と、しきい値超過時に自動的にプロンプトキャッシュやモデルルーティングを切り替える本番設計を解説します。