TAG

claude-api

81 記事

Claude API のプロンプトキャッシュが効いていない時、まず確認すべきは usage フィールドです。cache_read_input_tokens がゼロのまま増えない原因を、5つの典型パターンに沿って切り分けます。

ローカルで動く Claude API のコードを本番に移すと、レート制限・タイムアウト・課金事故・無音障害が一気に襲ってきます。月数万リクエスト規模を運用して見えた、必要最小限のインフラ8項目を整理しました。

Claude API を本番投入したときに最後まで残るのが、ハルシネーション（事実誤認）への対処です。プロンプト工夫だけでは限界がある、という結論に至った私の運用記録から、入力・推論・出力・事後検証の4層で誤回答を抑える具体的な実装パターンを共有します。

非決定的なClaude APIの応答を録画・再生し、回帰テストを安定させるReplay駆動テストの設計です。Messages API・Streaming・Tool Use多段それぞれのカセット実装、メッセージハッシュをキーにする理由、CIへの録画ガード組み込み、本番障害の再現への応用まで扱います。

長文のシステムプロンプトを毎リクエスト送る本番ワークロードでは、プロンプトキャッシュの設計次第で月額コストが大きく変わります。ヒット率の計測から始める手順、TTLの選択、トークン下限と4ブロック上限の制約、toolsを1つ足してヒット率が0になった失敗談まで半年の運用実例でまとめました。

Claude API を本番サービスに組み込むなら、429・503・Read timeout とどう付き合うかが品質を決めます。私が実運用で落ち着いたリトライとタイムアウトの設計方針を、コード込みで整理しました。

Claude API を単一モデル前提で組むと、障害やレート制限の瞬間にサービス全体が止まります。Sonnet・Haiku・Opus を段階的にフォールバックする本番実装を、コード・Circuit Breaker・ストリーミング対応まで含めて整理しました。

Claude API の Parallel Tool Use は並列実行でレイテンシを半分以下にできますが、部分失敗やステート衝突の事故も増えます。制御方法・エラー設計・観測性を本番運用の視点で解説します。

Kotlin Multiplatform（KMP）でClaude APIを統合し、iOS・Android両方でAIアシスタント機能を本番品質に仕上げるまでの実装記録です。SSE終端の落とし穴・エラーイベント処理・expect/actualの整合性・テスト戦略までを扱います。

10ターンを超えると文脈を忘れ、トークン消費が膨らむ——会話型AIの本番運用で直面する課題を、スライディングウィンドウと要約バッファ、ベクトルDBによる長期メモリの3層構成で解決します。入出力の多層フィルタリング、コスト削減施策、本番で遭遇しやすい落とし穴まで実装パターンで示します。

Claude APIを組み込んだアプリケーションで「AIの出力が変わってテストが壊れる」問題を根本解決する。モック・セマンティックアサーション・スナップショットテストを組み合わせた実践的テスト設計パターン。

リクエスト内容に応じてClaude Sonnet 4.6とHaiku 4.5を自動切り替えするインテリジェントルーティングの実装。分類器の設計からサーキットブレーカー、コスト監視まで本番運用パターンを網羅