関連タグ:
⬡ API & SDK/2026-07-03上級
同時リクエスト数はいくつまで持つのか — Little の法則と実測メモリで決める Claude API 本番デプロイのインフラ要件
同時リクエスト数・待ち行列長・メモリはいくつに設定すべきか。Claude API 本番デプロイのインフラ要件を Little の法則と実測ハーネスで数字から導く手順を、夜間バッチで OOM を踏んだ経験をもとに整理しました。
⬡ API & SDK/2026-04-29中級
Claude API を本番投入する前に決めておくインフラ要件 — 規模・SLA・コンプライアンスから逆算する設計判断
プロトタイプは動いたが本番投入の判断基準が曖昧——そんな状態から、トラフィック規模の3段階見積もり、SLAから逆算する可用性設計、データレジデンシーとコンプライアンス、レート制限429の扱いまで、Claude APIのインフラ要件を実数値とチェックリストで決めていく手順を整理しました。
⬡ API & SDK/2026-04-28中級
Claude API のレイテンシを下げる4つのインフラ施策 — モデルを変える前に試したい打ち手
Claude API の応答が遅いと感じたとき、モデル変更の前に効くインフラ施策があります。リージョン選定・HTTP接続再利用・プロンプトキャッシュ・ストリーミングの4点を、実装と計測の観点で整理しました。
⬡ API & SDK/2026-04-27中級
Claude API を本番にのせる前に揃えるインフラ — 「動く」と「本番で持つ」の間にある8つの実装
ローカルで動く Claude API のコードを本番に移すと、レート制限・タイムアウト・課金事故・無音障害が一気に襲ってきます。月数万リクエスト規模を運用して見えた、必要最小限のインフラ8項目を整理しました。