Skip to main content

第11章:AIアプリの観測ポイント 🤖

AIアプリでは、普通のAPIに加えてAI特有の観測ポイントがあります。
遅さ、rate limit、token使用量、外部API失敗などを見ます。


1. AIで見たいもの 👀

AI機能では、次を見ます。

  • AI APIのstatus
  • response time
  • rate limit
  • token使用量
  • モデル名
  • jobId
  • retry回数
  • ユーザーへの表示状態

ただ動けばよいのではなく、安定して動くかを見ます。


2. AI Gatewayを使う 🧭

外部AI APIを使う場合、AI Gatewayを通すと観測しやすくなります。

Worker

AI Gateway

AI provider

リクエスト数や失敗、latencyを見やすくなります。


3. プロンプトをログに出しすぎない 🔐

AIアプリでは、ログにプロンプトを出したくなることがあります。
でも、ユーザー入力や個人情報が含まれる可能性があります。

出しやすい: jobId, model, status, durationMs
注意: prompt全文, response全文, uploaded text

必要ならマスクや要約を考えます。


4. QueueやWorkflowと一緒に見る 🔁

AI処理は長くなりやすいため、QueuesやWorkflowsと組み合わせることがあります。

Worker API → Queue / Workflow → AI処理 → D1へ状態保存

jobIdで全体を追えるようにします。


5. 章末チェック ✅

  • AIアプリ特有の観測ポイントが分かる
  • AI Gatewayが観測に役立つと分かる
  • プロンプト全文をログへ出しすぎない
  • QueueやWorkflowとjobIdでつなげられる
  • AI処理のstatusやdurationを見られる

この章で覚える一言はこれです。
AIアプリのログは、便利さとプライバシーのバランスを取りながら設計します 🤖

Chapter 11 Summary Check

AI App Log Design Summary