監視の目的は、グラフを増やすことではなく、問題に早く気づき、次の調査を始められる状態にすることです。ログ・メトリクス・Alarm・通知を一本の流れで捉えます。
監視データを増やす前に、どの問いへ答える信号かを決める。

レイテンシ上昇をメトリクスで知り、遅いリクエストをトレースで絞り、対応するエラーログで入力や失敗理由を確認する。
一種類の信号だけで原因まで断定しない。メトリクスの急増は症状であり、ログやトレースによる裏付けが要る。
人がログを見続ける代わりに、異常パターンを数値へ変換する。

5分間の500エラー件数をカスタムメトリクスへ変換し、しきい値超過でAlarmがSNS通知を開始する。
高カーディナリティな値をdimensionへ無制限に入れると、メトリクス数とコストが膨らむ。集約単位を先に決める。
通知を、受信者が次の確認へ移れる作業票として設計する。

「stg cost-apiの5xxが5分で10件。該当ログはこちら。担当はAPIチーム」のように、症状と確認先を一緒に送る。
原因不明のまま「ERROR」とだけ通知すると、調査開始に時間がかかり、繰り返すほど無視されやすい。