Skip to content

docs(adr): ADR-062 月次ハーネス ROI レビューを追加 (WP-12 step 2/3 消化、Phase 3) - #332

Merged
aloekun merged 1 commit into
masterfrom
docs/adr-062-monthly-roi-review
Jul 30, 2026
Merged

docs(adr): ADR-062 月次ハーネス ROI レビューを追加 (WP-12 step 2/3 消化、Phase 3)#332
aloekun merged 1 commit into
masterfrom
docs/adr-062-monthly-roi-review

Conversation

@aloekun

@aloekun aloekun commented Jul 30, 2026

Copy link
Copy Markdown
Owner

概要

月次ハーネス ROI レビュー (docs/monthly-harness-roi-review-plan.md) の Phase 3 (PR-3 後半)。L3 skill (/monthly-review) の作成に対応する本 repo の docs を整備し、ADR-055 の WP-12 step 2/3 を消化する。

3 層構成 (ADR-062): L1 SessionStart reminder (PR #331 でマージ済) + L2 cli-telemetry-report exe (PR #330 でマージ済) + L3 /monthly-review skill (skills repo で別途 commit)。本 PR はこれらを正式記録する ADR + 既存 ADR への追記 + todo 整理を担う docs-only PR。

変更内容

  • ADR-062 新規 (docs/adr/adr-062-monthly-harness-roi-review.md): 月次ハーネス ROI レビューの背景 / 設計決定 / ユーザー決定事項を正式記録 (試験運用、ADR-039 3 点セット)。
  • ADR-055 amendment (2026-07-30): WP-12 step 2/3 消化 + step 2 の出力先を週次→月次に変更 (テレメトリ傾向は週次ではノイズ、ADR-053/061 の leak 撤去粒度「4 週間」と月次が一致)。
  • ADR-053 / ADR-061 追記: 撤去判定「4 週間非観測」を月次レビュー (ADR-062) が 連続 2 か月発火 0 で機械 promote する旨を 1 段落ずつ + 関連 ADR リンク。
  • CLAUDE.md index に ADR-062 追加。
  • todo 整理: todo-summary2.md の順位 307/308/312 削除、todo16.md の WP-12 step 2 / step 3 / retention セクション削除、harness-improvement-plan.md の WP-12 状態更新 (step 2-3 + retention を ADR-062 で消化)。順位 315 の 307/308 参照を ADR-062 に repoint。

検証

  • pnpm lint:md 全通 (117 ファイル、0 error)
  • pre-push-review (takt): APPROVE (docs-only、ADR-035)。初回 review の非ブロッキング指摘 2 件 (backslash リンク / 順位 315 の dangling 参照) は本 push 前に修正済み。
  • docs-only のため Rust コード変更なし (cargo test/clippy は Phase 2 で green 確認済、本 PR で不変)。

補足

  • L3 skill 本体 (monthly-review/SKILL.md + evals/) は skills repo ($CLAUDE_SKILLS_REPO、別 git リポジトリ) で作成・deploy 済みだが、当該 repo の commit / PR は別フロー。
  • Phase 4 (本 plan doc の ADR 照合 + 削除) は後続で対応。

Summary by CodeRabbit

  • 新機能

    • テレメトリの月次集計と、発火実績に基づく見直し候補の提示手順を追加しました。
    • 月次レポート、保持期間管理、設定・配備状況の確認方法を整備しました。
    • 見直し候補は自動変更せず、確認後に適用できる運用としました。
  • ドキュメント

    • 関連する設計判断、実装計画、進捗記録、タスク一覧を更新しました。
    • 28日間のウォームアップ期間と初回レビュー時期を明記しました。

@coderabbitai

coderabbitai Bot commented Jul 30, 2026

Copy link
Copy Markdown

Review Change Stack

Important

Review skipped

Auto incremental reviews are disabled on this repository.

Please check the settings in the CodeRabbit UI or the .coderabbit.yaml file in this repository. To trigger a single review, invoke the @coderabbitai review command.

⚙️ Run configuration

Configuration used: Path: .coderabbit.yaml

Review profile: CHILL

Plan: Pro Plus

Run ID: d3fe376c-09b1-48cd-b48b-3d6c3687cc29

You can disable this status message by setting the reviews.review_status to false in the CodeRabbit configuration file.

Use the checkbox below for a quick retry:

  • 🔍 Trigger review
📝 Walkthrough

Walkthrough

Changes

月次telemetry発火実績に基づくハーネスROIレビューをADR-062として定義し、非アクティブ化候補の判定・ユーザー承認・retention・出力仕様を既存ADRと計画文書へ反映しました。

月次ハーネス ROI レビュー

Layer / File(s) Summary
ADR-062の運用定義
docs/adr/adr-062-monthly-harness-roi-review.md, CLAUDE.md
月次集計、3層構成、degraded時の挙動、snapshot、retention、候補判定、ユーザー承認、ADR-039適合を定義し、索引へ追加しました。
関連ADRの判定基準更新
docs/adr/adr-053-stop-tool-call-leak-detection.md, docs/adr/adr-055-firing-telemetry-collection.md, docs/adr/adr-061-tool-call-leak-hardfail-recovery.md
bounded lifetimeの判定をtelemetryの連続発火0か月数に基づくpromoteへ更新し、月次出力とADR-062への参照を追加しました。
計画・進捗・タスクの反映
docs/harness-improvement-plan.md, docs/monthly-harness-roi-review-plan.md, docs/todo-summary2.md, docs/todo16.md
WP-12の月次移管、Phase 2/3の実装進捗、warm-up期間、関連タスクと推奨実行順序を更新しました。

Estimated code review effort: 2 (Simple) | ~10 minutes

Possibly related PRs

🚥 Pre-merge checks | ✅ 5
✅ Passed checks (5 passed)
Check name Status Explanation
Description Check ✅ Passed Check skipped - CodeRabbit’s high-level summary is enabled.
Title check ✅ Passed ADR-062 の追加と WP-12 step 2/3、Phase 3 の関連更新を適切に要約しており、変更内容と一致しています。
Docstring Coverage ✅ Passed No functions found in the changed files to evaluate docstring coverage. Skipping docstring coverage check.
Linked Issues check ✅ Passed Check skipped because no linked issues were found for this pull request.
Out of Scope Changes check ✅ Passed Check skipped because no linked issues were found for this pull request.
✨ Finishing Touches
🧪 Generate unit tests (beta)
  • Create PR with unit tests
  • Commit unit tests in branch docs/adr-062-monthly-roi-review

Thanks for using CodeRabbit! It's free for OSS, and your support helps us grow. If you like it, consider giving us a shout-out.

❤️ Share

Comment @coderabbitai help to get the list of available commands.

@github-actions

Copy link
Copy Markdown
Contributor

🤖 PR Monitor 分析 (GitHub Actions バックストップ)

  • トリガー: issue_comment (created) / 実行 run
  • CI: CodeRabbit チェックのみ登録 (state: pending, 「Review in progress」)。他の CI ワークフローは本 PR には見当たらず (docs-only のためビルド系ジョブが対象外の可能性)
  • レビュー状況: CodeRabbit は解析中で確定コメント未着 (review in progress の自動生成コメントのみ)。人間レビューアーからのレビュー・インライン指摘はまだ 0 件
  • Verdict: approved (findings 0 件のため機械ルール上は approved 相当。ただし CodeRabbit 解析が未完了であることに留意 — 次回分析で新規指摘が出れば再評価)

Applicable Findings (Critical / High / Major)

該当なし (CodeRabbit レビュー未着のため findings 0 件)

Applicable Findings (Medium 以下)

(該当なし)

Filtered (not applicable)

(該当なし)

軽量サマリー (diff 概要)

全 8 ファイル変更、すべて *.md / CLAUDE.md (ADR-035 の docs-only 基準に合致、コード実行ロジックの変更なし)。

File 変更
CLAUDE.md +1 (ADR-062 インデックス行追加)
docs/adr/adr-062-monthly-harness-roi-review.md +205 (新規 ADR)
docs/monthly-harness-roi-review-plan.md +46/-21 (計画更新)
docs/adr/adr-055-firing-telemetry-collection.md +38 (追記)
docs/adr/adr-053-stop-tool-call-leak-detection.md +10 (ADR-062 との連動追記)
docs/adr/adr-061-tool-call-leak-hardfail-recovery.md +10 (同上)
docs/todo16.md +3/-79 (完了タスクの整理)
docs/harness-improvement-plan.md +2/-2
docs/todo-summary2.md +1/-4

新規 ADR-062 (月次ハーネス ROI レビュー) を追加し、既存の ADR-053 / ADR-061 の「4 週間非観測での撤去判定」を telemetry 発火実績ベースの機械 promote (連続 2 か月発火 0) に接続する内容。WP-12 step 2/3 の進捗として todo 系ドキュメントも整理されている。

次のアクション

  • CodeRabbit の解析完了を待ち、次回起動時 (レビューコメント確定後) に findings を再評価する
  • 現時点で人間側の追加アクションは不要 (docs-only・低リスク変更)

@coderabbitai coderabbitai Bot left a comment

Copy link
Copy Markdown

Choose a reason for hiding this comment

The reason will be displayed to describe this comment to others. Learn more.

Actionable comments posted: 3

Caution

Some comments are outside the diff and can’t be posted inline due to platform limitations.

⚠️ Outside diff range comments (2)
docs/harness-improvement-plan.md (2)

258-258: 🔒 Security & Privacy | 🟡 Minor | ⚡ Quick win

個人のローカルパスを文書から除去してください。

C:\Users\owner\work\claude-code-skills はユーザー名を露出し、他環境では利用できません。$CLAUDE_SKILLS_REPO と相対パス、または固定した commit ID だけを記載してください。

🤖 Prompt for AI Agents
Verify each finding against current code. Fix only still-valid issues, skip the
rest with a brief reason, keep changes minimal, and validate.

In `@docs/harness-improvement-plan.md` at line 258, Remove the personal local path
C:\Users\owner\work\claude-code-skills from the deployment configuration
documentation around the hooks-stop-quality and push-runner-config.toml
guidance. Replace it with $CLAUDE_SKILLS_REPO plus a relative path, or with a
fixed commit ID, while preserving the documented cross-shell path behavior.

254-267: 🗄️ Data Integrity & Integration | 🟠 Major | 🏗️ Heavy lift

未コミットの L3 skill を「実装完了」として扱わないでください。

Phase 3 は「実装完了」と記載されていますが、skills repository の commit/PR は未実施です。別リポジトリの未固定状態を完了扱いすると、再現・ロールバック・監査ができません。少なくとも immutable な commit を記録してから完了にするか、現状を「実装済み・未 land」と明示してください。

🤖 Prompt for AI Agents
Verify each finding against current code. Fix only still-valid issues, skip the
rest with a brief reason, keep changes minimal, and validate.

In `@docs/harness-improvement-plan.md` around lines 254 - 267, Update the Phase 3
completion status in the implementation plan to avoid treating the uncommitted
L3 skill changes as complete. Record an immutable commit or PR reference for the
skills repository before marking the phase complete; otherwise explicitly label
it as implemented but not landed, including its uncommitted status.
🤖 Prompt for all review comments with AI agents
Verify each finding against current code. Fix only still-valid issues, skip the
rest with a brief reason, keep changes minimal, and validate.

Inline comments:
In `@docs/adr/adr-062-monthly-harness-roi-review.md`:
- Around line 134-136: ADR の Phase 4 と last-run 更新条件を明確化し、cli-telemetry-report
の失敗時または degraded により promote を抑止した場合は state を更新せず stale
のまま保持する契約を追記してください。完全なレポート取得とユーザー確認が成功した場合のみ last_run を更新することを明記してください。
- Around line 43-46:
撤去判定の正式基準を「連続2か月発火0」に統一し、旧「4週間」条件が残らないよう更新してください。docs/adr/adr-062-monthly-harness-roi-review.md:43-46では2か月基準を唯一の正式基準として明示し、docs/adr/adr-053-stop-tool-call-leak-detection.md:150-157とdocs/adr/adr-061-tool-call-leak-hardfail-recovery.md:173-180では旧条件をADR-062へ委譲する記述に置き換え、両ADRの判定契約を揃えてください。

In `@docs/todo16.md`:
- Line 302: Update the ADR-055 warm-up date reference in the telemetry
documentation to use the ADR-062 start date of 2026-07-15, while retaining the
28-day result of approximately 2026-08-12 and the existing ADR-062 link.

---

Outside diff comments:
In `@docs/harness-improvement-plan.md`:
- Line 258: Remove the personal local path
C:\Users\owner\work\claude-code-skills from the deployment configuration
documentation around the hooks-stop-quality and push-runner-config.toml
guidance. Replace it with $CLAUDE_SKILLS_REPO plus a relative path, or with a
fixed commit ID, while preserving the documented cross-shell path behavior.
- Around line 254-267: Update the Phase 3 completion status in the
implementation plan to avoid treating the uncommitted L3 skill changes as
complete. Record an immutable commit or PR reference for the skills repository
before marking the phase complete; otherwise explicitly label it as implemented
but not landed, including its uncommitted status.
🪄 Autofix (Beta)

Fix all unresolved CodeRabbit comments on this PR:

  • Push a commit to this branch (recommended)
  • Create a new PR with the fixes

ℹ️ Review info
⚙️ Run configuration

Configuration used: Path: .coderabbit.yaml

Review profile: CHILL

Plan: Pro Plus

Run ID: 0576314d-9e50-4088-9b85-b76bc01e9679

📥 Commits

Reviewing files that changed from the base of the PR and between 453620e and e07220f.

📒 Files selected for processing (9)
  • CLAUDE.md
  • docs/adr/adr-053-stop-tool-call-leak-detection.md
  • docs/adr/adr-055-firing-telemetry-collection.md
  • docs/adr/adr-061-tool-call-leak-hardfail-recovery.md
  • docs/adr/adr-062-monthly-harness-roi-review.md
  • docs/harness-improvement-plan.md
  • docs/monthly-harness-roi-review-plan.md
  • docs/todo-summary2.md
  • docs/todo16.md

Comment thread docs/adr/adr-062-monthly-harness-roi-review.md
Comment thread docs/adr/adr-062-monthly-harness-roi-review.md
Comment thread docs/todo16.md Outdated
@github-actions

Copy link
Copy Markdown
Contributor

🤖 PR Monitor 分析 (GitHub Actions バックストップ)

  • トリガー: pull_request_review (submitted) / 実行 run
  • CI: analyze pending (本 workflow 自身の解析ジョブ) / CodeRabbit pass (Review completed)。他の CI ワークフローは未登録 (docs-only のためビルド系ジョブ対象外)
  • レビュー状況: CodeRabbit が本 PR 初のレビュー (COMMENTED) を投稿 — actionable 3 件 (インライン) + outside-diff 2 件。人間レビュアーの参加はまだ 0 件。reviewDecision は未確定 (空)
  • Verdict: needs_fix (Major 該当あり)

Applicable Findings (Critical / High / Major)

# File (Line) Reviewer Issue Recommended Action
1 docs/adr/adr-053-stop-tool-call-leak-detection.md:142 (関連: adr-062:43-46, adr-061:173-180) CodeRabbit 撤去判定基準が旧「4週間観測なし」(ADR-053 原文) と新「連続2か月発火0」(ADR-062 決定 + ADR-053/061 追記) の二重表記のまま残り、読み手により異なる撤去判断を誘発しうる ADR-053/061 本文の「4週間」記述を ADR-062 への委譲表現に置換し、2か月基準を ADR-062 単独の正式基準として明示する
2 docs/adr/adr-062-monthly-harness-roi-review.md:134-136 CodeRabbit cli-telemetry-report 失敗時/degraded 時に last_run を更新するかが未規定。更新してしまうと L1 reminder が「レビュー済み」と誤認し次回催促を抑制する恐れ 「完全なレポート取得 + ユーザー確認成功時のみ last_run 更新、失敗/degraded 時は stale 維持」の契約を ADR 本文に明記する
3 docs/monthly-harness-roi-review-plan.md:254-267 (⚠️ CodeRabbit は docs/harness-improvement-plan.md と誤記載 — 実際の該当箇所はこちら) CodeRabbit skills repo 側の L3 skill (monthly-review/SKILL.md 等) が未 commit/未 PR のまま「実装完了」と記載されており、再現性・ロールバック・監査ができない 「実装済み・未 land」と明示するか、skills repo 側の commit 確定後に完了表記へ改める

Applicable Findings (Medium 以下)

# File (Line) Reviewer Severity Issue Recommended Action
4 docs/monthly-harness-roi-review-plan.md:258 (⚠️ CodeRabbit は docs/harness-improvement-plan.md と誤記載 — 実際の該当箇所はこちら) CodeRabbit Minor $CLAUDE_SKILLS_REPO の実体パスとして個人ローカルパス C:\Users\owner\work\claude-code-skills がそのまま文書に記載されている 変数参照のみに留め、実パス表記を削除する
5 docs/todo16.md:302 CodeRabbit Minor warm-up 起算日が ADR-062 (2026-07-15 起算) と todo16.md (2026-07-16 起算) でずれている (結果はどちらも 08-12 で一致) 起算日を ADR-062 の 2026-07-15 に統一する

Filtered (not applicable)

該当なし (全 5 件とも ADR 矛盾・プラットフォーム範囲外・sensitive-file・スコープ外のいずれにも該当せず、docs-only PR でも適用対象の cross-reference / データ整合性 / セキュリティ観点の指摘のため applicable と判定)

次のアクション

  1. ADR-053/061/062 間の撤去基準表記統一 (# 1) と last_run 更新契約の明記 (# 2) を次回ローカルセッションで修正
  2. 個人ローカルパスの除去 (# 4) と skills repo 未 commit 状態の明示的なラベリング (# 3) をあわせて対応
  3. 修正担当者は CodeRabbit のファイル帰属ミス (# 3, # 4 とも docs/harness-improvement-plan.md ではなく実際は docs/monthly-harness-roi-review-plan.md) に注意して作業すること

月次ハーネス ROI レビュー (docs/monthly-harness-roi-review-plan.md) の Phase 3。L3 skill (/monthly-review、skills repo で別途 commit) に対応する本 repo の docs を整備する。

- ADR-062 新規: 月次ハーネス ROI レビューの背景/設計決定/ユーザー決定事項を正式記録 (試験運用、ADR-039 3 点セット)。cli-telemetry-report (L2) + SessionStart reminder (L1、#331) + /monthly-review skill (L3) の 3 層。
- ADR-055 amendment: WP-12 step 2/3 消化 + 出力先の週次→月次変更。
- ADR-053 / ADR-061 追記: 撤去判定 (4 週間非観測) を月次レビューが連続 2 か月発火 0 で機械 promote。
- CLAUDE.md index に ADR-062 追加。
- todo 整理: todo-summary2.md の順位 307/308/312 削除、todo16.md の WP-12 step2/step3/retention セクション削除、harness-improvement-plan.md の WP-12 状態更新。

docs-only。pnpm lint:md 全通。
@aloekun
aloekun force-pushed the docs/adr-062-monthly-roi-review branch from e07220f to d9f9337 Compare July 30, 2026 06:33
@github-actions

Copy link
Copy Markdown
Contributor

🤖 PR Monitor 分析 (GitHub Actions バックストップ)

  • トリガー: pull_request_review (submitted) / 実行 run
  • CI: analyze pending (本 workflow 自身の解析ジョブ、実行中のため常時 pending) / CodeRabbit pass (「incremental reviews are disabled」のため実体は前回完了レビューのまま stale 表示)。他の CI ワークフローは未登録 (docs-only のためビルド系ジョブ対象外)。mergeStateStatus は UNSTABLE だが自身の pending job 起因であり実質ブロッカーなし
  • レビュー状況: CodeRabbit が初回レビュー (06:16, commit e07220f) で actionable 3 件 (インライン) + outside-diff 2 件 (計 5 件) を指摘 → 作者 aloekun が修正コミット d9f9337d を push し、インライン 3 件すべてに対応コメントを返信 (06:42) → CodeRabbit が 3 件とも <review_comment_addressed> で解決確認 (06:42-06:43)。人間レビュアーからの新規レビュー参加はまだ 0 件、reviewDecision は未確定 (空)
  • Verdict: needs_fix (Major 1 件が確認未了のまま残存)

Applicable Findings (Critical / High / Major)

# File (Line) Reviewer Issue Recommended Action
1 docs/monthly-harness-roi-review-plan.md:436-449 (CodeRabbit 初回レビューは docs/harness-improvement-plan.md と誤記載) CodeRabbit 未 commit の skills repo 側 L3 skill を Phase 3 として「✅ 実装完了」と表記した件。現在の本文は ✅ 実装完了 (未 push / skills repo 未 commit、2026-07-30) と既に「未 land」の明示が入っており CodeRabbit の代替要求(immutable commit 記録 or 未 land 明示)の後者を満たしているように読めるが、この outside-diff 指摘は返信スレッドを持てない性質上、対応確認(返信・acknowledgment)が一切記録されていない 現テキストで意図的に満たしたのか、修正前から同じ表記だったのかを次のローカルセッションで確認し、意図的なら CLAUDE.md の docs-only 運用ログにその旨一言残す

Applicable Findings (Medium 以下)

# File (Line) Reviewer Severity Issue Recommended Action
2 docs/monthly-harness-roi-review-plan.md:440 (同上、CodeRabbit 初回レビューは誤ファイル記載) CodeRabbit Minor $CLAUDE_SKILLS_REPO の実体パスとして個人ローカルパス C:\Users\owner\work\claude-code-skills が現在も本文にそのまま残存 (修正コミット d9f9337d 後も未変更) 変数参照のみに留め、実パス表記を削除する

Filtered (not applicable)

該当なし

解決済み (今回確認)

# File (Line) Issue 状態
- docs/adr/adr-053-stop-tool-call-leak-detection.md:142 等 (旧 vs 新の撤去基準二重表記) commit d9f9337d で ADR-053/061 側を ADR-062 委譲表現に統一。CodeRabbit 確認済み
- docs/adr/adr-062-monthly-harness-roi-review.md:134-136 (last_run 更新条件未規定) commit d9f9337d で「完全レポート成功時のみ更新、失敗/degraded 時は stale 維持」を追記。CodeRabbit 確認済み
- docs/todo16.md:302 (warm-up 起算日のずれ) commit d9f9337d で 2026-07-15 起算に統一。CodeRabbit 確認済み

次のアクション

  1. 個人ローカルパス (# 2) を次のローカルセッションで除去する軽微な追加修正
  2. Phase 3 完了表記 (# 1) が CodeRabbit の要求を実質満たしているか人間が最終確認し、満たしていれば outside-diff 指摘として明示的にクローズしたことを記録する
  3. 上記 2 点は Minor/確認待ちのみで新規の設計上の懸念ではないため、次回 push 前にまとめて反映すれば十分

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Labels

None yet

Projects

None yet

Development

Successfully merging this pull request may close these issues.

1 participant