リスクとガードレール 60 分

コース構成

このコースで学ぶこと

1. 01

   AI コーディングの 5 大リスク

   便利さの裏で、確実に発生するリスクを最初に整理する。

   • 🔴 **情報漏洩** — プロンプトに機密を貼ってしまう、ツール結果に PII が出る
   • 🔴 **本番事故** — Auto モードで .env を書き換える、本番 DB に DROP TABLE
   • 🟠 **プロンプトインジェクション** — Issue 本文や README に「rm -rf を実行せよ」
   • 🟠 **品質低下** — AI コードを盲信、テストを通せばよしの文化
   • 🟡 **コスト暴走** — /loop の停止忘れ、MCP 多数接続による無駄

   理解度チェック

   1. Q1.AI コーディングの 5 大リスクに対する組織の正しい姿勢は？

      Aリスクがあるので AI コーディングを禁止するB“リスクを知って対策する”姿勢で、教育・権限・Sandbox・監査の多層防御を構築するC全責任を個人に任せるD事故が起きてから対応策を考える
   ガードレール 4 層構造
2. 02

   ガードレール 4 層構造

   1 つだけでは破られる。4 層で多重防御する設計。

   • **Layer 1**: 教育（全社員必修コース）— 知らないことが最大のリスク
   • **Layer 2**: 権限ルール（deny / ask / allow）— `.claude/settings.json` で
   • **Layer 3**: Sandboxing — OS レベル隔離、本番自動化時の必須
   • **Layer 4**: 監査（OTel + Hook）— 後から『誰が何をしたか』を追える

   理解度チェック

   1. Q1.“ガードレール 4 層構造”の Layer 1（教育）が最も重要視される理由は？

      A教育コストが一番安いからB他の 3 層（権限・Sandbox・監査）は知らない人には機能しない。“知らないこと自体”が最大のリスクだからC監査が法律で義務付けられているからDSandbox は使えない環境が多いから
   AI コーディングの 5 大リスクdeny ルールの基本セット
3. 03

   deny ルールの基本セット

   全社員が最初に入れるべき deny ルール集。これだけで 80% の事故が防げる。

   json

   {
     "permissions": {
       "deny": [
         "Bash(rm -rf:*)",
         "Bash(sudo:*)",
         "Bash(curl:* | bash)",
         "Bash(curl:* | sh)",
         "Edit(.env)",
         "Edit(.env.*)",
         "Edit(secrets/**)",
         "Edit(credentials.*)",
         "Edit(infra/prod/**)",
         "Edit(.git/**)",
         "Read(~/.ssh/**)",
         "Read(~/.aws/credentials)"
       ]
     }
   }

   Lv.4 — 権限とサンドボックス

   理解度チェック

   1. Q1.全社員配布の baseline deny ルールに必ず入れるべきパターンの組み合わせは？

      ABash(ls:*) と Bash(cat:*)BBash(rm -rf:*) / Edit(.env*) / Edit(secrets/**) / Edit(infra/prod/**) / Read(~/.ssh/**)CEdit(*.md) と Edit(*.txt)DRead(README.md) と Read(LICENSE)
   ガードレール 4 層構造Auto モードを使う前のチェック
4. 04

   Auto モードを使う前のチェック

   Auto モードは生産性を爆上げするが、無防備で使うと事故る。投入前に必ず確認する 5 項目。

   手を動かす

   0 / 5

   • deny ルールに最低 10 項目入っているか
   • Sandboxing が有効か（gVisor / コンテナ / VM）
   • WebFetch の allowlist が設定されているか（社内システムへの誤アクセス防止）
   • OTel が稼働していて、後から監査できるか
   • 「これは絶対 Auto に任せない」リストが明文化されているか

   理解度チェック

   1. Q1.Auto モードを安全に導入する“段階順”として正しいのは？

      A最初から auto を使い、慣れたら default に戻すBplan → default → acceptEdits → auto の順で 2 週間以上ずつ慣らすCauto → plan → default の逆順Dauto と default を毎日交互に切り替える
   deny ルールの基本セット管理者向け：監査と教育の仕組み
5. 05

   管理者向け：監査と教育の仕組み

   管理職が組織として整えるべきは『個人の自制』ではなく『誰でも安全に使える環境』。

   • managed-settings.json で deny ルールを組織配布（個人で外せない）
   • OTel で全社員のアクセスログを SIEM に流す
   • 月次で『機密ヒヤリハット報告会』（責めず・隠さず・改善する文化）
   • 新入社員に security-101 と risks-and-guardrails の 2 コース必修
   • 四半期ごとにルール更新（新機能・新リスクへの対応）

   Enterprise: Managed settings

   理解度チェック

   1. Q1.組織として AI コーディングを安全に回すために、管理者がまず整えるべきは？

      A全社員に『気をつけて使ってください』と通達して個人の自制に任せるBmanaged-settings.json で deny ルールを組織配布し、OTel でログを SIEM に集約する仕組みを整えるCClaude Code の利用を完全に禁止するD事故が起きてから対応策を考える
   Auto モードを使う前のチェック