「確認してから実行」

この記事についてAbout this article

ゴールGoal AIが勝手に動かない設定にする

こんなあなたへFor you if ファイル操作をさせるのが怖い方

この記事の要約Summary

AIが勝手にファイルを触らないよう、実行前に確認させる設定の話です。任せる範囲の広げ方も順番で示します。

所要時間Time
4分
必要な準備What you need
ー

信頼を積み上げる権限設計。

※2026年9月時点


送る・消す・払うは、ずっと確認つき。最初は毎回確認。戻せる作業から、読む→作る→変えるの順に任せる範囲を広げる。読む、作る、変える、送る・消す・払う

最初は毎回確認のまま使い、戻せる作業から「読む→作る→変える」の順に任せる範囲を広げます。送る・消す・払うは、ずっと確認つきです。

「勝手に動いて、変なことをしない?」

「AIがファイルを操作する」と聞いて、こう感じるのは自然なことです。

勝手に動いて、変なことをしない?

この記事は、その疑問へのお答えです。 結論から言います。

多くのエージェントAIは、大事な操作の前に「やっていいですか?」と確認を求めてきます。 勝手にどんどん進む、ということは起きにくくなっています。

そして、この確認を少しずつ減らしていく過程は、新人に仕事を任せていく過程とそっくりです。 順に見ていきましょう。


実行前に「いいですか?」と聞いてくる

エージェントAIは、ファイルの書き換えや削除といった影響の大きい操作の前に、いったん手を止めて許可を求めてきます。

画面には、たとえばこんな確認が表示されます。

「このファイルを上書きしてもよろしいですか? [許可する][今回だけ許可][許可しない]」

あなたがボタンを押すまで、作業は進みません。 つまり使いはじめのAIは、「報告・連絡・相談を欠かさない、慎重すぎるくらいの新人」として着任します。 「勝手に動くのでは」という心配は、まずこの一手間が受け止めてくれます。


最初は「毎回確認」のままで

確認が何度も出ると、正直、少し面倒に感じます。 まとめて許可できる設定を持つものもあります。 それでも、最初の数週間は「毎回確認」のままで使うことをおすすめします。

理由は2つあります。

① AIの仕事ぶりが見えるから。 確認のたびに「今、何をどうしようとしているか」が画面に出ます。 これはAIの手順を学ぶ、いちばんの教材です。

② 信頼の根拠が貯まるから。 「この種の操作は10回とも問題なかった」という実績は、確認を挟んだ運用からしか得られません。

試用期間の新人に、仕事を見せてもらいながら任せ方を測る──あの期間だと思ってください。


広げ方:「読む」から順に

慣れてきたら、確認を省く範囲を少しずつ広げます。 広げる順番には定石があります。

段階作業の種類例任せ方の目安
1読むファイルを開いて要約する早めに任せてよい
2作る新しいファイルを作成する実績を見て任せる
3変える既存ファイルを上書き・移動する慎重に。当面は確認つき
4外に出す・消す送信・削除・支払いずっと確認を続ける

ポイントは、「元に戻せる作業」から先に任せることです。 読むだけの作業は何度やってもファイルは無傷。 新規作成も、失敗作を捨てれば済みます。 一方、上書きや削除は取り返しに手間がかかる。 影響の戻しやすさが、任せる順番を決めます。

見どころ:任せる範囲は、下の段から順に広げます。上に行くほど、元に戻しにくい作業です。

  1. 出発点は「どれも確認つき」。「上書きしてもよろしいですか?」に答えるまで、作業は進みません。
  2. 実績がたまった段から、確認を省いていきます。読む・作るは早めに、変えるは慎重に。
  3. いちばん上の「送る・消す・払う」だけは、信頼が育っても確認を続けます。

任せる範囲は、下の段から順に広げます。上に行くほど、元に戻しにくい作業です

(左の矢印は、信頼が積み上がるほど任せる範囲が上へ広がることを表しています)


「送る・消す・払う」は、ずっと一緒に

表の最終段階に置いた3つ──送る・消す・払う──だけは、どれだけ信頼が育っても確認を外さないでください。

  • 送る:メール送信、外部への共有。相手がいる操作は取り消せません
  • 消す:削除。復元できる場合もありますが、原則は不可逆と考える
  • 払う:決済・購入。金銭が動く操作は常に人間の承認で

これはAIへの不信ではなく、役割分担です。 人間の組織でも、契約書の押印や振込の承認は担当者任せにせず、決裁者が確認します。 最終責任を持つ人が最後のボタンを押す──その原則を、AIとの分業にもそのまま持ち込むだけです。


まとめ

  • 大事な操作の前には確認が入る。勝手にどんどん進むことは起きにくい
  • 最初は毎回確認で使い、仕事ぶりを見る
  • 「読む→作る→変える」の順で任せる範囲を広げる
  • 「送る・消す・払う」は、ずっと一緒に確認する

権限設計とは、ボタンの設定の話のようでいて、実は信頼をどう積み上げるかの話です。 どこまで任せ、どこで自分が判を押すか。 それを決める判断力は道具からは出てきません。 任せる側のあなたが握っている、いちばん大事な権限です。


次回:「『戻せる』があれば大丈夫──ファイル操作の安全設計」

AI が勝手に壊さないか不安な人の関連記事More from Afraid it will break something

この分類をすべて見るSee this category →
いま、何に困っていますかWhat is in your way right now? 3つの質問で、あなたに合う記事を選びます。Three questions pick the articles that fit you. 記事を選ぶFind what to read →

おすすめ記事Recommended

もっとみるSee more →