🧩どんなサービス? 6つのポイント
👤誰が使う?
AIに自分のパソコンで命令を打たせて作業させている開発者。
😩困っていたこと
AIが勝手にファイル削除などの命令を実行して、大事なデータが消える事故が怖い。命令の中身を毎回読むのも大変。
✅してくれること
AIが打とうとしている命令を実行前に止めて、何が消えたり書き換わったりするかを見せてくれる。
🤖AIの役割
AIが出した命令を読み解き、消えるファイルや変わる設定を前もって洗い出す(たぶん)。
💰お金の仕組み
不明。開発者向けの月額課金か、無料公開で広めるやり方(たぶん)。
📈うまくいっている証拠
Product Hunt に出たばかりで、まだ実績の情報はない。
🛠️自分でも作れる?
🧑💻率直なところ
個人で作れる。命令を横取りして中身を調べる仕組みと、よくある危険な命令の一覧があれば1〜2ヶ月。
🗾日本でやるなら
AIに開発を任せ始めた日本の小さな開発会社や個人に、まず無料で配って広める。チーム向けの記録・管理機能を月1,000〜3,000円で売る形が現実的。
👣最初の一歩
AIが危ない命令を実行して困った体験談をSNSや技術ブログで集め、どんな命令が事故になりやすいか一覧にする。
✨まねするならこのアイデア
- 受託開発会社向けのAI作業の記録係
- データ分析者向けの表の削除ガード
- サーバー管理者向けの本番環境ガード
- 学校のプログラミング授業向け安全柵
- AIの危険命令を日本語で説明する道具
🔬らぼのひとこと
AIが便利になるほど「AIの事故を防ぐ道具」が必要になる、という流れを突いている。作る道具ではなく守る道具なので、目立たないけれど手放せない存在になりやすい。
🔎 くわしい点数と情報源
原文: See what an AI agent's command would destroy before it runs
🧭似ている事例
ok2merge
開発者向けの、コード変更をAIが要約してスマホで承認できるアプリ
🛠️ 自分で作れる度★★★★★🗾 日本でやれる度★★★★★
💴 運営費0ドル
AgentGuard
AIに足す「追加機能」を、入れる前に危なくないか調べてくれるAI
🛠️ 自分で作れる度★★★★★🗾 日本でやれる度★★★★★
dotpals
プログラムを書くAIの「できました」がウソでないか見張る、デスクトップの相棒
🛠️ 自分で作れる度★★★★★🗾 日本でやれる度★★★★★
💴 無料