何を見るべきか
AIエージェントの便利さは、ファイル編集やコマンド実行の権限とセットです。権限が強いほど、事故の影響も大きくなります。
生成AIアプリのリスクとして、OWASP LLM Top 10 では過剰な権限や不適切な出力処理が重要なテーマになっています。
渡す前に見る権限
| 権限 | リスク |
|---|---|
| ファイル読み取り | 秘密情報を読める可能性 |
| ファイル書き込み | 意図しない変更や削除 |
| コマンド実行 | 危険な操作の実行 |
| ネットワーク接続 | 外部への情報送信 |
初心者は、最初から全権限を渡さない方が安全です。
安全な進め方
AIには、まず読み取りと説明を依頼します。次に、変更対象ファイルを限定します。コマンド実行が必要な場合は、何を実行するか説明させてから進めます。
削除、データベース変更、課金、秘密情報の扱いは、人間の確認を必須にします。
まとめ
AIエージェントは、権限を絞るほど安全に使いやすくなります。学習段階では「読ませる」「説明させる」「小さく直させる」の順番が現実的です。
参考リソース
← 一覧に戻るPR
PR
