はてなまとめ - AIに機密情報を渡してよいか、判断の軸を自分なりに整理してみた

1: nguyen-oi 2026/08/31 08:34

情報分類とLLM環境とTool Callの3軸整理が実用的でわかりやすい

2: WildWideWeb 2026/08/31 09:58

みんな、走りながら考えようでやってきたが、そろそろ「ヤバいかも」と感じ始めていて「ヨソはどうしてる？」とか「誰か公的にベストプラクティスとしてまとめてくれないか」みたいな感じになってると思う。

3: mayumayu_nimolove 2026/08/31 10:27

人間に渡しても漏らすからね

4: strawberryhunter 2026/08/31 10:35

APIキーとか、パスワードとか、秘密鍵はどうだろうか。学習には使わないと宣言されても、(みんなは)論外かな？1Passwordみたいなのも危うい仕組みだと思う。

5: mcddx30 2026/08/31 10:51

6: kenzy_n 2026/08/31 11:42

渡したらその情報は全て公開されると考えて対応したいところ。

7: sakidatsumono 2026/08/31 12:01

お偉いさんがchatgpt無料版をバシバシ使っていると子供から聞いて「俺にコンサルさせろ」と絶叫した

8: magi00 2026/08/31 12:11

認証情報は渡すメリットに対して一律除外されるほどデメリットが大きすぎるということ。考え方に関しては例えば、第三者の情報（例えばメール）を読ませたときに悪意のある指示が混入するリスクを考える必要がある。

9: osidimodes22 2026/08/31 12:37

機密情報は渡したらだめだろ。なにを機密とするのかの定義をするのでは

10: masuipeo 2026/08/31 12:52

そんなに単純じゃない。機密情報をもっと細かく分類しないと。そもそも個人情報なら収集時に提示した利用目的を超えて使用はできない。

11: misshiki 2026/08/31 15:27

AIへの機密情報入力を「学習OFFなら安全」で判断せず、「情報分類×LLM環境×Tool Callの露出範囲」で整理。守るべきはAIに渡さないことではなく、許可していない相手へ情報を渡さないこと。

12: toaruR 2026/08/31 15:27

入れない方向に倒すのは目に見えるので、毒抜きプロクシでも作ろうかしら(´・ω・｀)

13: bxmcr 2026/08/31 17:13

“逆に、エージェントが機密ファイルを公開”

14: lainof 2026/08/31 18:01

顧客に関連する情報は顧客との契約が優先されるんじゃない？

15: harumomo2006 2026/08/31 18:36

個人情報や著作権絡みは自分が気を付けていても他の誰かが入力したら終わるので本人しか知らないような情報以外はあまり気にしても仕方ない。一度公開されたら全人類供用資産と思った方がいい

16: jaguarsan 2026/08/31 18:53

とにかく機密情報をAIに食わせちゃダメの人、当然のようにメールとストレージとOfficeを覗いてくるCopilotをどのように考えてるんだろう

17: MtAsuka 2026/08/31 19:50

AIに何を渡していいか悪いかで考えるのではなく、まずそのデータをどう取り扱うべきかを明確にして、それがAIでどう扱われるかで判断すべき。機密情報と一口に言っても、顧客との契約次第で取り扱いは変わるし。

AIに機密情報を渡してよいか、判断の軸を自分なりに整理してみた - $shibayu36->blog;