受信しただけで内蔵AIが勝手に処理するの。前ブラウザ買い物処理させるの見かけたけどああいうのもこわいよな
.forward のパイプへの攻撃でやられるみたいなもんか。
詐欺に引っかかる秘書みたいな(ノ∀`)
無茶苦茶
MCPは攻撃受けそうだな、と思ってたけど、登場するの早くね？/ 『信頼できるデータか否かを明確に区別できる新たな設計』←ゾーン切って、信頼ゾーン以外をソースとするときは権限を限定する、みたいな？
“「ユーザーにメールを送りつけるだけでCopilotを操って機密情報を送信させる」というゼロクリック攻撃を実証。「Echoleak」と名付けており、MCPに対応したAIシステムなどにも同様のリスクがある可能性”
番犬に餌をやる泥棒みたい
草
早くAI禁止するんだ！
“Microsoft 365 Copilotには「メールボックスやOneDriveに保存されているファイルの内容、Teamsのチャット履歴などを参照して質問への回答に利用する」というRAG(検索拡張生成)と呼ばれる機能が備わっています”
AIをサンドボックスの中で動かして決まった範囲のことしかできないようにするとかできないのかな
マジでか。これはきついなあ。
AIが出てきたことで世の中が良くなった気がしない。むしろ悪くなってる
AIは自然言語が使える分、穴を塞ぐのも大変そうだな
人間がメール開かなくてもAIが開いてハックされるって話か。怖すぎる。
“Microsoft 365 Copilotには「メールボックスやOneDriveに保存されているファイルの内容、Teamsのチャット履歴などを参照して質問への回答に利用する」というRAG(検索拡張生成)と呼ばれる機能が備わっています” へえ
AIエージェントが信頼できるデータと信頼できないデータを同じ『思考プロセス』で処理しているという事実そのものが、AIエージェントを脆弱(ぜいじゃく)にしている設計上の欠陥です。
https://travelandtourism.zohodesk.in/portal/en/kb/articles/51-delta-telefono-pe-c%C3%B3mo-llamar-a-delta-airlines-per%C3%BA
これに限らず諸々のアプリにある外部から画像引っ張ってきて表示する処理って受信っぽくみせて送信（外部へのアクション）してるから勝手にリンク先の画像を表示する機構とか有効化されてると困るよね。
「Microsoftはプロンプトインジェクションを防ぐためにXPIA分類子によるプロンプトの分類を実施しているのですが、Aim SecurityはXPIA分類子による検閲を回避できる手法を発見し…」
発見！じゃねぇよw権限系のリスクはアプリケーション連携当初から言われてたし、後付けのMCPなんてガバガバだから。
AI時代のセキュリティ課題。すぐそばにある
AI を標的にしたフィッシング詐欺とか， AI を利用して権限昇格とか，いろんな攻撃が想像できるな．
「AIエージェントが信頼できるデータと信頼できないデータを同じ『思考プロセス』で処理しているという事実そのものが、AIエージェントを脆弱(ぜいじゃく)にしている設計上の欠陥です。
“MicrosoftはすでにEcholeakへの対応を完了していますが”／AI対応していないメーラーを使っている私には関係ない話、ということでいいですか？
これクラウドで完結するから検知できない？
ハックされるのがAIなのか人間なのかという違い。ただしAIの場合は応答が早いから仕掛ける側も楽なのかもしれない
勝手にメールを見てるGメールマンを洗脳して悪さをさせる、てことか…
うは、メールとかAIが読んでくれて楽になるかと思ってたらこんな手法が見つかっちまったのか。こんなんで動くんだなあ……
メールを送りつけてAIを操り機密情報を盗み出すゼロクリック攻撃手法「Echoleak」が発見される、メールを受信しただけでアウトでMicrosoft CopilotやMCP対応サービスなどあらゆるAIシステムにリスクあり
受信しただけで内蔵AIが勝手に処理するの。前ブラウザ買い物処理させるの見かけたけどああいうのもこわいよな
.forward のパイプへの攻撃でやられるみたいなもんか。
詐欺に引っかかる秘書みたいな(ノ∀`)
無茶苦茶
MCPは攻撃受けそうだな、と思ってたけど、登場するの早くね？/ 『信頼できるデータか否かを明確に区別できる新たな設計』←ゾーン切って、信頼ゾーン以外をソースとするときは権限を限定する、みたいな？
“「ユーザーにメールを送りつけるだけでCopilotを操って機密情報を送信させる」というゼロクリック攻撃を実証。「Echoleak」と名付けており、MCPに対応したAIシステムなどにも同様のリスクがある可能性”
番犬に餌をやる泥棒みたい
草
早くAI禁止するんだ！
“Microsoft 365 Copilotには「メールボックスやOneDriveに保存されているファイルの内容、Teamsのチャット履歴などを参照して質問への回答に利用する」というRAG(検索拡張生成)と呼ばれる機能が備わっています”
AIをサンドボックスの中で動かして決まった範囲のことしかできないようにするとかできないのかな
マジでか。これはきついなあ。
AIが出てきたことで世の中が良くなった気がしない。むしろ悪くなってる
AIは自然言語が使える分、穴を塞ぐのも大変そうだな
人間がメール開かなくてもAIが開いてハックされるって話か。怖すぎる。
“Microsoft 365 Copilotには「メールボックスやOneDriveに保存されているファイルの内容、Teamsのチャット履歴などを参照して質問への回答に利用する」というRAG(検索拡張生成)と呼ばれる機能が備わっています” へえ
AIエージェントが信頼できるデータと信頼できないデータを同じ『思考プロセス』で処理しているという事実そのものが、AIエージェントを脆弱(ぜいじゃく)にしている設計上の欠陥です。
https://travelandtourism.zohodesk.in/portal/en/kb/articles/51-delta-telefono-pe-c%C3%B3mo-llamar-a-delta-airlines-per%C3%BA
これに限らず諸々のアプリにある外部から画像引っ張ってきて表示する処理って受信っぽくみせて送信（外部へのアクション）してるから勝手にリンク先の画像を表示する機構とか有効化されてると困るよね。
「Microsoftはプロンプトインジェクションを防ぐためにXPIA分類子によるプロンプトの分類を実施しているのですが、Aim SecurityはXPIA分類子による検閲を回避できる手法を発見し…」
発見！じゃねぇよw権限系のリスクはアプリケーション連携当初から言われてたし、後付けのMCPなんてガバガバだから。
AI時代のセキュリティ課題。すぐそばにある
AI を標的にしたフィッシング詐欺とか， AI を利用して権限昇格とか，いろんな攻撃が想像できるな．
「AIエージェントが信頼できるデータと信頼できないデータを同じ『思考プロセス』で処理しているという事実そのものが、AIエージェントを脆弱(ぜいじゃく)にしている設計上の欠陥です。
“MicrosoftはすでにEcholeakへの対応を完了していますが”／AI対応していないメーラーを使っている私には関係ない話、ということでいいですか？
これクラウドで完結するから検知できない？
ハックされるのがAIなのか人間なのかという違い。ただしAIの場合は応答が早いから仕掛ける側も楽なのかもしれない
勝手にメールを見てるGメールマンを洗脳して悪さをさせる、てことか…
うは、メールとかAIが読んでくれて楽になるかと思ってたらこんな手法が見つかっちまったのか。こんなんで動くんだなあ……