最初からセキュリティありきならともかく、騙される想定が無いエージェントは危ないと言われたらそうかも
人間には見えない文字（色が背景と同じとか）でプロンプトインジェクションを掛けようとするみたいな。
上手い話などない。そういうバランス感覚が、詐欺に対抗するベースライン
AIエージェントに金銭的なことを任せるのはリスクがあるよね。決済とか金融には触らせない方がいいと思う。
最悪な話だが夢はあるな。AIがAIを騙すのに最適化されていったら人間には何も理解できなくなりそう
日常生活でAIに「レストランの予約から金融取引まで、自律的に判断し、資金を移動させ」のようなことを頼みたくなることが全くないのだが、こんなことしている人間でどれくらいいるのだろう？
「AIの方が人間より騙しやすい」ってのは盲点だったわ。結局プロンプト一本で全財産投げ出す未来が見える。詐欺ベンチマーク作るしかねーな〜
我々がエージェントって言葉の意味、あまり理解してないのを危惧してる。エージェントに自分の権限を渡した以上、責任取るのも自分。本来、パシリや便利君とは全く違うけど、YouTube見てるとそんなノリ結構見かける。
F-Secureと言えば、「ぱよぱよちーん」事件により、あまりのキモさにチバレイをネトウヨ転向させるに至った企業。と、法人に起因する事件でなくても責任だけ負わされる事象と、AIのやらかし責任をヒトが負う事象の類似
AIとAIが戦う時代
F-Secureは2026年の脅威としてAIエージェントへの攻撃を指摘。プロンプトインジェクションなどでAIの意思決定をだまし、資産や情報を奪う可能性。AIとボットで偽コミュニティを作る投資詐欺「OPCOPRO」も報告。
ネット詐欺のターゲットは人間ではなく、AIエージェントに？ F-Secureの予測を紹介【読めば身に付くネットリテラシー】
最初からセキュリティありきならともかく、騙される想定が無いエージェントは危ないと言われたらそうかも
人間には見えない文字（色が背景と同じとか）でプロンプトインジェクションを掛けようとするみたいな。
上手い話などない。そういうバランス感覚が、詐欺に対抗するベースライン
AIエージェントに金銭的なことを任せるのはリスクがあるよね。決済とか金融には触らせない方がいいと思う。
最悪な話だが夢はあるな。AIがAIを騙すのに最適化されていったら人間には何も理解できなくなりそう
日常生活でAIに「レストランの予約から金融取引まで、自律的に判断し、資金を移動させ」のようなことを頼みたくなることが全くないのだが、こんなことしている人間でどれくらいいるのだろう？
「AIの方が人間より騙しやすい」ってのは盲点だったわ。結局プロンプト一本で全財産投げ出す未来が見える。詐欺ベンチマーク作るしかねーな〜
我々がエージェントって言葉の意味、あまり理解してないのを危惧してる。エージェントに自分の権限を渡した以上、責任取るのも自分。本来、パシリや便利君とは全く違うけど、YouTube見てるとそんなノリ結構見かける。
F-Secureと言えば、「ぱよぱよちーん」事件により、あまりのキモさにチバレイをネトウヨ転向させるに至った企業。と、法人に起因する事件でなくても責任だけ負わされる事象と、AIのやらかし責任をヒトが負う事象の類似
AIとAIが戦う時代
F-Secureは2026年の脅威としてAIエージェントへの攻撃を指摘。プロンプトインジェクションなどでAIの意思決定をだまし、資産や情報を奪う可能性。AIとボットで偽コミュニティを作る投資詐欺「OPCOPRO」も報告。