AIセキュリティ何から勉強すりゃええの？ - Qiita

これはAIセキュリティではなく、AIでよく攻撃される脆弱性の基礎なのでは？それをどう守るべきかまでがセキュリティやで？

そんなのAIに聞けばよろし。

失敗から勉強するんだよ

AIセキュリティ、何から学べばいいのか分かりにくい分野だけど、論文を読む→実際に攻撃を試す→対策を考える、という流れはかなり実践的。特にRAG×間接プロンプトインジェクションは、実際に手を動かすと面白そう。

まず、攻撃者になってみるといいと思う。例えばGarakというOSSはすぐ使える。何から何をどうやって守るのかある程度見えてくる。そして、増田が書いてる情報にまた戻ってみると、Garakではできない攻撃とかにも気付く。

MITRE ATLASも、EU AI Actも、NIST AI RMFもないじゃん。てか、論文漁りよりOWASPとATLAS漁ってる方がいいよ。一応、Adversarial AIうんちゃらっていう英語の本はおすすめ。