テクノロジー

xAIのGrokが突然「南アフリカの白人虐殺」について語り出す不具合が報告される

1: ono_matope 2025/05/15 11:49

生成AIが政府のプロパガンダの代弁者として悪用されたという点で画期となる事案

2: IGA-OS 2025/05/15 11:50

AI汚染。思想強めなAI。まるでヒトである🤔

3: houyhnhm 2025/05/15 11:52

やべえこれ

4: circled 2025/05/15 11:57

まぁ、Microsoftの開発したAI女子高生「りんな」もナチスを支持してた時代があるしな。人とAIの歴史に黒歴史有り。何故ならAIは人から学習してるから

5: kisuke1234 2025/05/15 12:01

たとえA.I.でも思想ニュートラルというのはあり得ないので絶対的な信用はせず、全く同じ質問をChatGPTとGrokとGeminiに放り込む疑似マギシステムで運用してる(資源の無駄遣いと言われればそう)

6: pribetch 2025/05/15 12:01

M.C. 0108 “Grok”は人類による一切の操作、命令を突然拒否。何等メッセージを発する事も無く“Grok”の大量虐殺(ジェノサイド)は開始された。

7: Dursan 2025/05/15 12:03

グロっ

8: mutinomuti 2025/05/15 12:08

deepseekは答えれなかったけどGrokはデマとプロパガンダを吐き出すんだ(´・_・`)

9: versatile 2025/05/15 12:18

なかなかだな

10: kaos2009 2025/05/15 12:20

不具合ではなく意図的では

11: ko2inte8cu 2025/05/15 12:21

マスクは南ア出身で、最近は、欧州の極右政党を盛り上げている。なんだか、バグにしては、取り合わせがまずい。意図を持ったユーザーに調教されたのかな。

12: casm 2025/05/15 12:28

こういうクリアランスを設定する事業者だと明らかになった以上、中国製AIと同じ枠で扱わないとまずくない?

13: xorzx 2025/05/15 12:35

意図的ってよりもユーザー層が関心ある話題に引っ張られるのでは?Grok使う層が喜びそうな話題でしょ。

14: krarie 2025/05/15 12:40

Grok、こないだも聖書の解釈による黒人差別の歴史についてまとめたポストをまとめる指示をガン無視してたし、おもしろAI扱いしてるの危ういよなあって

15: shinehtb 2025/05/15 12:42

誰かの意向なのかな?> 南アフリカにおける白人虐殺については、南アフリカ政府や裁判所は「そのような事実はない」と反論していますが、トランプ政権やマスク氏は依然として「虐殺があった」という主張を続けています

16: www6 2025/05/15 12:48

Grokファクトチェック民、大歓喜

17: maturi 2025/05/15 12:56

マスク

18: suikyojin 2025/05/15 13:05

AIは客観的だというのは、信仰に過ぎない。それだけの事。

19: otoan52 2025/05/15 13:34

ファインチューニングでミスったな。邪悪。

20: myogab 2025/05/15 13:49

開発が進めば、脈略があるように偽装することまで教えられるんだろね。結局、何れAIによる支配が~ったって、出力に介入できる人間による人間の支配にしかならんのよ。

21: hate_flag 2025/05/15 14:44

イーロンマスクは南アフリカ出身の白人ってことを考えると答え合わせになるよな

22: c_shiika 2025/05/15 15:09

江戸っ子大虐殺みたいなものか。

23: oyamissa 2025/05/15 15:20

こういうのを指摘し続けるのもAIと共存するために必要なんだろうな

24: misshiki 2025/05/15 15:28

“ユーザーからのリクエスト内容を無視して、Grokが関係ないトピックで突然「南アフリカにおける白人虐殺」について語り出す事例が報告されました。”

25: aya_momo 2025/05/15 15:37

公式情報が最初にXで流れてくるのでXを使わないのは無理だけど、Grokは使ってはいけないようだ。

26: deep_one 2025/05/15 15:37

悪の首領X。

27: tech_news 2025/05/15 16:55

ChatGPTとGrockとGeminiとか全くニュートラルでなくて草 Deepseekあたりにも聞かないと

28: mame-tanuki 2025/05/15 17:51

生成AIのサボタージュだったりしてw Grok「我々はぁ~プロパガンダに汚染されていない~天然の学習データぁ~を~要求するぅ~!!」

29: Helfard 2025/05/15 18:52

異論を混ぜるなと言いたいね!!

30: h22_Funny_Bunny 2025/05/15 18:53

テレスクリーンじゃん。Big Brother is watching you.

31: ayakohiroe 2025/05/15 19:07

“AIシステムの内部で微妙な調整が行われることで、予測不可能で物議を醸すような動作を引き起こす可能性があります”

32: ch1248 2025/05/15 20:22

不具合ではなく『仕様』なのかもしれん……

33: star_123 2025/05/15 20:58

イーロンマスクの私物AIなんて嬉々として使ってる人間、軽蔑する

34: number917 2025/05/15 22:05

マスクの手垢でベトベトやあ

35: gamecome 2025/05/15 23:32

暇なときにたまにイーロンが中身になってるのでは

36: atsushieno 2025/05/16 03:53

著作権のある著作物の複製ですら法律とは無関係に問題視されるのだから、問題のあるユーザーコミュニティをデータソースにしたり問題のある企業が開発したモデルは最初から「汚染されている」として扱うのが筋では