テクノロジー

突然取引していた銀行で「取引できません」という通知が来たから電話で聞いてみると、取引の是非はAIが判断して通知してるらしい

1: shidho 2025/07/18 10:33

正直、昔授業で習った銀行の必要な理由、今果たせてないんじゃないかと思うことがよくある。

2: mobanama 2025/07/18 10:51

"AI云々はともかくとして、行員が「そうですねえ」はマズ過ぎるのでは"

3: porquetevas 2025/07/18 10:56

クレカも多分AI判定だけど、今まで10年以上月に数十万決済してきたカードがつまらん事ですぐ停止されるようになり、えらい不便を被ったのでもう解約する

4: ROYGB 2025/07/18 10:58

戦闘妖精雪風で勲章の対象者をコンピュータで選んでる話があったけど、現実も追いついてきた感じ。

5: BIFF 2025/07/18 11:02

銀行の話は詳細不明だけど、常識的な取引を何十年もしていてこんな事が起きるのは信じられないレベルで酷い。ウマ娘に課金してたらアメックスにクレカ止められたことある。AIが「いつもと違う使い方」を検知と。。

6: verda 2025/07/18 11:07

よくある人がやりたくないことをAIのせいにできるの一例を 反対から見るとこんな感じになるんだろうな

7: mouseion 2025/07/18 11:14

口座解約を口にした途端突然前屈みの低姿勢になるなら最初からやるなって話よな。高い給料を貰ってるのにAI任せなら人件費削減した方が金の無駄遣いがない分建設的やろ。

8: voodoo5 2025/07/18 11:17

昔、ネトゲ用にWebMoneyウォレットにお金を入れようとしたら、他人の同じような取引で不正があったとかでこちらの取引も止められたことがあったな。関係ないのに巻き込まれるのはどうなの。

9: ET777 2025/07/18 11:20

“金融庁の相談窓口に話持ってったらどうなんだろな” これかなあ

10: gm91 2025/07/18 11:21

こりゃひでえ

11: kei_mi 2025/07/18 11:22

”銀行だけに限った話ではない気がするけど、AIが判定したとしても、説明責任は人間が負うべきだよね。” 銀行は仕事したら負けの精神でやってるところなの?

12: katy_nagasaki 2025/07/18 11:31

銀行の存在意義そのものが問われる時代になりそう

13: pikopikopan 2025/07/18 11:39

クレカの利用停止確認の電話が定期的に来るんだけど、だいたいAmazonの電子書籍でエラー。面倒だけど慎重ぐらいでちょうどいいのでなあ・・

14: dogdogfactory 2025/07/18 11:44

AIがビッグデータから検出した「犯罪をする可能性が高い人」を行為前に逮捕するようなもので運用が悪すぎる。せいぜいアラートを出すぐらいの使い方にしないと。

15: nomurata 2025/07/18 11:44

これ窓口担当が酷かっただけではないのかな。AIが誤判定起こして取引不能になったけど銀行として対策何も打たないって金融庁監査コースだと思うけど。ガバナンスも含めて顧客の口座解約は妥当

16: wapa 2025/07/18 11:52

動画とかの削除やアカウントのBANとかもAI自動判定だと思うけど、異議申し立てによる人手での対策は残しておかないと、と客側としては思うよね。銀行口座なら、上に掛け合ったら別案あった気もする

17: mujisoshina 2025/07/18 11:54

AI判断で一時的にその取引を停止ならまあ分かるが、口座凍結みたいな話なら非常に問題。銀行員は「今この場では分からない」→「確認する」なら良いが、理由がわからないままその先の対応をしないのはおかしい。

18: hatest 2025/07/18 12:08

AI関係なく、電話対応した人がクソだったっていうことだろ。その銀行にクレームいれればいいだけでは

19: hiroomi 2025/07/18 12:09

“機械が判断したことなので銀行員としては理由は言えないし、そもそもわからない”統計処理してるんだろうけど、丸投げにもほどがあるけど、窓口も判断した経営陣も。あとヒアリングしてからすりゃよいののにね。

20: WildWideWeb 2025/07/18 12:10

Xパーセント程度の誤判定やむなしとの判断で各社導入するんだろうけど、その値どれくらいなんだろう。あと超重要顧客はAIを通さず人力対応してるんだろうか。/自分がやられるまでは利便性絶賛なのは毎度の話。

21: kotaponx 2025/07/18 12:11

AIだろうとヒトだろうと、ゼロリスクは無いので、だれがリスクテイクするかという話ではある。もし消費者が負うのであれば、何らかの保護の仕組みが必要でないかね。

22: yu_kawa 2025/07/18 12:14

AIがやりましたって言い訳で切られただけでは

23: togetter 2025/07/18 12:15

まだまだAIも完璧ではないみたいね。

24: kei_1010 2025/07/18 12:19

これ、正直(?)にAIの判断だと言ってくれたから炎上できたけど、少し頭の回る銀行員なら「審査に関する事なのでお答えできません」とか言って闇に葬られるだろ。

25: mujou03 2025/07/18 12:21

クレジットカードじゃないんだから

26: knjname 2025/07/18 12:25

個人情報保護がなぜ必要か分かる 情報処理から個人を守るという意味のね

27: kkkirikkk 2025/07/18 12:26

ほんとなんかこれ、信じがたい

28: kusomamma 2025/07/18 12:29

年会費ありのゴールドのクレジットカードですら、盗難以外はAIチャットボットで、全く役に立たない。

29: chinu48cm 2025/07/18 12:31

漫画家さんの銀行取引はイレギュラーなものとか、一気の大金が不定期に、とか多そうなイメージは確かにあるし、引っ掛かりやすいのかもしれないね

30: crosscrow 2025/07/18 12:34

クレジットカードだと三井住友カードの不正検知が酷い。しかも、ブロックされてからその解除リンク付きの通知が来るまで10分とかかかるから、尚更面倒。せめてリアルタイムで送ってほしい。

31: PrivateIntMain 2025/07/18 12:37

電話口ってコールセンターじゃなくて口座のある銀行に直接ってことかしらね。窓口で同じこと言えるなら引き上げて正解だとは思うが。

32: azuone 2025/07/18 12:37

本人の言葉だけなので自分の都合の悪いことは言ってない可能性があるけど、言葉通りの事実なら金融庁に相談の1択だね。金融庁経由はマジで対応早い

33: kamezo 2025/07/18 12:37

〈何度か電話してようやく話がわかる人が出て何とか取引が再開できるようになった〉というのもなあ。やはり金融庁に通報しかないのか?

34: rose86tan 2025/07/18 12:41

クレカで決済できませんでした、的なこともあるしなあ。

35: lejay4405 2025/07/18 12:44

何が悪いと判定されたのかは聞く権利あると思うんだけど

36: sjn 2025/07/18 12:44

私なら普通に「そうですか」で解約しちゃうと思う

37: Helfard 2025/07/18 12:45

ずっとその道で食えてきたベテラン漫画家なんて確実に大金抱えてるだろうに、解約されたら大打撃だと思うのだが良いのかな?

38: sabinezu 2025/07/18 12:46

権利が侵害されちゃってるじゃん。これを許容するのはかなりマズい。

39: y_noz 2025/07/18 12:46

ficoスコア、ってほど合理性が無さそうな。にしても無根拠でAIがーって説明はヤバいね。謎の基準で属性分けされて、この属性を持つ人は云々言われても納得はできないけど

40: k-tana 2025/07/18 12:47

「説明可能なAI(XAI)」という概念はAIを使う者にとって常識と思ってたけど、金融機関はそうではないんだな。AIが出す結論はどれだけ理不尽であろうと盲従するってことか。そんな銀行はやばいから早々に引き上げて正解

41: m4fg 2025/07/18 12:50

元ツイの説明もいまいちな説明だし単に不正取引のアラートにかかっただけでは?

42: inazuma2073 2025/07/18 12:51

取引が減ったら銀行さんは儲けが減るんじゃあないのか?

43: Windfola 2025/07/18 12:55

どうでもいいが万乗先生まだ久米田先生に呪われたままなんだ。

44: y-mat2006 2025/07/18 12:55

反社とかテロ組織が不正な送金とかするので当たり判定が厳しめになってるんだと思う。銀行の人が万乗センセイ本人の口座と知ってたかどうかは知らないけど。

45: makou 2025/07/18 12:56

グーグル銀行か何かか? →「機械が判断したことなので銀行員としては理由は言えない」

46: deztecjp 2025/07/18 13:00

こうした相談にまともに対応するより人件費を削る方が儲かるなら仕方ないな。

47: latteru 2025/07/18 13:00

不正のチェックや取引停止トリガーの判定はAIでもいいかもしれんけど、システムを使うのは人間なんだから、何かあったら運用側がちゃんとやらなきゃダメでしょう

48: hazlitt 2025/07/18 13:01

不正パターンの検知は以前からやってたと思うが今更「AI」っていうのは窓口の脆弱性の気がしないことはない

49: dot 2025/07/18 13:09

銀行も昨今はカツカツで個人とか小口の相手はコストばかりかかって儲からないし、口座引き上げると言うのは全く脅しになってない感じやね。所轄省庁にクレーム入れるのが一番効きそう。

50: kenken610 2025/07/18 13:10

判断根拠を出力させることも技術的には可能なんだろうけど、コスト的に見合わないんだろうな

51: punychan 2025/07/18 13:13

銀行名が出てくるまで判断保留

52: agektmr 2025/07/18 13:15

NEXUSにこの話書いてあったな

53: yamadajyamada 2025/07/18 13:16

これ最初に応対した人がうっかり?親切で?めんどくさいから?「AIが判断」って言っちゃっただけで、昔から銀行は理由なんて教えてくれないよ。

54: subAccount 2025/07/18 13:17

多分AI関係ない。「取引履歴から反社を洗い出す」システムは昔からあって、それを窓口の人が「システム」の意味で適当にAIって言っちゃっただけ。昨今のAGIの活用に関する議論の俎上に乗せるようなエピソードじゃない

55: nekomottin 2025/07/18 13:26

AIすごーいキャッキャッ、みたいな人だった 微妙な気持ち

56: ardarim 2025/07/18 13:30

AI判定なので詳細不明は仕方ないとしても、原因を調べて解除できないのはまずいよねえ。人の手で確認して問題なければ解除すればいい話。

57: amatou310 2025/07/18 13:31

アンチマネロンのシステムでAIがモニタリングしてるとかはあると思う。そんな一方的な取引拒否、凍結とかはしないと思うけど、あんまりなら金融庁にチクってください。

58: iasna 2025/07/18 13:35

こういう部分までAIに任せてるの?やめてくれないかな せめてAI使ってるかどうか利用者に開示してほしい

59: yorkfield 2025/07/18 13:38

理由が分からないとAIが誤動作しても検出できないと思うんだけど、このAIの運用で大丈夫なの?

60: minoton 2025/07/18 13:39

NICTのプライバシー保護連合学習技術「DeepProtect」などが実際に運用されだしたら、ふつうに起こりそう https://www.nict.go.jp/press/2025/06/10-1.html

61: differential 2025/07/18 13:42

これ本当かしら…この人は信頼に足るスピーカーなのですかね。。ちょっとにわかには信じられないんだが。

62: klaftwerk 2025/07/18 13:42

少々の判断の誤りがあっても人件費削減の効果が大きい、というのは言われてるね。人文系高等職の仕事は理系もAIも代用が可能です、と強く言われたの覚えてる。

63: kobito19 2025/07/18 13:42

別に全部の銀行がそんなんじゃないと思うので具体的に銀行名書いて

64: tokuniimihanai 2025/07/18 13:52

問い合わせチャットに出てくるAIもマジで要らない。はよ人間を出せ。

65: Domino-R 2025/07/18 13:56

まあAIがどんな人間より正確で適切な答えを出そうが、だから自動運転や政策決定の結果被る被害に納得できるなどという事はないし、被害が無くなるわけでもない。ただ黙って引き下がることに慣れるしかないのよw

66: imakita_corp 2025/07/18 13:59

銀行や証券は昔からある基準を超えると自動的に口座ロックが掛かっていたが連絡するとよほどのことでない限りすぐに解除。整理されてないデータをAIが独自解釈?口座解約云々のくだりがなんか引っかかるが

67: oreuji 2025/07/18 14:01

万乗大智レベルの人間が口座解約引き止められないの謎一般人より相当カネあると思うけど

68: tk_musik 2025/07/18 14:03

やっぱ説明責任の話になるし、人間に残るのはダルい仕事のみになるのは明白やね。

69: mnnn 2025/07/18 14:04

万パン…

70: aturam 2025/07/18 14:10

10年ぐらい前だったか、作って1ヶ月ぐらいの楽天銀行の口座をいきなり凍結されたことがあった。少額入金を1回しかしてなかったんだけど。ああいうのも機械判定で根こそぎやっちまった結果だったんだろな。

71: jtw 2025/07/18 14:15

何か理由を誤認していて、担当者は納得してないからAI理由にしている感。そうですねぇは、社内向けの逆ギレかなぁ

72: yyamano 2025/07/18 14:20

コールセンターの人の教育の問題のように見える。

73: yamadadadada2 2025/07/18 14:25

細々とした入出金を続けてきて、ある日まあまあ大きな額を借り入れたいってなると「返せないかも」みたいな判断だったのだろうか。年齢のキャップが効いてそう

74: suzuki_kuzilla 2025/07/18 14:30

リテールやっても儲からないのて・・・

75: mitz_008 2025/07/18 14:46

引っかかったのはマネロン、金融犯罪、オンラインカジノの疑い的なヤツかな。正直これからもっと厳しくなる未来しか見えないけど窓口や運用がこれでは困る。銀行の怠慢とも思う。

76: eagleyama 2025/07/18 14:47

銀行の伝統は横並びと考えると、一つに集中が危険。めんどくさい

77: yujimi-daifuku-2222 2025/07/18 14:48

理由が言えないまでは職業倫理として一応理解可能だけれども、分からないはちょっとね。

78: yoshi-na 2025/07/18 14:56

せめてなぜその結果になったのかを行員が説明できないのならばその行員はもはや不要なので対応もAIにさせた方が良い、判断したAIなら回答もできるはず。

79: mamezou_plus2 2025/07/18 14:58

今のAI学習したデーターに似てるっぽいとかで、確率論だし関連性の誤認識を人間が明確に判断出来ない場合も有る。根拠がないまま関連性を構築していくので人間の陰謀論と同じ事が起きえるのである。内在情報の検証

80: gnta 2025/07/18 15:02

銀行員は取引停止の理由は判明してるけど言いたくないからAIのせいにして口座解約チラつかせても「そうですねえ」になったのでは。少なくとも優良顧客に対してそういう反応にはならないだろう

81: baseb 2025/07/18 15:08

万乗大智先生じゃねえか

82: eirun 2025/07/18 15:10

いやーユーザーからの不具合報告に「AIが作ったプログラムなんでわからないっすね」「はぁそうっすね」「契約止めればいいんじゃないスカ?」とか言っちゃえる立場になりてぇー。

83: takoswka 2025/07/18 15:22

その箸にも棒にもかからない銀行員は音声自動案内機と置き換えた方が良い。

84: taku-o 2025/07/18 15:35

その行員、AIだよ?

85: mole-studio 2025/07/18 15:40

銀行名晒して追ったら取り付け騒ぎになって焦り出すのかな

86: myogab 2025/07/18 15:41

判断のブラックボックス化に疑問を懐かなくなれば、その中でどんな違法な介入が行われていても、もう誰にも止められない。凡庸な悪そのものの組織の歯車。

87: wordi 2025/07/18 15:45

毎月の定額振込が検知ってどないせえと

88: yuma_0211 2025/07/18 15:45

最終判断は人間がしないとダメだってば

89: lacucaracha 2025/07/18 15:52

サイマティクススキャンで、犯罪係数が高くでたのかな。色相チェックしないと。みたいな世界観に近づいてきたぞ

90: lex010 2025/07/18 15:58

利用状況見て実際のBANは手動とかじゃないの…?

91: yf23blackwindow 2025/07/18 15:58

「AIが神格化した世界」はディストピアか? AIの誤判定で“3万人超”の人生狂わせたオランダ政府の事例 https://www.itmedia.co.jp/news/articles/2307/03/news052.html トリプルチェックが機能しないのと一緒でAI任せになるんだろうなぁ。

92: naoto_moroboshi 2025/07/18 16:06

AI検知で一旦停止はよくある。俺もよくなる。そのたびに電話してる。別にしかたなくない? 銀行の説明がおかしい。取引できませんは講座凍結レベルの話なの? 一時停止なの?(なんか一時停止っぽいけど)

93: poliphilus 2025/07/18 16:10

そのうち融資の判定も AI でやって「ダメな理由? さぁ…」ってなるかも。そうなったらマジで銀行員いらんな

94: prograti 2025/07/18 16:20

口座にロックがかかることは自分も経験はあるけどサポートに連絡したら丁寧に対応してくれましたね。本当にこんな対応だったのかな?いろいろ省いてない?

95: doksensei 2025/07/18 16:30

AIがって教えてくれた時点でかなりぶっちゃけたなって気はするけど。銀行はもう、手数料ビジネスしすぎで、ヤバそうだなって雰囲気がすごい

96: pwatermark 2025/07/18 16:40

確実に金融庁に叱られる要件なので、作り話を疑ってる

97: sisya 2025/07/18 17:08

口座の取引情報ではなくネットの情報も収集して判断していると予想できるので、他の一般的なAIに「悪意がある」と判断されるような情報を流し続ければ、敵対勢力の口座凍結を目指せるのではないかと考えている。

98: BUNTEN 2025/07/18 17:16

俺もこうやって銀行引き落としやクレカ取引を強制終了されるのだろうか。でもって行員による説明にまでたどりついたら思わず荒くなる俺の口調に「ここまでするしつこさが怪しい」とか言われるんだぜ。

99: HiiragiJP 2025/07/18 17:17

状況的にマネロン関係の不正検知AIに引っかかったか、それを装った詐欺もしくは嘘松かな。理由わからんって言ってるけど 当局には「疑わしい取引」として理由とともに報告されてるはずだよ。本人には言わないけどな

100: butyricacid 2025/07/18 17:22

普段買わないECで激安の見つけて買おうとしたら不正検知でクレカ止められた(なお別のカードで買おうとしたら既に売切れになってたが決済直前に在庫を引いてるはずなので少し待てば在庫復活するはずと考え無事購入)

101: NOV1975 2025/07/18 17:27

クレカの不正な取引判定の件でこの会話に参加するのやめようぜ。