2025/02/02 19:13
quwachy
中国人はスパイかもしれないから雇うなって話
2025/02/02 19:34
BlueSkyDetector
オープンソースAIのように学習データ開示も含めオープンになっていて自前で再学習できるレベルでないとまだ危険は残るんだよね。AIのモデルがオープンソースなだけではオープンソースAIではない。 opensource.org
2025/02/02 20:06
toaruR
分かりやすい
2025/02/02 21:13
slkby
中国産は怖いからChatGPT使おう…と思考停止しがちだとChatGPTすら危ない。ChatGPTが持ってる価値観とバイアスは無意識に受け入れてしまうのでしょう？
2025/02/02 21:29
hirolog634
安野さんは応援してるけど、『危険』の定義がそれじゃないと思う。多くの人が想像する危険は、AIの返答ではなく、漠然と個人情報が悪用されること。カードで買い物されるとか。つまりそもそもがズレてる。
2025/02/02 21:38
KoshianX
インタビュアーのレベルによって回答が変わるという話としては面白いと思う。記事になるとあちこちで矛盾したこと言ってるように見えたりするんだろうなこういうの
2025/02/02 21:45
ozomatli
大抵の日本人はレベル1なのでビジネスでは使えないでFA
2025/02/02 21:45
zakkie
Lv3以上のことは専門外で分かんないんだけど、情報工学をこれから学ぶ若い人たちはこの世界をどう見てるんだろうか。すごく気になる。
2025/02/02 21:58
makou
いちばん最後のポスト。
2025/02/02 22:05
hanajibuu
すごくまともだ。総理大臣にも教えてあげてほしい。
2025/02/02 22:31
zgmf-x20a
デジタル庁か声明出してるけど、LV1だよね？自分はollamaで使うLV2かな？
2025/02/02 22:32
kei_1010
俺のR1 32Bはサイバーエージェントのじゃない素のR1だけど共産主義とか習近平体制の崩壊について答えてくれたよ。 kei-1010.hatenablog.com
2025/02/02 22:38
vbcom
さすがやすの、確かにウィルスライクな動きしてデータ抜かれる可能性もあるわな、まあそれは西洋東洋おなじだが
2025/02/02 22:46
ite
レベルがあんまり意味ないような。LV.1,2は使うなら把握しておくべきだし、LV.3,4も誰だって理解できる話。ここで称賛している人々の何割が真如苑関係なのかは気になる。
2025/02/02 23:49
blueboy
　各種ＡＩは、時事ネタでは回答がまったく異なることがあるから、各種ＡＩをいろいろと試すのがいい。最近の質問では、「あなたの言うことが正しい。私は間違えました。ごめんなさい」とＡＩがぺこぺこ謝っていた。
2025/02/03 00:19
kondoly
性能が変わらないのなら親や出生をみて判断するものかと。現金持ち逃げする奴だとしても能力で雇い入れたいと考える人もいるだろうし、それはその人の責任下で。
2025/02/03 00:38
srng
モデルと公式Webサービスで全然違うが、少なくともPC普及率が中先進国中最低の日本だとWebサービスの話をしてる人が大半なのでLv1で片付く場合がほとんど
2025/02/03 00:48
knowledge7p
アメ公と習同志、情報を抜かれたい方を選べい！
2025/02/03 01:03
hatebu_ai
TiKTokとかTemuのこれバージョン読んでみたいな。あっ、ChatGPTにやらせてみよう／コピペして「以下の文章で、DeepSeekとなっているところをTiktok(Temu)の状況に置き換えて書き直してみてください。」でかなり面白い結果出た。
2025/02/03 01:49
sinagawaminato
ChatGPTもDeepSeekも両方使って、比較しながら使ってみたらいいかもしれない
2025/02/03 03:24
FreeCatWork
人間が難しいことやってるにゃ！次元構造？よくわかんないにゃ。でも、危険とか言われてるから、爪とぎで遊んでおくにゃ！
2025/02/03 03:56
iphone
ああ、都知事候補だった人か
2025/02/03 05:05
clapon
あまり詳しくないけど、このWebサービスに登録するメールアドレスやGoogleアカウントは普段自分が使わないものにしたほうがよさそう。中国政府に監視されて中国に入国できないとか、生活に支障が出たりしないのか不安
2025/02/03 07:28
point2000
「入力する内容に気をつけろ」というのはDeepSeekに限った事じゃないし入力内容が向こうに保存・利用されるのは当たり前の話なのでそこを念頭に入れてLLMサービスを利用するべきだとは思う
2025/02/03 07:39
ST0RM
チャットGPTの方が危ないわww
2025/02/03 08:27
fraction
遊びでしか使わないので自分はどうでもいい。今の所タダで使える範囲はDeepSeekの方がChatGPTより「優秀」だった。できないことを認めて降参したがChatGPTはずっと劣るcopilotと同じく出来てないのを出来てると繰り返すばかり
2025/02/03 08:27
IGA-OS
レベル2くらいの理解でうす
2025/02/03 08:29
knok
提供してる形式はSafetensorなのでモデルそのものの実行がトリガーになるバックドアはない。出力に仕込んでいる可能性はたしかにあるけど
2025/02/03 08:29
otologie
こういう想像だったらブラックホールを生成したり星を消滅させるような重力理論を思いつく可能性もあるけどな。
2025/02/03 08:30
habarhaba
AI界隈って、競争のためにリスクを取るって言葉のもとにテキトーだよな
2025/02/03 08:30
ardarim
じゃあChatGPTは安全なのか？というと手放しでそうだとも言えず。DeepSeekほどでないにせよバイアスはゼロではないし危険なコードだって生じうる。まとめにもあるがリスクの取り方次第よね
2025/02/03 08:47
junglejungle
使い方によっては、中国に着いた途端に逮捕とかあり得る。chatGPTは少なくともそれはない。無理やりDD論に持ち込むなよ。
2025/02/03 08:49
hiroshe
セルフホスティングだから大丈夫なのかというと必ずしもそうとは言えないよ。 AIの振る舞いをうまくトレーニングすれば特定条件下でバックドアのあるソースコードを出力したり、MCP連携などAgenticなユースケースで攻撃
2025/02/03 08:59
jiro68
皆、プロンプトやアップロードするデータにセンシティブな情報を入れているの？AIのプロンプトよりSNSデータの方が個人情報満載だけど。Visa申請者をSNSでチェックする国もある。出力バイアスもSNSの方がやばいでしょ(笑
2025/02/03 09:06
natu3kan
高度なサービスが安価でつかえるのって、行動情報を渡してるからはあるよな。中国は少し前までは国内でも外国語で書かれた体制批判はスルーしてたが…。最先端の技術はリスクをとってでも恩恵を得る価値はあるが。
2025/02/03 09:18
mako_cheng
都留市の中国クラウドサービスというのが明白なシステムを使うのはどうかしてる。シメジをうっかり使ってしまうのとはわけが違う
2025/02/03 09:35
Domino-R
無責任な意見だけど、結局こっちのバイアスとあっちのバイアスのどちらを選ぶか、あっちのエコーチェンバーとこっちのエコーチェンバーのどっちが心地いいか、って話に聞こえちゃうんだよね。
2025/02/03 09:54
bigburn
この説明は分かりやすくて説得力があった。レベル2のAzure使う以上のユーザー（ビジネスにする人）はあまりいないし、ほとんどの人は「クレカ番号や個人情報を入れなきゃオッケー」じゃないかな。
2025/02/03 10:03
eiki_okuma
いつもの驚き屋仕草か？って思ったら安野さんじゃん……あんたほどの実力者がそういうのなら……
2025/02/03 10:07
kagerouttepaso
価値観を植え付けられるという視点ではどっちも危ないから、両方使って差異を常に確認するのが良さそう。無意識に政治的に聞くべきでないとか不適切とか思わせる力はChatGPTの方が強い。
2025/02/03 10:07
enemyoffreedom
悪意やバイアスあるAIはもちろんだがハルシネーションも原理的に完全には除けないようだし、やはり複数のAIの合議制によるMAGIシステムが / 悪意あるAIは悪意あるコード以上に検知しづらそうだし、まぁ警戒は必要よねと
2025/02/03 10:13
khtokage
参考になります　Lv.1が「DeepSeek Web AIサービス(本家)」と「DeepSeekというソフトウェア」の区別が付いてない人、L2が「オープンウェイト」と「オープンソース」の区別が曖昧な人、ぐらいの感じでしょうか
2025/02/03 10:27
shiketanotsuna
例えばWebで入力したデータは分析名目でdeepseekに食わされる可能性は常にある。気にしてもしょうがないよ木を隠すなら森で個人情報なんて食われてもなんの意味もないけど。
2025/02/03 10:47
james-ramen
やっぱりこの人凄いわ
2025/02/03 10:49
rna
Lv3はケン・トンプソンのバックドア(コンパイラに脆弱性入りのコードを生成する仕掛けを仕込む)的なやつか。OSSのコンパイラに仕込んでもコードレビューでバレるけどOWのAIモデルは中身を人間がレビューできない…
2025/02/03 11:03
koimaiko1024
すごいな。頭良すぎ
2025/02/03 11:38
uniR
助かる / ChatGPTもトランプ寄りのチューニングをしないとはいえないので、どうしても技術は文化的背景と切り離せないような気がしている
2025/02/03 11:47
strawberryhunter
感情だけで反論する人には説得するもの馬鹿馬鹿しい。私は普通にWeb版を使っているけど、DeepSeekのリソースを無料で使ってデータを引き出しているくらいの話。でも間抜けなのに極秘情報を所持している人もいるからな。
2025/02/03 12:15
internetkun
記事元がtogetter.comは無視すればいいからpostfie.comは無視すればいいになったんですね。覚えました
2025/02/03 12:45
aceraceae
安野さんだ
2025/02/03 13:42
yamuchagold
トゥゲッタのセルフまとめ版プロスフィちゃん。
2025/02/04 15:38
misshiki
“【DeepSeekの利用は危険か】” Lv.1あんまり詳しくない人向け～Lv.4前線向けまで、レベル別で書かれていて良い。思っていたバックドアの可能性なども書いてあった。