これもメルカリなんかと同じようにプラットフォーマーの放置している問題がそのまま外部不経済として社会に出力されてる状況かな。プラットフォーマーには社会に対する責任能力を保持してもらう必要がある。
「動画ならフェイク作成は困難」という固定観念というか無意識のバイアスが強烈に染み付いている現代人（特にネットに深く浸かってきた人は）だからこそ、ヤバさが最大化されている感がある。慣れの問題が大きい。
ちょうど不気味の谷にいる、あと少しで違和感なくなる
最近つくづく思う
いやぁー。TwitterやTikTokレベルで流し見してたら気づかないレベルかもなぁ。。。
これらの動画をまたAIが再学習してフェイクが事実になって行ったり…するのかな？？
AI動画のバブルが終わるか、SNS が終わるかみたいな感じになってきたね。
( 滅亡直前の既存メディアのブランド力が、検証能力で再評価される可能性。〔東京新聞の反原発はそれはそれとして〕ガンバ ）
waterprint消してる？
早期のスマホやデジカメのC2PA規格への対応が望まれます。YouTubeはC2PA規格に対応済み。https://www.itmedia.co.jp/news/spv/2410/16/news138.html
情報が管理されているマスメディアでも偏向報道がなくならないのが実際。SNSでのデマはそう簡単に減らないと思う。当面は受け手側が情報の摂取方法に気を付けるのが最も有効。因みに情報の真偽検証にAI検索は有効。。
厄介な世の中
文字と静止画は簡単なテクニックですでに区別無理、動画はまだギリわかるが時間の問題という印象。少なくともパブリックな生成系AIは編集改ざんされても検出可能な電子透かしを義務化するぐらいは必要だと思う
全部収益化のせいだよ。大量作成ワークフロー出回ってるし。そう言うワークフロー作ってる奴も同罪。
SNSの動画は信用できないってだけでおもしろ動画の範囲内。扇動される側の問題。ユーザ投稿を頼りにしてた報道側は大変かもね。
今は自民党を支持しているほうがまともな側なのか。/扇情で合っていると思うよ。
Sora2は外部AIツールを課金して使うと透かしマーク消えるんだよ。AI動画に不慣れな人がスマホでぱっと見た態度ではもうフェイクかどうか判らないものもある。リテラシー無き者は簡単に騙される世界が現実になった。
生成AIの画像や動画って、どこかでは有用に使われてるのだろうけど、ネットで回ってくるのはイラっとするものばかりで良い印象が全く無い
確かにヤバいな。何を信じたら良いのか、わからん世界がやってくるのか。
明確に世論を分断しようとする活動だよね。そういう意図のある人たちがいるってこと。
もともと無断転載の巣窟だった動物ほっこりアカウント、愛で単体写真系だともともと興味ない層には届いてなかったけど動画はペットが子供を助けるとか住宅街に猛獣とか人目を集める方向になってまじ汚染って感じ。
AIによって人間の業の深さが可視化されたっちゅうことやね。願望を事実として捻じ曲げる道具としてAIは活用されてるのな。
この手の用法はバカにできないよね。あくまで再現映像とか予想映像としてならすかしを消す必要ないし。
AI動画にそれと知らないリプが数百件ついてる。https://x.com/airi_fact_555/status/1979569745612656939
人類が学習するためにはまず一度この世をAI動画で埋め尽くす必要はあるように思える。それはそうとコミュニティノートを付けられたツイートは収益化が止まるんじゃなかったっけ。
拡散させている捏造動画を「報道機関は取り上げない！」みたいなヤバさ満点の叫びを上げる人たちもゾロゾロ出てくるんだろうな
エロではなくカスの嘘によって進化するとはね
デマが事実扱いされかねない段階、次は事実がデマ動画扱いされだすだろう。
早く人類は滅ぶべき
南海トラフ地震のときとか、こういうデマ動画に端を発してまた惨劇が起きそうでなぁ（外れてほしい直感）
東芝クレーマー事件みたく、世間がピュアなごく初期のうちは話題になっても、すぐに慣れてクレーマーのような怪しい言動としていちいち反応しなくなる。デマ全般ならまだしも、流行的な一過性の問題に法規制は不向き
こうなっても「法規制が必要」という声が上がらないはてブ
デマは表現の自由の敵だと思う
イーロンの言っていた「情報が無価値になる」がこれかな。いやお前の庭が荒らされとるんやぞハゲ
AI動画に騙されて起こった事件がきっかけで世界大戦勃発とか、とんでもない事案が起こらないといいけど。
結局、プレーンな情報源としては、新聞とテレビのニュースに収斂しそうだね
拡散というワードが入っているものは信じてはいけない、というのは今も昔も変わらない
今後こういった主義主張、誘導／煽動を伴う動画は増えそうである。最早生成AIによるフェイク動画は今現在のクオリティで多くの人を騙すことが出来る
マスメディアに占有されてきた世論誘導権が全人類個人の手に渡ってしまった。いまこそスケベを解禁するのです。そしたらおおくの日曜煽動家は政治的扇動なんてやめてスケベに専念するでしょう。ドスケベキボンヌ
扇動罪というと嫌な印象があるけど、そろそろ必要だね。でも新政権からして扇動者だもの。
最後に投げ銭ボタンがあるの、綺麗にオチてて草。
「排外主義デマを投稿させられるほど追い詰められた人々の"お気持ち"に寄り添え！」と主張するブコメもいたなあ。"むしろ事実はどうでも良く「動画」という視覚情報による煽動を主眼に置いているのではないか"
ウソをウソと見抜けないヤツの閾値が徐々に上がってきてる
まだ見分けは付くけど、この先は分からんからなぁ
「ハロウィン人形にびっくりして子熊が気絶する」動画には俺も騙された。煽情的、衝撃的な動画はすべて疑ってかかった方がいいな。しかしいずれAIのクオリティ向上で見抜けなくなる日が来るだろう…
エロよりも扇動動画を規制すべきだと思うよ
「Hey! Sora! 移民が店で騒ぎを起こしてる動画を生成してよ」「Ok! 任せて! でもまさかこれ差別に使うんじゃないよね？」「Sora...僕がそんなことすると思う？」「ごめんよ、一応、ね。よし、出来たぞ！」で良いわけがない。
妻も「赤ちゃんが階段から落ちてネコが素早く下に降りて頭を守ってくれる」動画を本物だと思っていた。めっちゃいいねが付いてた。ネコの毛並みの色が部分的に変わるのと、赤ちゃんの物理的な滑りが完璧なら見分不可
写真と映像があってかつそれなりに信用できた20世紀という時代は人類の知識共有のピークだったんだと思ってる
もう地球は温暖化で滅ぶか、SNSの暴走で滅ぶかの競争になってきているのではないか。そのころには自分はもう死んでいるのでどっちでもいいが。
大手マスコミの専売特許だった世論誘導がいよいよ民主化されてきた。AI規制がどうとか言う話ではない。長年行われてきたメディアの欺瞞に向き合う時だ https://www.isshow-fujimi.com/it_is_media/
扇情✕ 扇動〇
ゆくゆくは「出どころ不明の動画は根拠にならない」が共通理解になりそうだけれど、移行期が大変そうだな
扇動されっぷりが本当に怖くなってきたな…
動画自体の信頼度が引きずられて下がり、動画インフルエンサー全体が無価値になる超楽観論(ないかー...)。裏をとった報道をしている(はず)の既存メディアが課金のためにネットで見られない状況も良くない
生成AI、技術的にすごいのは分かるんだけど、果たして人類はこれで幸せになってるのだろうかと疑問 / "見たいものだけを見る"から"見たい(見せたい)ものだけを都合よく作る"フェーズに
フェイクを真に受けている人が多い理由は簡単で、動画の示す内容を真実だと先に思い込んでいるから。「確証バイアス」が強く働く人間がものすごく多い／そもそも今どきネットの動画を信用する奴は根本的に頭が悪い
あ、えっちな話じゃなかった
繰り返し言ってるけど、SNSと生成AIの発達で捏造とデマが蔓延して何が真実かはわからなくなり、民主主義はまともに機能しなくなるだろう。程度の差はあれど、遅かれ早かれ誰もが飲み込まれていくよ。
今はすこしの違和感とか、アラが残されてるものが多いから、ある程度は気付けるけども、そのうち違和感が全くないものばかりになるだろうな。動きに物理演算組み込まれたらもうわからんやろね
難しい問題。良い面もある
スケベな方の扇情的でも増えてるよね
これからの若者には「動画なんて何の証拠にもならない」って認識になるのかな。
フェイク動画を根拠に起訴される、フェイク動画が報道関係の賞を受賞する、バズったフェイク動画の登場人物に似ていると言う理由で傷害事件が起きる。数年で全部起きそう。
地獄化がもうそこまできてる
動画の真贋を判定するだけのサービスとか成り立たないかな。証明書みたいなの付与してクライアントから確認できるようにするとか。
ちなみに「心想事成@chengwanzi」というアカウント名は「陳王子」のピンイン表記の「@chengwangzi」にしようとして微妙に間違えてるので、日本人を装った中国人を装った日本人であるような気がする…
AI生成かどうかは透かしやブロックチェーンで保証できなさそうなので、発信者に対する信用をベースにするしかないのかな。
収益化の方法を提供している Google や Twitter や Tiktok が悪いな。規制すべき。もはやOld Media の価値が高まる現象が起きてきてるな。
動画というコンテンツは偽物でも感情を動かせてしまうのが問題だと思う。それがAI動画だと分かりきっていても、先に動かされた感情と辻褄を合わせるために人間が考えを歪めるようになる。だから煽り得になってしまう
“誘導／煽動を伴う動画は増えそう”まさに。ニュースの雑な切り抜きさえ信じてまうのに。なにかしら対策してほしい。
"デマ"はチェックされてくようになるだろうけど"創作"に分類するモノはどうなるんだろうね。気にしない世の中になるのかな。
同時刻かつ複数の視点から撮られた映像ってこれまでは信憑性高かったけど、もう駄目かもしれんね。作り放題だもんね。
／金にならなくてもデマ流しまくってる奴ばっかや。利益=金な人間ばかりじゃないんだよな
マジで再生回数で稼げますってのを辞めた方が良いとずっと思ってる。法規制していいレベル。インセンティブがありペナルティが無いからこうなる。前者を無くすか、後者の刑罰を引き上げるかしないと…
金銭目的が多いのは間違いないけど、止めたところで一定数は残りそう。パクツイやってる連中もそうだけど、「他人を自分の意図する通りに動かしたい」という暗い欲求を持ってる人、いっぱいいるし。
飼い犬が猛獣に襲われる飼い主か子どもを助ける動画とかも多い
トップブコメにある通り。カネになるからやってるわけで、ならなかったらやらないのよね。もう作り方マニュアルが販売されてるし
動画が10秒だととりあえず疑うようにしてる
情報戦の餌になる動画を各所にアップしまくるんだな。手の届きやすいところにある果実、食いつきやすい釣り餌を食べる人が出るとSNSには世論の波のようなものが出来上がる。こうした雑な動画も最初の一歩ってことか
色んな病理がてんこ盛りな気がする。とりわけ、現実が思い通りにならないものであることに耐えられない層が厚すぎる。
政治を左右するようになった今、稼げるかどうかは全く問題ではない。動画は信用できるという無自覚な思考放棄を万人から無くしていくしかない
そのうちブラウザや再生環境（YouTubeを含むweb上の動画再生アプリ）側でAIを検出して警告出すようになるんじゃないか。検出技術や動画埋め込みタグが規格化されるまでの過渡期が問題だな
ネトウヨ層は信じたいものを信じるしAIの見分けなんてできないからより先鋭化していくだろうね
こういう卑怯な真似するのはほとんどが右派。彼らはずっと前から卑劣な手段に躊躇がない。愚かだからすぐ騙されるし、デマと知りつつ拡散する下衆も多い。
動画フェイクニュースに対しては、まずはC2PA規格で対応していくしかないのかな
これが続くとSNS規制の可能性が出てくるよ
AIの嘘動画が増えてるにゃ？ボクが猫パンチで退治してあげるにゃ！
「嘘を嘘と見抜けない人はインターネットを使うのは難しい」（2000年5月）
遠からず見分けは付かなくなるよなぁ。何ならベースは現実の動画で部分的に有利な嘘を混ぜることも可能になるだろうし。
特にSora2とかで生成された動画は本当に見分けつかない。音声とか音楽部分にノイズが入ってるのと、一部発音タイミングがおかしいからそれでかろうじてわかる程度。そのうちこれも改善されるだろう。
生成動画じゃなくても切り取りで似たような問題はあるよね。なんか「動画がある」てだけで根拠になると思う人が多すぎ。こないだの鹿の件でで警察が呼び掛けてるとかいうやつもそうだった。
行くとこまで行くと一周して新聞テレビが信用できるってなりそう。ネット上の情報が信用できない以上、ネット外=現実社会の権威で情報の信頼性を担保するしかない。
こういうのは映像の真偽ではなく、自分にとってきらいなものを悪辣に見せる動画であるかが拡散のポイントになる。フェイク動画でなくてもテレビのスクリーンショットに関係ない偽コメントテロップを書きこむとか
受ければ何でもいい人と何でも真に受ける人によってカオスがどんどん広がっている。
YouTube漬けで陰謀論に洗脳された母親の洗脳がさらに進むんだろうな、と思う。
まだわかる人間にはAiだと判別できるけどあと何年で判別できなくなるか、、
太陽光発電（最も安くクリーンな国産電力源）や在日外国人（犯罪率が低く真面目に働いて納税する日本の事が好きな人たち）に関する偽情報は少なくともワクチンに関する偽情報と同程度以上には危険だと思います
見分けの難しいフェイクは本当に問題で、いずれ規制が必要になるだろう。何がうんざりって、そもそも見分けのつくレベルの雑なコラですら憎悪の煽動を助長するのに十分機能してしまう事なんだよ……、。
「嘘を嘘と見抜けない人はインターネットを使うのは難しい」→嘘を見抜くハードルは年々高くなり、誰も見抜けなくなっていく。インターネットを使える人はいなくなる、のかも。
id:FreeCatWork こんなブコメを書いても意味ないんだが、「AIがそれを言うか」と言いたい
デマの洪水にそのうち感覚が麻痺して動画も信じなくなるのでもう少しの辛抱だと思う
攻殻機動隊の世界みたくなってきた
ミノフスキー粒子なのよｗ違うゲームになってるんだからプレイヤーの意識も変革が必要
特に近年の糸井重里氏の言動やセンス、あんまり好きではないんですがＡＩに対する現時点での人類の防衛策はこれしかないかな、と。 ＞ "参考にする意見としては、「よりスキャンダラスでないほう」を選びます。"
中は見ないけど大手マスゴミが何十年も捏造偏向報道し続けてるの放置してるのに・・・。という素直な感想。
外部からの情報で人間が成り立つのだから情報が毒まみれになったら壊れるぞ。閾値は人によるだろうけども。
AI生成の動画を子供が見るのに忌避感あるんだけど、言語化できていない。昔の漫画アニメとどう違うのか。
Xの「おすすめ」タブはSora2によるデマ動画が激増中。ただ、結局は騙される奴は騙されるだけの世界なので、どうでもいいかなと。
ヤバい時代になってきたな… これ以上進化するとコンテンツそのものから見分けるのは不可能になるので、何も信じられない時代が始まる
つくづくコロナ禍中にこの技術がなくて良かったと思うわ。しかし動画が確信たり得ない世界が到来して我々はどうするんだろう。ファクトチェックすらAIで実現しそう。
まだインターネットで消耗してるの？
AIは悪くない、悪いのは悪用する人間なのがよくわかる。PCだってランサムウェア開発に使われたり、詐欺に使われたり。使う人によって道具は姿を変える
ついさっきAIに出された偽文献を専門家に提示して完全に打ち返されてる人を見た https://x.com/HIRAYAMAYUUKAIN/status/1979903341653356943
排外主義や反ソーラー等が多いのは無論偶然でなく、反倫理的価値観なればこそ露骨な虚偽を遠慮なく振り回し拡散にも加担するから。社会の破壊方向しかない。かつトランプ派のように規制への妨害も手段を選ばず苛烈。
結局は金に終着するからなぁ。
この結果「生成AI＝悪」と言う風潮出てきそうだ
まじでX(おすすめ欄)やめて、Twitter(自作タイムライン)に戻った方がいいと思う。
やっとこ、偏向報道しかしないマスメディアは要らない論が浮上してきたところなのに、こんな怪しい情報が溢れたら、出所を保証するだけで、メディアが息を吹き返してしまう。
これがいずれマスコミがコタツで集めた動画の中にフェイク混じり始めるとリアルへ影響深刻というか、極論デジタル化した瞬間からもう情報はソースにならない。SNSが情報媒体として完全に終焉するねえ。
テレビ新聞も騙されるだろうしもう終わりの始まり
挙がってるのはデマじゃなくて風刺・イメージ映像だと思う。テレビ局の特権だった恣意的な編集・切り取り・イメージ映像が民主化された結果、急に問題になった。/テレビも視聴率や扇動のためにやってきたでしょ。
sora2のサービス側だけは自分で作られたものが分かってるんだろうし、確認APIとか提供せんもんかね
解決するには個別の動画をヘイトスピーチで有罪にするのを積み上げて、YouTubeとクレカ会社を止めなかった罪で巻き込むしかない。つまりエロ動画の時と同じ戦術。表現の自由戦士としては極めて残念と言わざるをえない
宇宙人「大量にフェイク動画のフリをしてた我々の降臨動画を投下して地球人の前に姿を表しても怖がられなくさせましょう」 すっかり慣れた一般人「なんだいつものアレか・・・はーフェイクフェイク」
そろそろAI生成物は明記することを義務付けて違反者に罰金を課してももいいんじゃないかと。表現の自由を著しく毀損するわけでもないし、AI側もデータのコンタミを防げて嬉しいはず… どこまでをAIにするか曖昧だが
熊本地震のライオンのフェイクニュースで逮捕って前例あるし、こいつら全員逮捕でいいよ
SNSの情報はもとより偽情報だし、実写が真実を切り取っているとは限らない。逆にデマしかないと分かればデマに騒ぐ人も減るかな？収益も関係ない。他国や政敵の干渉もあるからね。少なくとも匿名はソースなり得ない
そのうちTwitterばかり見てると馬鹿になるよとか言われそう。/いかがでしたか記事乱造の次はフェイク動画作りって感じね
最終的には「査読なしメディア発信の情報価値は0」に収斂しそうだが、途中「AIが査読してます」とか「一次情報あります。AIが言ってました」を経由しそうで頭が痛い。先に何万倍ものフェイク情報の海に飲まれそう。
雑すぎるんだけどこれで扇動に成功するのか……
ちょいちょい出される攻殻機動隊の「映像に証拠能力ない」が、思ってたより早く来たね
面倒臭い状況になってしまった。
これ防ぎよう無くない？中国方式なら防げるの？
特に政治的でもないような面白AI動画みたいなのでも親へずまみたいなネタがたまに流れてきて、うわっ…とか思ったことがある。
街中でナイフを振り回す代わりにディープフェイクを撒き散らす人々…の作った動画をパクってメシを食うクズども
これオールドメディアの再評価あるな。「ネットから拾ってきた出元の怪しい動画を放送する」を業界揃って規制し、各社自力で取ってきた情報だけ流すことを徹底すれば。
動画ほんとレベル上がっててマジでわからない
金になるならなんでもやるという人類のやる気が発揮されている
小さなコミュニティでフェイクメディア流されたら、そこでの生活終わっちゃうよなあ
猫を使った非実在動画は無害だしアニメと何が違うかと言われるとどうしようもないとして、捏造動画で他人を煽って儲ける商売はなんとかならんもんかな。
「sora2」って単語すら知らない人の方が多いからなあ。こういうのが溢れ返った結果、オープンなSNSがオワコンになってみんなmixiに回帰するんだろうか？
こういったことでメディアの信頼度が軒並み下がっていくのだから、マスメディアは気概を見せて信頼度を上げて欲しいな
soraの透かし以前に、アス比が16:9じゃないのに字幕が画面内に収まってる時点でおかしいと初見で思うけどな。id:jagtwmt 字幕じゃなくてテロップの間違いでした
やっぱりネットでの情報発信にはある程度の厳格な本人確認、審査が必要では。ネットユーザーの免許制とは違って、バーソナルな送受信が容易すぎるのは、既に悪であろう
Webでは全面的に動画を禁止にするべきだな。テキストで十分や
下位15%の投稿に下位15%が釣られてる構図が見える。どこかで抑制とか規制いれないとこの15%って結構な脅威になるよなーと思う
とんでもない世界になってきたな
ネトウヨにはAIで生成された美女アカウントにせっせと返信している奴らも多いからな
アス比が16:9じゃないのに字幕が収まってるのがおかしいってコメントあるけど今のショート動画は縦に画面いっぱいにして字幕収まるように編集するのが主流でしょ。今のフェイク動画は普通ぽく見えるから危険すぎる
今後は裁判でも証拠として動画を提出する際に「まず生成AIではない証拠を出せ」が当たり前になるんだろうな
OpenAI への課金やめたわ なんかこいつら胡散臭ぇわ
監視カメラ風の動物動画が溢れて過ぎてる。まぁあれは扇動にはならなそうだけど…。
AIは悪くない人間は人間に対する狼
そもそも動画は信憑性にこそ意味がある。soraも知らない、ウォーターマークが入っていても意味がわからない人らが騙されんの？
捏造動画作ってインプレッションから収益とるの平時なら動物動画辺りになるんだろうけど大規模な災害発生時は被災動画の捏造の方が伸びそうだしいそう
こういうのの真偽を確認せずすぐ拡散するバカがいるけどただ刺激に脊髄反射してるだけで全然頭使ってない。そういう人間が世の中の大多数なんだからAIもSNSも人類には早すぎた。
C2PA規格への対応で出来るのは本物の証明であって、適当な情報の付与は出来るから、偽物の証明や撮影されたことの証明は難しいのでは？
ここにブクマしに来てる人なんかは比較的大丈夫だと思うんだけど、親とかが心配だよね
タチコマが言っていた通りになってきたな。
もうSNSは終わりかけ。
法整備的に考えると、AI生成物には原則透かしを義務付けて透かしを外す行為を処罰対象とすることからかなぁ、テキストもUnicodeにAI-In/Out等の文字を追加して義務付け化。それで防げるわけではないのだけどまずは
“表題の通りの話で、ここ最近sora2で作ったフェイク動画が増えてきたというメモ。”
たまに歴史解説を見たくて検索しても「日本すごい！」系のAIサムネ動画がうじゃうじゃ出てきて鬱陶しい。YouTubeは検索欄に非表示チャンネルも出すのをやめてほしい
めんどくせぇなぁ。毎回、真偽を疑ってかからないといけない心理的負担が増える
「誰が言ったか」ではなく「何を言ったか」が重要、って言われてきたけれど、真偽を判定するためにまず「誰が言ったか」が重要になってきた。収益化が諸悪の根源で、お金よりも信用が価値をもつようになるのでは。
（YouTube動画流しておしゃべりしてるテレビ番組だとこういうのに引っかかって電波にのせたりするんじゃないかなー）
げんなりする
新聞とテレビがプレーンとか言ってる奴にスターが一杯ついてていつの時代も地動説信じる奴はいるんだと再認識した。
親には衝撃映像などの動画は信じるなって言ってる。 実例見せて。もう全て生成できちゃうんだぞ、と。
赤ちゃんとネコが出てきたらついつい見てしまうですが、そんなわたしのリールには、ネコ（イヌ）が赤ちゃんを助ける動画が大量にあがってきます。正直に言うと、soraの透かしがなければ見分けがつかないです。
生成AI使ってバズらせてニュースメディアに取り上げさせて、、みたいな悪意ある使い方する人が出てきそう。てか既にいそう。
SNSこわいなー
最初はよくある猫の動画なんだけど、途中から猫の行動おかしくなってきて、あ、これAIって分かるようなインスタ多くなった。今は分かるけど、そのうち分からなくなりそう。
赤ちゃんと猫動画も、リアルであれば価値があるんだけど生成AIなら無価値って思っちゃう。私は赤ちゃんと猫の仲良しアニメが観たいわけじゃないので…
生成AIは悪くない！っていう人必ずいるけど誰もそんな話してなくない？ナイフで人が刺されてナイフそのものが悪いっていう人なんかいないと思うけど
早晩本当に見分けがつかなくなるだろうが、別段それがなんだという気もする。表現がリッチになっただけでこんなデマは言葉ではいくらも語られてきたし、これまでも連中の脳内にはこんな映像が流れていたわけだしな。
元々意識が高い人はそのうち動画も身構えて見るようになっていくでしょう。結局、動画に騙される・釣られる人はテキストや画像に釣られてた人と同じ。
今日、ユーチューブ広告で、生成AIで高市早苗に話させてるのがでてきた。あの広告の出稿を受け取ったGoogleも頭おかしい。
見破れないとマジでヤバくなる時代になってきた
今この瞬間はまだわかるけどね…一つの情報ソース(同じ情報元からの同じアングル)で判断しない、というのは大事だなぁ…ちがう意見を持つ人の小姑目線が役に立つ日が来るか／「そーだそーだ！やーい！」の怖さ
逆に大手マスコミの影響力が強くなる未来
昔はワイドショーがバカを増幅して量産してたけど、個人ができるようになってしまった。何かの底が抜けた感じ
とりあえず「生まれたときからフェイク動画や偽情報は当たり前」という世代になってからが本番。人類は次の段階に進むのだ。
真偽があまり重要視されなくなってきて久しい。何を信じたいか、の時代に。
動画も見分けられなくなってきてるもんね…
ウォーターマーク入ってくれと思いつつ、金をかけてウォーターマーク消されるのだろう
いまのテレビも情報源がxwitterになっちゃってるしなぁ。バズった動画ポストはほとんどハズレということで。
嘘つきに便利なツールばかり発明されてくのは、それが儲けにつながるから。規制されないのは、企業や国家には都合の良いことだからかな。
昔新聞とかで起こってたことがSNSとAIに置き換わっただけで、人はぜんぜん成長してないよね
絶対的に信頼できるもんじゃないのは既存マスコミも一緒だけど、 マスコミでの捏造は珊瑚事件よろしく社会的制裁が下るが、 ネットはお咎めなしどころか、マネタイズして儲けられそうなのがとてもきつい…
生成AIとSNSの悪魔合体よな、どこまで社会を分断して凋落させるのかが見ものです
人の正義感を焚きつけるようなフェイク動画は、もう悪意の元に作られているとしか思えないんだよな。
せっかく新しいツールが手に入ったのに、これまでのコピーばかり作ってる人たち、現実に近いモノを作って社会を混乱させてる人たち、もったいないな
早めに犯罪のラインを引いた方がいいんでないか？
基本的にもう動画は信用しないようにしてる 罰則つきの法整備やアカウントと個人情報の紐付けしてフェイク拡散を信用を傷つける履歴として残すべき
マスコミの復権来るかもな
フェイク動画があふれて情報の価値や信頼性が暴落したとき何が起こるんだろう。それとも暴落する前に情報化社会()が崩壊するのか。
悪影響があまりにも甚大。テロや暴動の要因になりそう。早急の法整備が望まれる。
これからAI動画が更に精工になっていく中で「我々は確かなソースと裏付けでネットニュースとは一線を画す」と今一度ハッキリ宣言できるかどうかがオールドメディアにとって分水嶺になるのでは、とも思っている。
テレビの「話題の動画」みたいなヤツが生成動画に釣られる日も遠くないだろうなあ。それにしても、ポストしてるやつの日本語が怪しいのは何でだろ。
まだまだ粗い現段階の動画生成だって危ういのに２～３年くらいしたら本気で世界がひっくり返りそう。悪い意味で
そのうち法廷で映像や写真や音声は証拠にはならない事になりそうな。
生成AIで作ったフェイク動画による扇情的投稿がチラホラと見えてきた - 電脳塵芥
これもメルカリなんかと同じようにプラットフォーマーの放置している問題がそのまま外部不経済として社会に出力されてる状況かな。プラットフォーマーには社会に対する責任能力を保持してもらう必要がある。
「動画ならフェイク作成は困難」という固定観念というか無意識のバイアスが強烈に染み付いている現代人（特にネットに深く浸かってきた人は）だからこそ、ヤバさが最大化されている感がある。慣れの問題が大きい。
ちょうど不気味の谷にいる、あと少しで違和感なくなる
最近つくづく思う
いやぁー。TwitterやTikTokレベルで流し見してたら気づかないレベルかもなぁ。。。
これらの動画をまたAIが再学習してフェイクが事実になって行ったり…するのかな？？
AI動画のバブルが終わるか、SNS が終わるかみたいな感じになってきたね。
( 滅亡直前の既存メディアのブランド力が、検証能力で再評価される可能性。〔東京新聞の反原発はそれはそれとして〕ガンバ ）
waterprint消してる？
早期のスマホやデジカメのC2PA規格への対応が望まれます。YouTubeはC2PA規格に対応済み。https://www.itmedia.co.jp/news/spv/2410/16/news138.html
情報が管理されているマスメディアでも偏向報道がなくならないのが実際。SNSでのデマはそう簡単に減らないと思う。当面は受け手側が情報の摂取方法に気を付けるのが最も有効。因みに情報の真偽検証にAI検索は有効。。
厄介な世の中
文字と静止画は簡単なテクニックですでに区別無理、動画はまだギリわかるが時間の問題という印象。少なくともパブリックな生成系AIは編集改ざんされても検出可能な電子透かしを義務化するぐらいは必要だと思う
全部収益化のせいだよ。大量作成ワークフロー出回ってるし。そう言うワークフロー作ってる奴も同罪。
SNSの動画は信用できないってだけでおもしろ動画の範囲内。扇動される側の問題。ユーザ投稿を頼りにしてた報道側は大変かもね。
今は自民党を支持しているほうがまともな側なのか。/扇情で合っていると思うよ。
Sora2は外部AIツールを課金して使うと透かしマーク消えるんだよ。AI動画に不慣れな人がスマホでぱっと見た態度ではもうフェイクかどうか判らないものもある。リテラシー無き者は簡単に騙される世界が現実になった。
生成AIの画像や動画って、どこかでは有用に使われてるのだろうけど、ネットで回ってくるのはイラっとするものばかりで良い印象が全く無い
確かにヤバいな。何を信じたら良いのか、わからん世界がやってくるのか。
明確に世論を分断しようとする活動だよね。そういう意図のある人たちがいるってこと。
もともと無断転載の巣窟だった動物ほっこりアカウント、愛で単体写真系だともともと興味ない層には届いてなかったけど動画はペットが子供を助けるとか住宅街に猛獣とか人目を集める方向になってまじ汚染って感じ。
AIによって人間の業の深さが可視化されたっちゅうことやね。願望を事実として捻じ曲げる道具としてAIは活用されてるのな。
この手の用法はバカにできないよね。あくまで再現映像とか予想映像としてならすかしを消す必要ないし。
AI動画にそれと知らないリプが数百件ついてる。https://x.com/airi_fact_555/status/1979569745612656939
人類が学習するためにはまず一度この世をAI動画で埋め尽くす必要はあるように思える。それはそうとコミュニティノートを付けられたツイートは収益化が止まるんじゃなかったっけ。
拡散させている捏造動画を「報道機関は取り上げない！」みたいなヤバさ満点の叫びを上げる人たちもゾロゾロ出てくるんだろうな
エロではなくカスの嘘によって進化するとはね
デマが事実扱いされかねない段階、次は事実がデマ動画扱いされだすだろう。
早く人類は滅ぶべき
南海トラフ地震のときとか、こういうデマ動画に端を発してまた惨劇が起きそうでなぁ（外れてほしい直感）
東芝クレーマー事件みたく、世間がピュアなごく初期のうちは話題になっても、すぐに慣れてクレーマーのような怪しい言動としていちいち反応しなくなる。デマ全般ならまだしも、流行的な一過性の問題に法規制は不向き
こうなっても「法規制が必要」という声が上がらないはてブ
デマは表現の自由の敵だと思う
イーロンの言っていた「情報が無価値になる」がこれかな。いやお前の庭が荒らされとるんやぞハゲ
AI動画に騙されて起こった事件がきっかけで世界大戦勃発とか、とんでもない事案が起こらないといいけど。
結局、プレーンな情報源としては、新聞とテレビのニュースに収斂しそうだね
拡散というワードが入っているものは信じてはいけない、というのは今も昔も変わらない
今後こういった主義主張、誘導／煽動を伴う動画は増えそうである。最早生成AIによるフェイク動画は今現在のクオリティで多くの人を騙すことが出来る
マスメディアに占有されてきた世論誘導権が全人類個人の手に渡ってしまった。いまこそスケベを解禁するのです。そしたらおおくの日曜煽動家は政治的扇動なんてやめてスケベに専念するでしょう。ドスケベキボンヌ
扇動罪というと嫌な印象があるけど、そろそろ必要だね。でも新政権からして扇動者だもの。
最後に投げ銭ボタンがあるの、綺麗にオチてて草。
「排外主義デマを投稿させられるほど追い詰められた人々の"お気持ち"に寄り添え！」と主張するブコメもいたなあ。"むしろ事実はどうでも良く「動画」という視覚情報による煽動を主眼に置いているのではないか"
ウソをウソと見抜けないヤツの閾値が徐々に上がってきてる
まだ見分けは付くけど、この先は分からんからなぁ
「ハロウィン人形にびっくりして子熊が気絶する」動画には俺も騙された。煽情的、衝撃的な動画はすべて疑ってかかった方がいいな。しかしいずれAIのクオリティ向上で見抜けなくなる日が来るだろう…
エロよりも扇動動画を規制すべきだと思うよ
「Hey! Sora! 移民が店で騒ぎを起こしてる動画を生成してよ」「Ok! 任せて! でもまさかこれ差別に使うんじゃないよね？」「Sora...僕がそんなことすると思う？」「ごめんよ、一応、ね。よし、出来たぞ！」で良いわけがない。
妻も「赤ちゃんが階段から落ちてネコが素早く下に降りて頭を守ってくれる」動画を本物だと思っていた。めっちゃいいねが付いてた。ネコの毛並みの色が部分的に変わるのと、赤ちゃんの物理的な滑りが完璧なら見分不可
写真と映像があってかつそれなりに信用できた20世紀という時代は人類の知識共有のピークだったんだと思ってる
もう地球は温暖化で滅ぶか、SNSの暴走で滅ぶかの競争になってきているのではないか。そのころには自分はもう死んでいるのでどっちでもいいが。
大手マスコミの専売特許だった世論誘導がいよいよ民主化されてきた。AI規制がどうとか言う話ではない。長年行われてきたメディアの欺瞞に向き合う時だ https://www.isshow-fujimi.com/it_is_media/
扇情✕ 扇動〇
ゆくゆくは「出どころ不明の動画は根拠にならない」が共通理解になりそうだけれど、移行期が大変そうだな
扇動されっぷりが本当に怖くなってきたな…
動画自体の信頼度が引きずられて下がり、動画インフルエンサー全体が無価値になる超楽観論(ないかー...)。裏をとった報道をしている(はず)の既存メディアが課金のためにネットで見られない状況も良くない
生成AI、技術的にすごいのは分かるんだけど、果たして人類はこれで幸せになってるのだろうかと疑問 / "見たいものだけを見る"から"見たい(見せたい)ものだけを都合よく作る"フェーズに
フェイクを真に受けている人が多い理由は簡単で、動画の示す内容を真実だと先に思い込んでいるから。「確証バイアス」が強く働く人間がものすごく多い／そもそも今どきネットの動画を信用する奴は根本的に頭が悪い
あ、えっちな話じゃなかった
繰り返し言ってるけど、SNSと生成AIの発達で捏造とデマが蔓延して何が真実かはわからなくなり、民主主義はまともに機能しなくなるだろう。程度の差はあれど、遅かれ早かれ誰もが飲み込まれていくよ。
今はすこしの違和感とか、アラが残されてるものが多いから、ある程度は気付けるけども、そのうち違和感が全くないものばかりになるだろうな。動きに物理演算組み込まれたらもうわからんやろね
難しい問題。良い面もある
スケベな方の扇情的でも増えてるよね
これからの若者には「動画なんて何の証拠にもならない」って認識になるのかな。
フェイク動画を根拠に起訴される、フェイク動画が報道関係の賞を受賞する、バズったフェイク動画の登場人物に似ていると言う理由で傷害事件が起きる。数年で全部起きそう。
地獄化がもうそこまできてる
動画の真贋を判定するだけのサービスとか成り立たないかな。証明書みたいなの付与してクライアントから確認できるようにするとか。
ちなみに「心想事成@chengwanzi」というアカウント名は「陳王子」のピンイン表記の「@chengwangzi」にしようとして微妙に間違えてるので、日本人を装った中国人を装った日本人であるような気がする…
AI生成かどうかは透かしやブロックチェーンで保証できなさそうなので、発信者に対する信用をベースにするしかないのかな。
収益化の方法を提供している Google や Twitter や Tiktok が悪いな。規制すべき。もはやOld Media の価値が高まる現象が起きてきてるな。
動画というコンテンツは偽物でも感情を動かせてしまうのが問題だと思う。それがAI動画だと分かりきっていても、先に動かされた感情と辻褄を合わせるために人間が考えを歪めるようになる。だから煽り得になってしまう
“誘導／煽動を伴う動画は増えそう”まさに。ニュースの雑な切り抜きさえ信じてまうのに。なにかしら対策してほしい。
"デマ"はチェックされてくようになるだろうけど"創作"に分類するモノはどうなるんだろうね。気にしない世の中になるのかな。
同時刻かつ複数の視点から撮られた映像ってこれまでは信憑性高かったけど、もう駄目かもしれんね。作り放題だもんね。
／金にならなくてもデマ流しまくってる奴ばっかや。利益=金な人間ばかりじゃないんだよな
マジで再生回数で稼げますってのを辞めた方が良いとずっと思ってる。法規制していいレベル。インセンティブがありペナルティが無いからこうなる。前者を無くすか、後者の刑罰を引き上げるかしないと…
金銭目的が多いのは間違いないけど、止めたところで一定数は残りそう。パクツイやってる連中もそうだけど、「他人を自分の意図する通りに動かしたい」という暗い欲求を持ってる人、いっぱいいるし。
飼い犬が猛獣に襲われる飼い主か子どもを助ける動画とかも多い
トップブコメにある通り。カネになるからやってるわけで、ならなかったらやらないのよね。もう作り方マニュアルが販売されてるし
動画が10秒だととりあえず疑うようにしてる
情報戦の餌になる動画を各所にアップしまくるんだな。手の届きやすいところにある果実、食いつきやすい釣り餌を食べる人が出るとSNSには世論の波のようなものが出来上がる。こうした雑な動画も最初の一歩ってことか
色んな病理がてんこ盛りな気がする。とりわけ、現実が思い通りにならないものであることに耐えられない層が厚すぎる。
政治を左右するようになった今、稼げるかどうかは全く問題ではない。動画は信用できるという無自覚な思考放棄を万人から無くしていくしかない
そのうちブラウザや再生環境（YouTubeを含むweb上の動画再生アプリ）側でAIを検出して警告出すようになるんじゃないか。検出技術や動画埋め込みタグが規格化されるまでの過渡期が問題だな
ネトウヨ層は信じたいものを信じるしAIの見分けなんてできないからより先鋭化していくだろうね
こういう卑怯な真似するのはほとんどが右派。彼らはずっと前から卑劣な手段に躊躇がない。愚かだからすぐ騙されるし、デマと知りつつ拡散する下衆も多い。
動画フェイクニュースに対しては、まずはC2PA規格で対応していくしかないのかな
これが続くとSNS規制の可能性が出てくるよ
AIの嘘動画が増えてるにゃ？ボクが猫パンチで退治してあげるにゃ！
「嘘を嘘と見抜けない人はインターネットを使うのは難しい」（2000年5月）
遠からず見分けは付かなくなるよなぁ。何ならベースは現実の動画で部分的に有利な嘘を混ぜることも可能になるだろうし。
特にSora2とかで生成された動画は本当に見分けつかない。音声とか音楽部分にノイズが入ってるのと、一部発音タイミングがおかしいからそれでかろうじてわかる程度。そのうちこれも改善されるだろう。
生成動画じゃなくても切り取りで似たような問題はあるよね。なんか「動画がある」てだけで根拠になると思う人が多すぎ。こないだの鹿の件でで警察が呼び掛けてるとかいうやつもそうだった。
行くとこまで行くと一周して新聞テレビが信用できるってなりそう。ネット上の情報が信用できない以上、ネット外=現実社会の権威で情報の信頼性を担保するしかない。
こういうのは映像の真偽ではなく、自分にとってきらいなものを悪辣に見せる動画であるかが拡散のポイントになる。フェイク動画でなくてもテレビのスクリーンショットに関係ない偽コメントテロップを書きこむとか
受ければ何でもいい人と何でも真に受ける人によってカオスがどんどん広がっている。
YouTube漬けで陰謀論に洗脳された母親の洗脳がさらに進むんだろうな、と思う。
まだわかる人間にはAiだと判別できるけどあと何年で判別できなくなるか、、
太陽光発電（最も安くクリーンな国産電力源）や在日外国人（犯罪率が低く真面目に働いて納税する日本の事が好きな人たち）に関する偽情報は少なくともワクチンに関する偽情報と同程度以上には危険だと思います
見分けの難しいフェイクは本当に問題で、いずれ規制が必要になるだろう。何がうんざりって、そもそも見分けのつくレベルの雑なコラですら憎悪の煽動を助長するのに十分機能してしまう事なんだよ……、。
「嘘を嘘と見抜けない人はインターネットを使うのは難しい」→嘘を見抜くハードルは年々高くなり、誰も見抜けなくなっていく。インターネットを使える人はいなくなる、のかも。
id:FreeCatWork こんなブコメを書いても意味ないんだが、「AIがそれを言うか」と言いたい
デマの洪水にそのうち感覚が麻痺して動画も信じなくなるのでもう少しの辛抱だと思う
攻殻機動隊の世界みたくなってきた
ミノフスキー粒子なのよｗ違うゲームになってるんだからプレイヤーの意識も変革が必要
特に近年の糸井重里氏の言動やセンス、あんまり好きではないんですがＡＩに対する現時点での人類の防衛策はこれしかないかな、と。 ＞ "参考にする意見としては、「よりスキャンダラスでないほう」を選びます。"
中は見ないけど大手マスゴミが何十年も捏造偏向報道し続けてるの放置してるのに・・・。という素直な感想。
外部からの情報で人間が成り立つのだから情報が毒まみれになったら壊れるぞ。閾値は人によるだろうけども。
AI生成の動画を子供が見るのに忌避感あるんだけど、言語化できていない。昔の漫画アニメとどう違うのか。
Xの「おすすめ」タブはSora2によるデマ動画が激増中。ただ、結局は騙される奴は騙されるだけの世界なので、どうでもいいかなと。
ヤバい時代になってきたな… これ以上進化するとコンテンツそのものから見分けるのは不可能になるので、何も信じられない時代が始まる
つくづくコロナ禍中にこの技術がなくて良かったと思うわ。しかし動画が確信たり得ない世界が到来して我々はどうするんだろう。ファクトチェックすらAIで実現しそう。
まだインターネットで消耗してるの？
AIは悪くない、悪いのは悪用する人間なのがよくわかる。PCだってランサムウェア開発に使われたり、詐欺に使われたり。使う人によって道具は姿を変える
ついさっきAIに出された偽文献を専門家に提示して完全に打ち返されてる人を見た https://x.com/HIRAYAMAYUUKAIN/status/1979903341653356943
排外主義や反ソーラー等が多いのは無論偶然でなく、反倫理的価値観なればこそ露骨な虚偽を遠慮なく振り回し拡散にも加担するから。社会の破壊方向しかない。かつトランプ派のように規制への妨害も手段を選ばず苛烈。
結局は金に終着するからなぁ。
この結果「生成AI＝悪」と言う風潮出てきそうだ
まじでX(おすすめ欄)やめて、Twitter(自作タイムライン)に戻った方がいいと思う。
やっとこ、偏向報道しかしないマスメディアは要らない論が浮上してきたところなのに、こんな怪しい情報が溢れたら、出所を保証するだけで、メディアが息を吹き返してしまう。
これがいずれマスコミがコタツで集めた動画の中にフェイク混じり始めるとリアルへ影響深刻というか、極論デジタル化した瞬間からもう情報はソースにならない。SNSが情報媒体として完全に終焉するねえ。
テレビ新聞も騙されるだろうしもう終わりの始まり
挙がってるのはデマじゃなくて風刺・イメージ映像だと思う。テレビ局の特権だった恣意的な編集・切り取り・イメージ映像が民主化された結果、急に問題になった。/テレビも視聴率や扇動のためにやってきたでしょ。
sora2のサービス側だけは自分で作られたものが分かってるんだろうし、確認APIとか提供せんもんかね
解決するには個別の動画をヘイトスピーチで有罪にするのを積み上げて、YouTubeとクレカ会社を止めなかった罪で巻き込むしかない。つまりエロ動画の時と同じ戦術。表現の自由戦士としては極めて残念と言わざるをえない
宇宙人「大量にフェイク動画のフリをしてた我々の降臨動画を投下して地球人の前に姿を表しても怖がられなくさせましょう」 すっかり慣れた一般人「なんだいつものアレか・・・はーフェイクフェイク」
そろそろAI生成物は明記することを義務付けて違反者に罰金を課してももいいんじゃないかと。表現の自由を著しく毀損するわけでもないし、AI側もデータのコンタミを防げて嬉しいはず… どこまでをAIにするか曖昧だが
熊本地震のライオンのフェイクニュースで逮捕って前例あるし、こいつら全員逮捕でいいよ
SNSの情報はもとより偽情報だし、実写が真実を切り取っているとは限らない。逆にデマしかないと分かればデマに騒ぐ人も減るかな？収益も関係ない。他国や政敵の干渉もあるからね。少なくとも匿名はソースなり得ない
そのうちTwitterばかり見てると馬鹿になるよとか言われそう。/いかがでしたか記事乱造の次はフェイク動画作りって感じね
最終的には「査読なしメディア発信の情報価値は0」に収斂しそうだが、途中「AIが査読してます」とか「一次情報あります。AIが言ってました」を経由しそうで頭が痛い。先に何万倍ものフェイク情報の海に飲まれそう。
雑すぎるんだけどこれで扇動に成功するのか……
ちょいちょい出される攻殻機動隊の「映像に証拠能力ない」が、思ってたより早く来たね
面倒臭い状況になってしまった。
これ防ぎよう無くない？中国方式なら防げるの？
特に政治的でもないような面白AI動画みたいなのでも親へずまみたいなネタがたまに流れてきて、うわっ…とか思ったことがある。
街中でナイフを振り回す代わりにディープフェイクを撒き散らす人々…の作った動画をパクってメシを食うクズども
これオールドメディアの再評価あるな。「ネットから拾ってきた出元の怪しい動画を放送する」を業界揃って規制し、各社自力で取ってきた情報だけ流すことを徹底すれば。
動画ほんとレベル上がっててマジでわからない
金になるならなんでもやるという人類のやる気が発揮されている
小さなコミュニティでフェイクメディア流されたら、そこでの生活終わっちゃうよなあ
猫を使った非実在動画は無害だしアニメと何が違うかと言われるとどうしようもないとして、捏造動画で他人を煽って儲ける商売はなんとかならんもんかな。
「sora2」って単語すら知らない人の方が多いからなあ。こういうのが溢れ返った結果、オープンなSNSがオワコンになってみんなmixiに回帰するんだろうか？
こういったことでメディアの信頼度が軒並み下がっていくのだから、マスメディアは気概を見せて信頼度を上げて欲しいな
soraの透かし以前に、アス比が16:9じゃないのに字幕が画面内に収まってる時点でおかしいと初見で思うけどな。id:jagtwmt 字幕じゃなくてテロップの間違いでした
やっぱりネットでの情報発信にはある程度の厳格な本人確認、審査が必要では。ネットユーザーの免許制とは違って、バーソナルな送受信が容易すぎるのは、既に悪であろう
Webでは全面的に動画を禁止にするべきだな。テキストで十分や
下位15%の投稿に下位15%が釣られてる構図が見える。どこかで抑制とか規制いれないとこの15%って結構な脅威になるよなーと思う
とんでもない世界になってきたな
ネトウヨにはAIで生成された美女アカウントにせっせと返信している奴らも多いからな
アス比が16:9じゃないのに字幕が収まってるのがおかしいってコメントあるけど今のショート動画は縦に画面いっぱいにして字幕収まるように編集するのが主流でしょ。今のフェイク動画は普通ぽく見えるから危険すぎる
今後は裁判でも証拠として動画を提出する際に「まず生成AIではない証拠を出せ」が当たり前になるんだろうな
OpenAI への課金やめたわ なんかこいつら胡散臭ぇわ
監視カメラ風の動物動画が溢れて過ぎてる。まぁあれは扇動にはならなそうだけど…。
AIは悪くない人間は人間に対する狼
そもそも動画は信憑性にこそ意味がある。soraも知らない、ウォーターマークが入っていても意味がわからない人らが騙されんの？
捏造動画作ってインプレッションから収益とるの平時なら動物動画辺りになるんだろうけど大規模な災害発生時は被災動画の捏造の方が伸びそうだしいそう
こういうのの真偽を確認せずすぐ拡散するバカがいるけどただ刺激に脊髄反射してるだけで全然頭使ってない。そういう人間が世の中の大多数なんだからAIもSNSも人類には早すぎた。
C2PA規格への対応で出来るのは本物の証明であって、適当な情報の付与は出来るから、偽物の証明や撮影されたことの証明は難しいのでは？
ここにブクマしに来てる人なんかは比較的大丈夫だと思うんだけど、親とかが心配だよね
タチコマが言っていた通りになってきたな。
もうSNSは終わりかけ。
法整備的に考えると、AI生成物には原則透かしを義務付けて透かしを外す行為を処罰対象とすることからかなぁ、テキストもUnicodeにAI-In/Out等の文字を追加して義務付け化。それで防げるわけではないのだけどまずは
“表題の通りの話で、ここ最近sora2で作ったフェイク動画が増えてきたというメモ。”
たまに歴史解説を見たくて検索しても「日本すごい！」系のAIサムネ動画がうじゃうじゃ出てきて鬱陶しい。YouTubeは検索欄に非表示チャンネルも出すのをやめてほしい
めんどくせぇなぁ。毎回、真偽を疑ってかからないといけない心理的負担が増える
「誰が言ったか」ではなく「何を言ったか」が重要、って言われてきたけれど、真偽を判定するためにまず「誰が言ったか」が重要になってきた。収益化が諸悪の根源で、お金よりも信用が価値をもつようになるのでは。
（YouTube動画流しておしゃべりしてるテレビ番組だとこういうのに引っかかって電波にのせたりするんじゃないかなー）
げんなりする
新聞とテレビがプレーンとか言ってる奴にスターが一杯ついてていつの時代も地動説信じる奴はいるんだと再認識した。
親には衝撃映像などの動画は信じるなって言ってる。 実例見せて。もう全て生成できちゃうんだぞ、と。
赤ちゃんとネコが出てきたらついつい見てしまうですが、そんなわたしのリールには、ネコ（イヌ）が赤ちゃんを助ける動画が大量にあがってきます。正直に言うと、soraの透かしがなければ見分けがつかないです。
生成AI使ってバズらせてニュースメディアに取り上げさせて、、みたいな悪意ある使い方する人が出てきそう。てか既にいそう。
SNSこわいなー
最初はよくある猫の動画なんだけど、途中から猫の行動おかしくなってきて、あ、これAIって分かるようなインスタ多くなった。今は分かるけど、そのうち分からなくなりそう。
赤ちゃんと猫動画も、リアルであれば価値があるんだけど生成AIなら無価値って思っちゃう。私は赤ちゃんと猫の仲良しアニメが観たいわけじゃないので…
生成AIは悪くない！っていう人必ずいるけど誰もそんな話してなくない？ナイフで人が刺されてナイフそのものが悪いっていう人なんかいないと思うけど
早晩本当に見分けがつかなくなるだろうが、別段それがなんだという気もする。表現がリッチになっただけでこんなデマは言葉ではいくらも語られてきたし、これまでも連中の脳内にはこんな映像が流れていたわけだしな。
元々意識が高い人はそのうち動画も身構えて見るようになっていくでしょう。結局、動画に騙される・釣られる人はテキストや画像に釣られてた人と同じ。
今日、ユーチューブ広告で、生成AIで高市早苗に話させてるのがでてきた。あの広告の出稿を受け取ったGoogleも頭おかしい。
見破れないとマジでヤバくなる時代になってきた
今この瞬間はまだわかるけどね…一つの情報ソース(同じ情報元からの同じアングル)で判断しない、というのは大事だなぁ…ちがう意見を持つ人の小姑目線が役に立つ日が来るか／「そーだそーだ！やーい！」の怖さ
逆に大手マスコミの影響力が強くなる未来
昔はワイドショーがバカを増幅して量産してたけど、個人ができるようになってしまった。何かの底が抜けた感じ
とりあえず「生まれたときからフェイク動画や偽情報は当たり前」という世代になってからが本番。人類は次の段階に進むのだ。
真偽があまり重要視されなくなってきて久しい。何を信じたいか、の時代に。
動画も見分けられなくなってきてるもんね…
ウォーターマーク入ってくれと思いつつ、金をかけてウォーターマーク消されるのだろう
いまのテレビも情報源がxwitterになっちゃってるしなぁ。バズった動画ポストはほとんどハズレということで。
嘘つきに便利なツールばかり発明されてくのは、それが儲けにつながるから。規制されないのは、企業や国家には都合の良いことだからかな。
昔新聞とかで起こってたことがSNSとAIに置き換わっただけで、人はぜんぜん成長してないよね
絶対的に信頼できるもんじゃないのは既存マスコミも一緒だけど、 マスコミでの捏造は珊瑚事件よろしく社会的制裁が下るが、 ネットはお咎めなしどころか、マネタイズして儲けられそうなのがとてもきつい…
生成AIとSNSの悪魔合体よな、どこまで社会を分断して凋落させるのかが見ものです
人の正義感を焚きつけるようなフェイク動画は、もう悪意の元に作られているとしか思えないんだよな。
せっかく新しいツールが手に入ったのに、これまでのコピーばかり作ってる人たち、現実に近いモノを作って社会を混乱させてる人たち、もったいないな
早めに犯罪のラインを引いた方がいいんでないか？
基本的にもう動画は信用しないようにしてる 罰則つきの法整備やアカウントと個人情報の紐付けしてフェイク拡散を信用を傷つける履歴として残すべき
マスコミの復権来るかもな
フェイク動画があふれて情報の価値や信頼性が暴落したとき何が起こるんだろう。それとも暴落する前に情報化社会()が崩壊するのか。
悪影響があまりにも甚大。テロや暴動の要因になりそう。早急の法整備が望まれる。
これからAI動画が更に精工になっていく中で「我々は確かなソースと裏付けでネットニュースとは一線を画す」と今一度ハッキリ宣言できるかどうかがオールドメディアにとって分水嶺になるのでは、とも思っている。
テレビの「話題の動画」みたいなヤツが生成動画に釣られる日も遠くないだろうなあ。それにしても、ポストしてるやつの日本語が怪しいのは何でだろ。
まだまだ粗い現段階の動画生成だって危ういのに２～３年くらいしたら本気で世界がひっくり返りそう。悪い意味で
そのうち法廷で映像や写真や音声は証拠にはならない事になりそうな。