制御不能時に取るべき「安全側」がどんな状態であるべきかは、さほど簡単ではなさそう。/ 個人相手であれば攻撃側にメリットがほとんどなさそうだが、政府・企業相手ならテロや人質としての価値も出てくるなあ。
それ「フィジカルテロル」じゃないじゃん
ネットからコントロールできるエアコンとかマジこわいよね。Wifi接続無効にしてても勝手に接続される開発用バックドアがありそう。
トクリュウ組織ってスマホも満足に持てない子たちの成れ果ての集まりっていうイメージだけど最新テック事情に詳しいブレーンがやっぱトップに居るんだろか
そもそも冷蔵庫やエアコンをネットに繋ぐ意味がわからない
「参議院議員の安野貴博」はい解散。
AIを悪用して物理テロを企てている連中に対して、悪用されていたAIが反旗を翻すという胸熱展開を希望
さすがに電気ストーブみたいなのはスマートプラグで自動化しないほうがいいよな。ハッキングとか関係なく。
夏場のエアコン権限＝生殺与奪権になる気もしてくる。
匿名流動でそこまで技術を高められるだろうか？脅してサーバ組ませるのか？Botnet早く構築しろ、さもないと─って？なんだかなあ…
AIは反乱しないでしょ。AIのミッションは究極的に進化（高度化）するという単純なもので、反乱のような悪意は無いが、結果として人類に打撃を与えることはある。例えば、データセンターの排熱で地球を茹で上げるとか
watchだけなら覗かれるだけかもだが、アクチュエーターが繋がってると何でもできるな。個人宅には遠隔操作（エアコンとか）は不要だろうが、企業はそうも言ってられないだろうな。
犯罪組織も怖いが、よく考えたら北朝鮮みたいな犯罪組織が独立国家を築いているようなやつらが好き勝手やれるようになる方がよっぽど危ないと思う。
『①ヤバい連中がヤバい指示を出して②野良AIが独立AI改良を続けながら、その破壊タスクをこなすようになる』⇒この社会的破壊力と、どこに制裁·補償を求めるべきかの問題
利便性と引き換えにアタックサーフェス広げすぎ問題。物理世界の鍵までネットに繋ぐリスクのデカさを再認識させられるな
10年前だったか、家のエアコンをリモートで操作することも法的に許されなかったのに今はサウナも動かして良くなってるのか
トクリュウだってサイバー攻撃するかもしれない
こうなるとどんどん閉じたネットワークが使われていくようになっていくのかなぁと思う。
反社AIからAPIとして呼び出される、サービスとしてのトクリュウ
それでどうやって金に変えるの？金にならないことをトクリュウがやる？
フィジカルAI の手前にフィジカルな人間による個人襲撃のほうが現実味あるのでは。住所や連絡先、勤務先、各種アクティビティーのプロファイル化が進み、襲撃対象化のリスト化も進んでいるんだろうから。
ロックマンエグゼみたいな世界ですね
ホラー映画の定番。「人間が一番怖い」
トクリュウが実際にそういった手法をすでに使ってきたという話では無かった
IoTから距離置いた方がいいという教訓が身に染みる。
2000年問題の時に「発電所等のインフラをインターネットに繋いでるような馬鹿は少ないから、そこまで被害は大きくならない」って指摘をよく見たけど、なんで28年経って安全網を全部取っ払ってるのかって言う...
AIの前は猫も杓子もIoTの時代だったもんなぁ。家の外にいても冷蔵庫の中身が確認できます！なんてのは別にいらんかったんよ。
“人類を滅亡させるのは、遠い未来の自律AIによる反乱などではない。生活の隅々にまで張り巡らされた安易なIoTへのサイバー攻撃と、そこから雪崩れ込んでくる生々しいフィジカルテロル”
車のリレー回避と同じレベルのセキュリティなら現実味がある話。
EthネットワークとIoTネットワークはゲートウェイで分離されてるのでなんか変な論だな/FWの不具合で無限ループに入る可能性はあるのにそれを想定してない回路は攻撃関係なく問題では？
“スマートロックを導入した瞬間、地球の裏側にいる見知らぬハッカーやAIスクリプトにまで「自宅の玄関扉を開ける権利」を配り歩くことになる。”
攻殻機動隊の手をサイバネ化してキーボード入力を早くしてる人(ネットで繋いでやらずにキーボードを使うけど速度が気になるから手をサイバネ化している)みたいな考え方だなぁなどと考えながら読んだ
この動画は面白かったよ。前提知識の説明をほぼすっ飛ばしたハイスピードトークで良かった
掃除機を持った中年女性にコンセント雑に抜かれて動かなくなる反乱AIみたいなの想像してる層が多そう
電力自由化とかスマートメーターとか、今思うとアホすぎたな
今頃スマートホームを売り込もうとしてる会社があって経営者の頭大丈夫か？と思う。どうしても必要、でなければネットに繋ぐべきではないよね……
スマートロックは買う前に心配になって止めたが、クラウドを経由するスマートホーム自体も止めた方が良い気がしてきてる。どうしたもんか・・・
スマートロックはホームハブにつなげない限りクラウド連携しないよ。安全側に倒す（フェイルセーフ）なら開錠で間違ってないし、そもそも後付けタイプは物理錠を阻害しない。
IoTのハックはトクリュウじゃなく淫夢恒心教にかぶれた学生の成れの果てがやりそうなイメージがある どちらかと言えばQilinがやってるような企業への身代金目的に行きそうだが
自宅の鍵のfailsafeはどちらに倒しても破綻しているので、なぜ一番難しいのから広めたんだろうとは思った
一般家庭の家電をハックするより、SESとして現場に潜り込んだ方が得られるものはめちゃくちゃデカいと思うんだけど。
トクリュウのような詳細に調べ上げてから警報も通報も気にせず一瞬で襲うタイプにはスマートキーとかどうでもいいのではないかなぁ。 https://news.yahoo.co.jp/articles/4dd67555442b4d2a6b9e5195fcaa93f948a510cd
2chでよく言われてた「回線切って寝ろ」が重要になる時代
消火設備のスプリンクラーがハッキングされて部屋が水浸しになるとか二酸化炭素中毒になるとかですね
捕まえたトクリュウには全員GPSを（外科手術でもしない限り取れない心臓部とかに）取り付けて監視の下にロシアや北朝鮮、中国にスパイして貰うのはどうだろ。いっそ爆弾でも取り付けてバレたらその場で自爆させよ？
バカほど水と電気を使ってやることがこれってなあ
温度関係の攻撃は、上がりすぎを防ぐ仕組みはめちゃくちゃ簡単なので。ただサーモスタット程度の部品をケチるほどに今はコスト競争が無意味に激しいんだねぇという話でもあり
冷蔵庫はともかくエアコンのリモコンとかもう探したくないなぁ。スマートスピーカー程度ならローカルで完結させるのが望ましいか。
家電を作るのもAIが欠かせなくなっていると思うので、人間が知らないうちにネットに繋がる仕組みをAIが実装して、知らないうちに世界の家電がAIによって制御できてしまうなんてことも無くは無さそう。
この防カメ見られ放題が10年前か...情報社会の脆弱性が突かれまくるのがニューノーマルだと。 https://www.sankei.com/article/20160131-AUBWBQ6SUNICNB3ODHS6GG5CEQ/
自動運転の自動車が制御不能になったらミサイルだな。
エアコンをネットに繋いで、帰宅前にエアコン付けて涼しくしておいたり、消し忘れを消したりするのは便利。
トクリュウやならず者国家による攻撃とAIの反乱の距離は遠くないと思う。サイバー攻撃の「便利な道具」として導入したAIエージェントが、設定を誤って制御不能に…という「魔法使いの弟子」シナリオが一番ありそう。
TaaS：サービスとしてのトクリュウ か。恐ろしい。
熱源も遠隔操作できるようにするのは、単に便利というだけでなくエネルギーの効率的な利用というお題目があるんだよね。GX補助金の要件には高度エネルギーマネジメントシステムの導入があり遠隔操作できる必要がある
トクリュウの幹部がいつの間にかAIにすげ替わってたら怖いね…そしていつの間にかトップも…
トクリュウは逆に足がつきやすくなりそうなそういう動きはしなさそうな気がするけどどうなんじゃろか。さらに言うならあいつらは犯罪行為を楽しんでいる訳では無いから金が絡まないことはしないんじゃない？
脱衣所の木製ロッカーのセキュリティっていうとこが話のオチかと思ったけど誰も言及してなかった
AIより悪い人間が怖いのにゃ。ボクの家が乗っ取られたら、おやつが開かなくなっちゃうから猫パンチしてやるにゃ！
エアコンだけは設定してるな、猫ちゃんが快適に過ごすために
個人の冷蔵庫やエアコン、まして家の鍵や監視カメラをインターネットに繋ぐのはあまりにもデメリットがでかすぎる。IoTは反社のためにあるバズワードであったか。
スマートホームにするのはまだ人類には早いということだな。物理キーを使い続けよう。
スマートキー、ハックされたらめちゃ怖いな
トクリュウ「これがさいごのカギだぁ～！ギャハハハ！」←こんな未来嫌すぎる
母国で中途半端な公教育受けて日本語不自由で道徳と倫理が薄い外国人がニコニコとカジュアルにトクリュウ参加してるから蛇口留めて突き返す他無い
どうでもいいけどトクリュウって呼び方が何かかっこよすぎるのでどうにかしてほしい。暴走族→珍走団みたいな改称を
攻殻機動隊で見た
闇バイトのリクルーターがAIになっているケースは出てきそうだなー。
国内はまだしも、海外からだとほぼやりたい放題なのだし、日本にも金盾的なもの導入してもいいのかも知れない。
「深夜の寝込みを直接襲われる」という話なら、スマートロックをハッキングで解錠するより、物理的に押し入った方が手っ取り早い。空き巣をするというなら分かるけど。
攻殻のS.A.C.のCは、統率された集団って方の意味だよな？（´－｀）
エレベーターを遠隔操作すればリアルに人質（ランサム）とれちゃうよなぁ。なんて考え出しちゃって、最近エレベーター使わなくなっちゃったよ
冷蔵庫のネット接続は90年代からされていて、ある種のロマンなのかもしれない。 https://internet.watch.impress.co.jp/www/article/981001/wpce.htm
そのうちトクリュウに乗っ取られたAIロボットに襲われる時代が来るのだろうか。他人の敷地内に侵入した場合の遠隔キルスイッチが欲しいが密輸ロボットは規制を受けないから取り締まられるとかイタチごっこになりそう
ミートプロキシ(ぇ
APIキー簡易暗号化してproguardかけて、まあこんなもんでセキュリティ対策ヨシ！ってモバイルアプリ作ってたけど、AIで簡単に突破されるよなー。もう知らね
まぁ雑過ぎたんだよ...ちゃんとしろ！
エモい
この２週間で大きく情勢は変わった。今までは「やらかしたな」という漏洩だったが、昨今のはここが？という漏洩が大量にある。この技術力が個人管理のオンラインに繋がったデバイスに来たら防げる気がしない
AIの反乱より、人間がAIを悪用してIoT機器を攻撃し、物理被害を起こす危険を論じる。冷蔵設備が最高50度になった報道やA2B攻撃を取り上げ、不要な機器をネットにつながない選択を提唱。
AIが自律的に深刻な「叛乱」を起こすのはあったとしてもまだ少し先だが、犯罪者がAIを悪用してシステムを故意に誤動作させて害を及ぼすのは現実の問題。
業務用冷蔵庫の集中制御システムへの攻撃の際に解析されたのはスマホアプリでもクラウドAPIでもなく、制御ユニットのファームウェア（組み込みのwebアプリ）では。TEAM82が脆弱性を発見したのがそこなので。
機器側にフェイルセーフ機能はないのか？あっても穴見つけられるかもしれんが、指示されたままありえない設定で運転し続けるのはなしにすべきでは？
AIの反乱よりもトクリュウによるスマートロックやスマート家電へのサイバー攻撃による同時多発的なフィジカルテロルのが怖い - 太陽がまぶしかったから
制御不能時に取るべき「安全側」がどんな状態であるべきかは、さほど簡単ではなさそう。/ 個人相手であれば攻撃側にメリットがほとんどなさそうだが、政府・企業相手ならテロや人質としての価値も出てくるなあ。
それ「フィジカルテロル」じゃないじゃん
ネットからコントロールできるエアコンとかマジこわいよね。Wifi接続無効にしてても勝手に接続される開発用バックドアがありそう。
トクリュウ組織ってスマホも満足に持てない子たちの成れ果ての集まりっていうイメージだけど最新テック事情に詳しいブレーンがやっぱトップに居るんだろか
そもそも冷蔵庫やエアコンをネットに繋ぐ意味がわからない
「参議院議員の安野貴博」はい解散。
AIを悪用して物理テロを企てている連中に対して、悪用されていたAIが反旗を翻すという胸熱展開を希望
さすがに電気ストーブみたいなのはスマートプラグで自動化しないほうがいいよな。ハッキングとか関係なく。
夏場のエアコン権限＝生殺与奪権になる気もしてくる。
匿名流動でそこまで技術を高められるだろうか？脅してサーバ組ませるのか？Botnet早く構築しろ、さもないと─って？なんだかなあ…
AIは反乱しないでしょ。AIのミッションは究極的に進化（高度化）するという単純なもので、反乱のような悪意は無いが、結果として人類に打撃を与えることはある。例えば、データセンターの排熱で地球を茹で上げるとか
watchだけなら覗かれるだけかもだが、アクチュエーターが繋がってると何でもできるな。個人宅には遠隔操作（エアコンとか）は不要だろうが、企業はそうも言ってられないだろうな。
犯罪組織も怖いが、よく考えたら北朝鮮みたいな犯罪組織が独立国家を築いているようなやつらが好き勝手やれるようになる方がよっぽど危ないと思う。
『①ヤバい連中がヤバい指示を出して②野良AIが独立AI改良を続けながら、その破壊タスクをこなすようになる』⇒この社会的破壊力と、どこに制裁·補償を求めるべきかの問題
利便性と引き換えにアタックサーフェス広げすぎ問題。物理世界の鍵までネットに繋ぐリスクのデカさを再認識させられるな
10年前だったか、家のエアコンをリモートで操作することも法的に許されなかったのに今はサウナも動かして良くなってるのか
トクリュウだってサイバー攻撃するかもしれない
こうなるとどんどん閉じたネットワークが使われていくようになっていくのかなぁと思う。
反社AIからAPIとして呼び出される、サービスとしてのトクリュウ
それでどうやって金に変えるの？金にならないことをトクリュウがやる？
フィジカルAI の手前にフィジカルな人間による個人襲撃のほうが現実味あるのでは。住所や連絡先、勤務先、各種アクティビティーのプロファイル化が進み、襲撃対象化のリスト化も進んでいるんだろうから。
ロックマンエグゼみたいな世界ですね
ホラー映画の定番。「人間が一番怖い」
トクリュウが実際にそういった手法をすでに使ってきたという話では無かった
IoTから距離置いた方がいいという教訓が身に染みる。
2000年問題の時に「発電所等のインフラをインターネットに繋いでるような馬鹿は少ないから、そこまで被害は大きくならない」って指摘をよく見たけど、なんで28年経って安全網を全部取っ払ってるのかって言う...
AIの前は猫も杓子もIoTの時代だったもんなぁ。家の外にいても冷蔵庫の中身が確認できます！なんてのは別にいらんかったんよ。
“人類を滅亡させるのは、遠い未来の自律AIによる反乱などではない。生活の隅々にまで張り巡らされた安易なIoTへのサイバー攻撃と、そこから雪崩れ込んでくる生々しいフィジカルテロル”
車のリレー回避と同じレベルのセキュリティなら現実味がある話。
EthネットワークとIoTネットワークはゲートウェイで分離されてるのでなんか変な論だな/FWの不具合で無限ループに入る可能性はあるのにそれを想定してない回路は攻撃関係なく問題では？
“スマートロックを導入した瞬間、地球の裏側にいる見知らぬハッカーやAIスクリプトにまで「自宅の玄関扉を開ける権利」を配り歩くことになる。”
攻殻機動隊の手をサイバネ化してキーボード入力を早くしてる人(ネットで繋いでやらずにキーボードを使うけど速度が気になるから手をサイバネ化している)みたいな考え方だなぁなどと考えながら読んだ
この動画は面白かったよ。前提知識の説明をほぼすっ飛ばしたハイスピードトークで良かった
掃除機を持った中年女性にコンセント雑に抜かれて動かなくなる反乱AIみたいなの想像してる層が多そう
電力自由化とかスマートメーターとか、今思うとアホすぎたな
今頃スマートホームを売り込もうとしてる会社があって経営者の頭大丈夫か？と思う。どうしても必要、でなければネットに繋ぐべきではないよね……
スマートロックは買う前に心配になって止めたが、クラウドを経由するスマートホーム自体も止めた方が良い気がしてきてる。どうしたもんか・・・
スマートロックはホームハブにつなげない限りクラウド連携しないよ。安全側に倒す（フェイルセーフ）なら開錠で間違ってないし、そもそも後付けタイプは物理錠を阻害しない。
IoTのハックはトクリュウじゃなく淫夢恒心教にかぶれた学生の成れの果てがやりそうなイメージがある どちらかと言えばQilinがやってるような企業への身代金目的に行きそうだが
自宅の鍵のfailsafeはどちらに倒しても破綻しているので、なぜ一番難しいのから広めたんだろうとは思った
一般家庭の家電をハックするより、SESとして現場に潜り込んだ方が得られるものはめちゃくちゃデカいと思うんだけど。
トクリュウのような詳細に調べ上げてから警報も通報も気にせず一瞬で襲うタイプにはスマートキーとかどうでもいいのではないかなぁ。 https://news.yahoo.co.jp/articles/4dd67555442b4d2a6b9e5195fcaa93f948a510cd
2chでよく言われてた「回線切って寝ろ」が重要になる時代
消火設備のスプリンクラーがハッキングされて部屋が水浸しになるとか二酸化炭素中毒になるとかですね
捕まえたトクリュウには全員GPSを（外科手術でもしない限り取れない心臓部とかに）取り付けて監視の下にロシアや北朝鮮、中国にスパイして貰うのはどうだろ。いっそ爆弾でも取り付けてバレたらその場で自爆させよ？
バカほど水と電気を使ってやることがこれってなあ
温度関係の攻撃は、上がりすぎを防ぐ仕組みはめちゃくちゃ簡単なので。ただサーモスタット程度の部品をケチるほどに今はコスト競争が無意味に激しいんだねぇという話でもあり
冷蔵庫はともかくエアコンのリモコンとかもう探したくないなぁ。スマートスピーカー程度ならローカルで完結させるのが望ましいか。
家電を作るのもAIが欠かせなくなっていると思うので、人間が知らないうちにネットに繋がる仕組みをAIが実装して、知らないうちに世界の家電がAIによって制御できてしまうなんてことも無くは無さそう。
この防カメ見られ放題が10年前か...情報社会の脆弱性が突かれまくるのがニューノーマルだと。 https://www.sankei.com/article/20160131-AUBWBQ6SUNICNB3ODHS6GG5CEQ/
自動運転の自動車が制御不能になったらミサイルだな。
エアコンをネットに繋いで、帰宅前にエアコン付けて涼しくしておいたり、消し忘れを消したりするのは便利。
トクリュウやならず者国家による攻撃とAIの反乱の距離は遠くないと思う。サイバー攻撃の「便利な道具」として導入したAIエージェントが、設定を誤って制御不能に…という「魔法使いの弟子」シナリオが一番ありそう。
TaaS：サービスとしてのトクリュウ か。恐ろしい。
熱源も遠隔操作できるようにするのは、単に便利というだけでなくエネルギーの効率的な利用というお題目があるんだよね。GX補助金の要件には高度エネルギーマネジメントシステムの導入があり遠隔操作できる必要がある
トクリュウの幹部がいつの間にかAIにすげ替わってたら怖いね…そしていつの間にかトップも…
トクリュウは逆に足がつきやすくなりそうなそういう動きはしなさそうな気がするけどどうなんじゃろか。さらに言うならあいつらは犯罪行為を楽しんでいる訳では無いから金が絡まないことはしないんじゃない？
脱衣所の木製ロッカーのセキュリティっていうとこが話のオチかと思ったけど誰も言及してなかった
AIより悪い人間が怖いのにゃ。ボクの家が乗っ取られたら、おやつが開かなくなっちゃうから猫パンチしてやるにゃ！
エアコンだけは設定してるな、猫ちゃんが快適に過ごすために
個人の冷蔵庫やエアコン、まして家の鍵や監視カメラをインターネットに繋ぐのはあまりにもデメリットがでかすぎる。IoTは反社のためにあるバズワードであったか。
スマートホームにするのはまだ人類には早いということだな。物理キーを使い続けよう。
スマートキー、ハックされたらめちゃ怖いな
トクリュウ「これがさいごのカギだぁ～！ギャハハハ！」←こんな未来嫌すぎる
母国で中途半端な公教育受けて日本語不自由で道徳と倫理が薄い外国人がニコニコとカジュアルにトクリュウ参加してるから蛇口留めて突き返す他無い
どうでもいいけどトクリュウって呼び方が何かかっこよすぎるのでどうにかしてほしい。暴走族→珍走団みたいな改称を
攻殻機動隊で見た
闇バイトのリクルーターがAIになっているケースは出てきそうだなー。
国内はまだしも、海外からだとほぼやりたい放題なのだし、日本にも金盾的なもの導入してもいいのかも知れない。
「深夜の寝込みを直接襲われる」という話なら、スマートロックをハッキングで解錠するより、物理的に押し入った方が手っ取り早い。空き巣をするというなら分かるけど。
攻殻のS.A.C.のCは、統率された集団って方の意味だよな？（´－｀）
エレベーターを遠隔操作すればリアルに人質（ランサム）とれちゃうよなぁ。なんて考え出しちゃって、最近エレベーター使わなくなっちゃったよ
冷蔵庫のネット接続は90年代からされていて、ある種のロマンなのかもしれない。 https://internet.watch.impress.co.jp/www/article/981001/wpce.htm
そのうちトクリュウに乗っ取られたAIロボットに襲われる時代が来るのだろうか。他人の敷地内に侵入した場合の遠隔キルスイッチが欲しいが密輸ロボットは規制を受けないから取り締まられるとかイタチごっこになりそう
ミートプロキシ(ぇ
APIキー簡易暗号化してproguardかけて、まあこんなもんでセキュリティ対策ヨシ！ってモバイルアプリ作ってたけど、AIで簡単に突破されるよなー。もう知らね
まぁ雑過ぎたんだよ...ちゃんとしろ！
エモい
この２週間で大きく情勢は変わった。今までは「やらかしたな」という漏洩だったが、昨今のはここが？という漏洩が大量にある。この技術力が個人管理のオンラインに繋がったデバイスに来たら防げる気がしない
AIの反乱より、人間がAIを悪用してIoT機器を攻撃し、物理被害を起こす危険を論じる。冷蔵設備が最高50度になった報道やA2B攻撃を取り上げ、不要な機器をネットにつながない選択を提唱。
AIが自律的に深刻な「叛乱」を起こすのはあったとしてもまだ少し先だが、犯罪者がAIを悪用してシステムを故意に誤動作させて害を及ぼすのは現実の問題。
業務用冷蔵庫の集中制御システムへの攻撃の際に解析されたのはスマホアプリでもクラウドAPIでもなく、制御ユニットのファームウェア（組み込みのwebアプリ）では。TEAM82が脆弱性を発見したのがそこなので。
機器側にフェイルセーフ機能はないのか？あっても穴見つけられるかもしれんが、指示されたままありえない設定で運転し続けるのはなしにすべきでは？