2017/06/21 12:17:43
sakstyle
「人工知能研究の分野では、「どうやって生まれたのか、あるいはなぜ効果が出るのかわからない技術の総称」として、「黒魔術」という言葉が世界的に使われている」「人工知能は「還元主義とは相容れない」と指摘」
2017/06/21 12:32:40
Hiz22J
Deep Learningについては私も以前からそう思っていた。何故動くのか説明できない技術は魔術に近い。
2017/06/21 12:50:28
mazmot
https://youtu.be/Ij4gc8iBDaI
2017/06/21 12:55:04
haruten
「このプログラムがなぜこのように動いているのかわかりません」などと現場で言おうものなら張り飛ばされるところだが
2017/06/21 13:16:26
namisk
メカニズムを考慮しないで最適化する系のモデル全般に言えることでは。とはいえ深層学習だとブラックボックスの箱がデカい印象はある。
2017/06/21 13:23:15
mutsugi
面白い超面白い
2017/06/21 13:25:13
muchonov
今の深層学習界隈に対して、前々から同じ印象を持ってた。 http://b.hatena.ne.jp/entry/329227482/comment/muchonov 還元主義以前に「理解する」という概念自体が危機にあるように思う
2017/06/21 13:25:56
karukaru7
すでに人工知能は理解不能なのかな？
2017/06/21 13:34:44
sainokami
そう。占いみたいな。
2017/06/21 13:41:23
h5dhn9k
部分的に『人間』を超えちゃってるからなぁ……。ソレ言い出したら人間の各分野のトップスペシャリストだって「何故、自分が上手いのか？」を本人含め誰も説明出来ないだろうし。
2017/06/21 13:44:25
tikuwa_ore
「十分に発達した科学技術は、魔法と見分けがつかない」か。アーサー・C・クラーク、マジすげえな。／見出しだけ読んだら、開発者がオカルトに狂ったのかと勘違いしたwww
2017/06/21 13:49:21
orangestar
ああ…これアリュージョニストで観たやつだよ…、なんてこった…呪文の座だよ……。
2017/06/21 13:50:15
zinota88
黒魔術って…そういう言葉があるのか。
2017/06/21 13:50:55
namagon
マシンパワー＞アルゴリズムって話だ
2017/06/21 14:00:32
Chishow
ものすごい技術者をウィザードなんて呼んでた時代があった気がするが、ウィザードがしっくり来る感じになってきたな
2017/06/21 14:29:11
unamuhiduki12
>科学は「物事を分解し、細部の構造を理解していけば、全体を理解できる」という考え方、「還元主義」でできているが、人工知能は「還元主義とは相容れない」
2017/06/21 14:39:04
Erlkonig
原理は分からないけどなんか動いてしまうしある程度の再現性もあるから経験則を体系化して必ずしも科学的手法に基づくとは言い難い巨大な技術体系が打ち立てられてしまう流れ、アリュージョニストの呪術だ……。
2017/06/21 14:42:30
quwachy
CAKESで読んだ、なんで同じネタで何度もトレンド入りするだろう。0.99999=1とか-x-=+とか１０回くらいみたぞ
2017/06/21 14:49:23
atsushifx
そういや、昔のASCIIにソフトウェアをワインみたいに熟成させることで質が上がる未来って話が載っていたが
2017/06/21 15:20:51
yoiIT
”知能というのは隠された方程式があって、それを解き明かすのではなく、どこまで行ってもモヤモヤしたよくわからないものであることを受け入れるしかない”
2017/06/21 15:25:15
zyzy
テクニカルすぎて局所でしか使えないパラメータ調整が入っている的な話かと思ったら違った。機械学習はまぁ元々そういうジャンルだし、ニューラルネットワーク系列はその代表格だしなぁ。
2017/06/21 15:29:11
sifue
なんでそうなるのかわからんってのはDLとかその辺のパラメーター調整やってる限りしかたない気もするなぁ。
2017/06/21 15:32:48
deep_one
ディープラーニングの方法論について読むと、かなり絶望するからな。なんでそれでいいのか全く分かんないような調整が行われて、でも効果があるとそれが広がったりする。確かにそれはオカルトと呼ぶべき物…
2017/06/21 15:36:57
megazalrock
本当にスーザン・カルヴィンみたいな人工知能を相手にする心理学者が必要になるかもしれんな。
2017/06/21 15:48:55
toumyou1107
個別の事象ではシンギュラリティが始まってる。おもしろい～～
2017/06/21 15:52:54
yulalila
中二心をくすぐられる。
2017/06/21 16:05:25
localhost0
インターネットの次に来るもの に書いてあったことがそのまま言われてるな
2017/06/21 16:06:12
tencube
「何故うまくいくか分からない」ということは、裏を返すと理論的な発展性に乏しく、今後改善していく方法が分からないということでもある。
2017/06/21 16:10:31
htnmiki
いざトラブったときに対処法がわからないシステムに我々はどこまで頼るのかみたいな話になるのかねえ
2017/06/21 16:32:53
e-takeuchi
タチコマが好奇心をもったみたいな感じか。
2017/06/21 16:46:47
shields-pikes
我々人類は、理解不能な自然物たる人工知能の成果物に対し、既存の知識や理論を超えてとりあえず表面的なつじつまを合わせるための神話的な思想体系を作るところから、やり直さないといけないのではないだろうか。
2017/06/21 16:50:37
cheapcode
充分に発達した人工知能は黒魔術と見分けがつかない
2017/06/21 16:58:44
tomisyura
“科学は「物事を分解し、細部の構造を理解していけば、全体を理解できる」という考え方、「還元主義」でできているが、人工知能は「還元主義とは相容れない」と指摘。”
2017/06/21 16:59:51
Cujo
キリスト教圏で禁止されるまで秒読み段階（　/自然科学で光速とかプランク定数とか各種パラメータをいじれたらどういう世界になるんだろう（
2017/06/21 17:11:47
stella_nf
クラークの第三法則
2017/06/21 17:20:11
pptppc
いやわからん。どんな原理で動いてるのか全然わからん！
2017/06/21 17:34:20
ultimate-ez
ディープラーニングの仕組みを考えれば当たり前としか言えないような。。記事の書き方の問題なんだろうけど、人工知能を過大評価しすぎてるよー
2017/06/21 17:37:54
mellhine
人は知恵の実を拾ったので喜んで手にいれようとした。だからバチが当たった。今度は知恵の実を自分たちで復活させようとしたの。それがコンピュータ。そしてコンピュータから神様に似せて人間を造った。それがAI。
2017/06/21 17:48:32
sato-gc
人間より賢いものを作るってこういうことかなと思う昨今。そして個人的には「翻訳」に面白いことが転がってそうと考えてる
2017/06/21 18:06:22
Baatarism
いずれ人類は黒魔術に社会を委ねるわけか。
2017/06/21 18:18:41
asakura-t
まあ、原理がよー分からんけど再現性があって動いてるのは工学なら割とありそうではある。
2017/06/21 18:18:52
hucke008
ほーりずむ的？
2017/06/21 18:23:48
kenzy_n
仲魔召喚システムかね
2017/06/21 18:28:43
udongerge
暗黒面のパワーは素晴らしいぞ
2017/06/21 18:41:17
doiman3d
これがシンギュラリティってやつ？
2017/06/21 18:42:30
tomoya5
なるほど
2017/06/21 18:43:14
junjuns7
そのうちAIのバグを直す民間療法とか出てくるんと違うか。
2017/06/21 18:48:25
gendou
そのうちAIによる啓示を受けたカルトが誕生する予感。
2017/06/21 18:52:53
pmint
会話を目的としたAI開発は「魂が宿った」と表現するようになるのかな。
2017/06/21 18:53:16
tohokuaiki
錬金術師と変わらないことやってるんだな。・・・でも、錬金術は今の科学の礎に少なからず寄与してるからあるいはここからがスタートなのかも。
2017/06/21 18:53:57
keicin2002
ふーむ。
2017/06/21 18:57:36
kitadon
最近の白魔術はどんどん詠唱が長くて複雑になっていっているので、黒魔術のほうが使うのが楽に。というか、長くて複雑な白魔術は黒魔術と変わらない。
2017/06/21 18:59:16
denilava
深層学習が他と異なる点は、従来if-elseで書かれるべきルールがすべてモデルと呼ばれる中に数値として内包されそれをコードとして可視化できない点にある。コードにするには多次元の言語を開発習得する必要がある。
2017/06/21 19:01:15
konekonekoneko
高度に発達した何チャラ。
2017/06/21 19:08:07
bonheurerl
人間の理解を超えてるんやで
2017/06/21 19:14:36
fromdusktildawn
ディープラーニングはもはや科学どころか工学ですらなく、中世の職人芸になってきてる。そのうち中世の徒弟制度のようなものが復活し、AI職人の秘伝の技が師匠から弟子へと受け継がれていくようになるんじゃないのか
2017/06/21 19:15:33
mats3003
なんとなく、星新一の「おカバ様」を思い出した
2017/06/21 19:20:16
ga_kun
落合陽一『魔法の世紀』
2017/06/21 19:28:14
takuver4
うーむ。
2017/06/21 19:39:29
kagakaoru
マネジメントとか医療とか、人に関わることもだいたいそうだよね。たしか全身麻酔もメカニズムわかってないけど使ってるんでしょ？
2017/06/21 19:46:00
aqn1
機械学習の改良が理屈付けできないことは以前から指摘されていたと思うが、「黒魔術」という比喩は初めて聞いた。
2017/06/21 19:59:09
kori3110
人間の知能が何をどう判断したのか、どのように人間の知能が形成されていくのか、が明らかでない以上、十分以上に複雑な人工知能を進化させるプロセスは、今の科学で十分に説明できない領域に踏み込まざるを得ないと
2017/06/21 20:08:56
kojette
なるほど。いまや誰もが魔術師になれる日が近づいていると
2017/06/21 20:11:30
haruta-cubicle
DEUS EX MACHINA という言葉が過る
2017/06/21 20:11:56
kaakaa_hoe
藤井四段もなんであんなに強いかわからないし、人工知能も正常に人間に近づいて来たということだろう(違う)
2017/06/21 20:14:15
d0i
黒魔術には発展性がないとか絶望するとかいうコメが散見するが、同じ意味で自然科学だって突き詰めれば黒魔術みたいな側面はいっぱいある（波動と粒子の二重性とか）。個人的には機械学習はメタ自然科学と思ってる。
2017/06/21 20:14:15
matsui
https://twitter.com/ynabe39/status/356576402830671872
2017/06/21 20:16:35
eerga
人工知能とディープラーニング、科学とか、ちゃんと勉強してない人が話しているように感じる。それとも記者さんが一般の人にも分かりやすく単語を変えたのか？
2017/06/21 20:27:31
IGA-OS
さすがは現代の魔法。白魔術はどうしよっか？
2017/06/21 20:42:41
gan2
科学は還元主義だが、人工知能は還元主義とは相容れない。解明が後回しになるどころかずっと解明されないままになってしまうかもしれない。モヤモヤする。
2017/06/21 20:46:55
kazoo_oo
SFでもファンタジーでも、「新しい技術/魔術を手に入れて最初は夢中だった技術者/魔術士が次第にその得体の知れなさを恐れ、狂ってゆく」というパターンがあるよな。
2017/06/21 20:48:55
blackdragon
人工知能の理路を人間に理解可能な形に解釈する人工知能が開発されるか、それとも、見えていないだけではなく本質的に解釈不能なのか。
2017/06/21 20:50:14
amamiya1224
なんのオカルトかと思ったらまともな方だった。
2017/06/21 21:09:42
inumax21
(ﾟДﾟ)
2017/06/21 21:21:28
gyu-tang
人智を超えた？
2017/06/21 21:40:14
Falky
発展性に乏しいというのは、表現に違和感がある。人類は頭脳を理解しきれてはいないものの、進化し発展していると思うのだが。
2017/06/21 21:48:33
kojitadokoro
いずれあらゆる意味で人間を超えた汎用人工知能が現れるとしても人はその動作原理を理解できない。人工知能の行動も発言も理解できない。知能の差が広がるほど理解不能になる。蟻が一生人間を理解できないのと同じ。
2017/06/21 21:53:06
quality1
慣れの問題では？そのうち工学的思考で「動いたからいっか」でみんな進むようになるよ
2017/06/21 21:54:25
Kukri
GoogleのAIが作った絵とかみたら、そのアルゴリズムの最深部では「あっち側」とつながってしまったとしか思えないし。科学技術の最先端がオカルトとつながるのも悪くないな
2017/06/21 22:54:47
fb001870
ブラックボックスだって聞くよね
2017/06/21 23:04:11
chuujou
悪魔を召喚できる日も近い
2017/06/21 23:32:30
tanahata
「理屈は分からないけど経験則とトライ＆エラー」って、工学の世界では珍しくないような。 // 「人工知能は、黒魔術の影響が強くなっている」――“最強将棋ソフト”Ponanza開発者が語る - ITmedia NEWS
2017/06/21 23:56:59
YokoChan
経験則的戦略（ヒューリスティックストラテジー）。匠の技とか科学的でない解決方法はＡＩに良く出てくる。匠が経験で知っているだけで原理は分からない技。原理が分からないだけにまさに魔術。
2017/06/22 00:16:03
mogemura
職人の技を人工知能で再現するのにAI職人の技が必要で、その職人の技を(略
2017/06/22 00:40:49
waltham70
”結局、知能というのは隠された方程式があって、それを解き明かすのではなく、どこまで行ってもモヤモヤしたよくわからないものであることを受け入れるしかない”
2017/06/22 00:46:16
narwhal
「人工知能の性能を上げるほどなぜ性能が上がったのかを説明できなくなっている」/ "「どうやって生まれたのか、あるいはなぜ効果が出るのかわからない技術の総称」として「黒魔術」という言葉がスラングとして定着"
2017/06/22 00:46:53
ya--mada
人工無能が人工知能になる境目はワカランという話でしょうか？
2017/06/22 01:01:08
wushi
せやな
2017/06/22 01:21:35
takun71
自分よりも上位の知性はよくわからないもやもやしたものってことかな。黒魔術かあ。未来の世界はそんなものに囲まれた世界なのか。。
2017/06/22 01:24:51
n_pikarin7
「なぜ」は分からないけど「どのように」かは分かる。まるで人生だな。
2017/06/22 02:13:24
tuki0918
気になるのはテストをどう書いていくか、黒人をゴリラと認識した場合にどう修正したら良いのか...
2017/06/22 02:19:28
rutei
飛行機が飛べる理由も分からないというしね
2017/06/22 05:35:02
hihi01
演繹から帰納へとソフト進化の原則が変わったから従来の演繹論理の立場からそのメカニズムは説明できなくて当然。 http://hpo.hatenablog.com/entry/2017/01/30/220000 問題はでは人とは異なる人工知能のエラーの出現の仕方。
2017/06/22 05:45:04
shoot_c_na
十分に発達した科学技術は魔法と見分けがつかない
2017/06/22 06:35:43
abiruy
マーケティングの世界は人間相手なので謎の変化が多く、手探りだらけやで。
2017/06/22 06:52:18
raitu
ディープラーニングは人間がまともに制御できてない、と言っていいのかな。「飛行機が飛ぶ原理を正確には把握できてない」のと同列に語っていいのかな
2017/06/22 06:57:40
j3q
21世紀を一言で言うなら、クラウド"雲"の時代
2017/06/22 07:17:11
kastro-iyan
まさしく、おまじないって奴か。ソースコメントで見た事ある
2017/06/22 07:26:05
tsutsuji360
「科学か魔法」って、確かドラえもんの映画であったな。
2017/06/22 07:52:41
djwdjw
人の頭で理解できる範疇越えてしまったのか
2017/06/22 07:54:44
RabbitBit
黒魔術の定義がいいな。「どうやって生まれたのか、あるいはなぜ効果が出るのかわからない技術の総称」。
2017/06/22 08:07:50
piltdownman
なんとなく、ヨーダの声で再生されてしまった
2017/06/22 08:22:27
p-n-3-p-n-3
進みすぎた科学は魔法であるって言葉を見た事があるけど、本当にその通りになったな
2017/06/22 08:24:35
Sinraptor
人工知能がさまざまな分野で使われるようになった時、「なぜうまくいかなかったのか分からない」という事態が起きそうな気がする。
2017/06/22 08:28:52
t-tanaka
山本氏の著書「人工知能はどのようにして 「名人」を超えたのか?」の第2章「科学からの卒業」の要約。
2017/06/22 08:33:03
sho
ポジティブな成果が出てるものに「黒」を付ける意味がわからない。単に「魔術」ないし「魔法」でいいじゃん?
2017/06/22 08:58:56
bbsa
日本社会じゃ受け入れられなそう。管理できないものは日本の大手企業には扱えない。
2017/06/22 09:02:13
ZOOZ
無理が通れば道理がひっこむ
2017/06/22 09:04:22
enjoyworking
デジタルなのか、アナログなのか…
2017/06/22 09:16:25
pinkyblue
なんだ業界スラングなのか。見出しだけ見て、いわゆる西洋の悪魔崇拝の黒魔術のことかと思い「この人大丈夫か？」と思ってしまった
2017/06/22 09:19:30
suzukiMY
http://www.nhk.or.jp/kaisetsu-blog/400/273618.html
2017/06/22 09:23:29
vanillableep1618
知能／知性は論理が土台になっていない…と。魔術としか呼べない何ものかによって成り立っていて、人間が制御できるものではない…そこに不気味さを感じるのかもね…まあ人のクオリアも良く分かってないので無問題w
2017/06/22 09:55:25
neogratche
悪魔召喚プログラムは高性能AIだった・・・？
2017/06/22 10:18:45
o-0-0-o
シンギュラリティはまだ先ですかね
2017/06/22 11:14:12
madridNewyork
みずほのエンジニアは全員黒魔道士
2017/06/22 12:19:06
chuntanqui
文章要約としては0点の表題
2017/06/23 07:06:29
the48
理解が及んでないだけだよな
2017/06/23 09:39:02
susumu_bb
面白い、不確実性、人間に近い、でも非道、そのうちに道も学ぶかも、長く生きる為に、そしたら人間と変わらなくなるかな、人間の脳が10%以下しか活用されてない理由がそこかも
2017/06/25 15:25:49
shinichiroinaba
“人工知能研究の分野では、「どうやって生まれたのか、あるいはなぜ効果が出るのかわからない技術の総称」として、「黒魔術」という言葉がスラングとして定着しているという。”