2017/06/20 21:44:54
daiouoka
山本一成氏のコラム? 的なやつ。 黒魔術っていうスラングがあるのか。 #shogi #将棋
2017/06/20 23:39:00
filinion
「プログラミング 黒魔術」でググると色々出てくるが、プログラミング分野での「黒魔術」というのは、AIとはまた違った意味で使われている模様(「呪術的プログラミング」はまたそれとも違う意味だし)
2017/06/21 00:09:04
c_shiika
そのうちAIを作ることに特化したAIが出てきそうだな
2017/06/21 00:23:30
izmii
こうしたある種楽観的で暖かみのある科学感を今後とも支持していきたい
2017/06/21 02:27:34
kash06
実際に動いているが、研究者当人であっても、なぜ、そのように動いているかは経験的にしか理解できない。すごいな人工知能。いわばワタルと龍神丸のような状態だ!(多分、全く違う
2017/06/21 02:59:03
qinmu
将棋プログラマー山本一成氏。
2017/06/21 03:46:05
turanukimaru
科学、つまり「物事を分解し、細部の構造を理解していけば、全体を理解できる」はアリストテレス的、いわば「Aの世界」。そうでない黒魔術は「非A」。さて「非Aの世界」は到来するのか?
2017/06/21 05:19:49
zgmf-x20a
さながら私も黒魔術使いか…
2017/06/21 05:41:29
globalizer
人工知能は意味を考えずにブラックボックスを構築する方法だからなぁ・・
2017/06/21 05:46:52
tettu0402
「分解して細部の構造を100%理解する」これまでの科学観とは異なり、ぶっちゃけよくわからんまま手探りでやっている。だけどそれは社会を良くする力になると信じてる、と。いいなあ。この姿勢は支持したい。
2017/06/21 05:50:08
kyogoku174
何故かロボットアニメのエヴァンゲリオンを思い出してしまった。
2017/06/21 06:27:34
onionchang
面白い
2017/06/21 06:50:11
kei_1010
還元主義だけを科学だと定義してるのが間違いかもね。それにしても、AIは黒魔術というより、神託みたいだな。温暖化対策を尋ねたら、煮干しを神棚に飾れ、とか言われたら面白いのに。バグでも誰にもわからない。
2017/06/21 07:21:39
yuichi0613
"知能というのは隠された方程式があって、それを解き明かすのではなく、どこまで行ってもモヤモヤしたよくわからないものであることを受け入れるしかない —— それが今の人工知能の研究者たち・エンジニア達の実感"
2017/06/21 07:29:05
deadwoodman
レヴィ=ストロースの「ブリコラージュ(間に合わせの修繕)」を思い出した。http://www.cscd.osaka-u.ac.jp/user/rosaldo/150702Bricolage.html
2017/06/21 07:29:43
kenchan3
科学ならそうだが工学ならよくあること。
2017/06/21 07:35:27
iroirogimon
AIの知能については、そのうちAIに説明してもらいたい。
2017/06/21 07:48:07
fujixe
脳の要素であるニューロンに模した単純な関数を算術的に繋ぎ合わせて、より複雑な関数にフィッティングさせるのが今のニューラルネットワーク。で、「知能」は関数フィッティングに要素還元できるのかな?
2017/06/21 07:53:11
htbman
中身の詳細はわからないだろうけど、ばっちり自前で用意した学習データがあり、それと関係した結果が得られているのだから、魔術とか言うのは誇大広告でしょ
2017/06/21 08:01:03
zakkie
AIで作られた工業製品の品質保証はできるんだろうか?
2017/06/21 08:02:53
publicphysics
何の話かと思ったけどこの人が言うと聞く気になる。なるほどなー
2017/06/21 08:09:10
tach
「人工知能の性能を上げるほどなぜ性能が上がったのかを説明できなくなっている」人工知能は科学でなく工学。工学だからといって科学だとは限らず、科学でないからといって役に立たないとは限らない
2017/06/21 08:14:46
Panthera_uncia
論説かくあるべし
2017/06/21 08:18:54
prozorec
なぜ「黒」魔術なのだろうか?邪悪なものという認識なのか?
2017/06/21 08:21:20
t-sat
"ネガティブな要素をうまくコントロールすれば、社会はきっとよい方向に向かうと願い、信じています" 黒魔術化を大いに嫌い恐れるべき結論に読めるんだけどなあ…。
2017/06/21 08:23:00
Taqm
複雑系の収束がなんで起こるのかわからない感じなのかな
2017/06/21 08:28:56
garage-kid
99
2017/06/21 08:29:23
Red-Comet
人間にもうまく理解できないブラックボックスはいずれAIが解き明かしそう。いまにAIがAIを作るようになるのかな。
2017/06/21 08:34:46
tanimiyan
“人工知能の性能を上げるほど、なぜ性能が上がったのかを説明できなくなっているのです”そうなの
2017/06/21 08:34:48
dsb
こんな最新の科学技術の開発にも職人芸みたいな部分があるんですね。この論説を曲解して受け取り「人工知能は既に人知を超えていて、このままだと暴走する!」と騒ぐ人も出てきそうな…。
2017/06/21 08:35:50
b-zou3
ライトノベルのタイトルみたいですね。しかもそこそこ売れそうな予感が。
2017/06/21 08:38:44
siowulf
「黒魔術がスラングとして定着している」
2017/06/21 08:47:52
d346prt
"理解の及ばない範囲にいてくれなければならないのです"と"ネガティブな要素をうまくコントロールすれば"を両立させるの大変だろうな。
2017/06/21 08:53:33
yuiseki
いい話
2017/06/21 08:53:33
bigburn
将棋AI「PONANZA」作者の解説。進化を極めたAIの改良が実験と経験を重ねる職人的なやり方(黒魔術)しか通用しなくなり、科学の還元主義から逸脱してる話が面白い
2017/06/21 08:53:36
yondakakuyo
黒魔術というスラング。
2017/06/21 09:04:05
Gelsy
センター試験の文章題に出そう。
2017/06/21 09:05:17
sai0ias
人間の感覚によってプログラミング(調整)されてるのであれば黒魔術化するのも納得か…全部科学的に解明しようとするとその"感覚"から解析しないといけなくなるのでは。
2017/06/21 09:05:37
tt_clown
C++ 辺りの「プリプロセッサ(マクロ)を乱用しててまじふぁっくなプログラムだぜ」みたいな意味での「黒魔術」とはちょっとニュアンスが違った。
2017/06/21 09:08:17
morobitokozou
物語の創作ではよく「作者は自分より賢いキャラクターを書けない」ということが言われるんだけどAIはそこを乗り越えちゃうのか。
2017/06/21 09:10:15
meeakat
物理学者が神の存在を信じ始める、という話にも通じるような。理解できないからこそ面白い。
2017/06/21 09:14:09
yetch
哲学の問題である「意識とはどこにあるのか?」につながっている気がする。答え:意識は黒魔術で作ります
2017/06/21 09:20:32
KoshianX
人間の脳味噌みたいなもん作ってみたら人間の脳味噌っぽく動いてるってことだから、人間理解へ一歩進んでるとも思うんだよなあ。楽しみだわ〜。
2017/06/21 09:22:06
ustar
良い
2017/06/21 09:31:24
obsv
医学分野でも作用機序のわからない薬とかあるようだし、実用と理解が同期しないのは今に始まったことではないが、AI研究で生物知能の解明につながるかと期待している人間としては非常にモヤモヤした気持ちになる。
2017/06/21 09:32:44
manimoto
42
2017/06/21 09:34:47
k_oniisan
AI内で情報処理の相互作用が複雑系と化すため、結果がそうなる理由は人間には理解不能というお話。プチ・シンギュラリティだよね。この人の本、面白いよ。
2017/06/21 09:38:51
h5dhn9k
山本一成氏 NHKの視点・論点に出ててのか~~!!! 内容はケイクスの連載の焼き直しだけど生で見たかったな……。
2017/06/21 09:38:59
doroyamada
人が理解できるような結果や経過じゃないからこそ人工知能の意味があるんでは。
2017/06/21 09:56:32
for-g
人にはできないことができる人工知能が、今人類の抱えている難問を解く手助けをしてくれるようになっていくのでしょうか。楽しみでもあり、少し怖くもあります。
2017/06/21 09:59:44
yoko-hirom
将棋ならば黒魔術でも困らない。勝敗が明確に判断出来る上に試行を繰り返すコストが低いから。地球温暖化対策などは黒魔術では困る。
2017/06/21 10:01:43
perl-o-pal
#include <stdio.h>
2017/06/21 10:05:53
eirun
人間がAIを作る場合黒魔術はこのままでもいいんだけど、AIがAIをつくりはじめると黒魔術領域が制御不能になりそうだとはおもう。
2017/06/21 10:06:26
kyousuke104
将棋は相手の手の内を読みあう勝負なので、思いもよらない手が相手の読みを外して有利になる場合も多いかも。/自然科学では無く工学の世界ではよくあることかも。
2017/06/21 10:08:29
bn2islander
機械がより人間に近づいて行く訳か…… / でも人間に近づけば近づくほど、重要なところでポカやらかしそうね(おカバさまの先見性たるや)
2017/06/21 10:12:43
otihateten3510
計算知能あるあるだよね、コントロールできない。個人的には本丸のAIはこの方向性じゃ無理だと思うんだよ。精度を求めるような計算知能には良いんだけど/黒魔術のAIに黒魔術は説明できない
2017/06/21 10:13:32
astadforg
AIなのに、勘で動くのか。愛着が湧くような、恐いような。。
2017/06/21 10:14:47
tsutsumi154
なんで黒なん
2017/06/21 10:15:31
trollvinter
AIって一方的に悪者のように扱われることが多いけど、すごく面白いと思う
2017/06/21 10:17:34
peperon_brain
これはいい論説。非IT系の人に説明するのに使わせてもらいたい。
2017/06/21 10:19:15
myogab
文字通りの試行錯誤。
2017/06/21 10:19:17
mobile_neko
チャンピオンに連載しているAIの遺電子がこんな世界観だったな
2017/06/21 10:23:50
trashtoy
七五調っぽいタイトルと, 使われているワードから漂うラノベ感
2017/06/21 10:24:28
ogawa0071
人工知能は科学ではなく工学になるっていうのは、2015年ぐらいから言われてた話じゃなかったっけ?
2017/06/21 10:25:59
ryun_ryun
あのさぁ、解説するならちゃんと人工知能の定義を明確にしようよ。ディープラーニングは汎用AIではないんだから、これじゃ勘違いする人多数出るぞ。
2017/06/21 10:30:31
bml
まぁ黒魔術みたいに悪いことに使われないで発展してほしいと。錬金術は無理でよかったけど、人工知能は黒いこと平気でできそうだしな。
2017/06/21 10:36:27
ryusanyou
//何故か動くので触らないこと
2017/06/21 10:36:41
fuktommy
ソフトウェア開発界隈の「黒魔術」と意味が違うな。 「人工知能と黒魔術」(視点・論点)
2017/06/21 10:38:10
hiby
ラノベタイトル感ある
2017/06/21 10:45:29
good2nd
「こうした解決困難な問題も、人工知能なら一気に解決してくれると私は確信」って結構マッドなこと言ってる感じがするよなー、それはそれでいいんだけども/でも舵取りが難しくなるまでそんなに時間なさそう。
2017/06/21 10:46:06
fujibay1975
とはいえ人間の知能なんかよりはるかに制御しやすいはず。
2017/06/21 10:48:09
yk4192
“結局、知能というのは隠された方程式があって、それを解き明かすのではなく、どこまで行ってもモヤモヤしたよくわからないものであることを受け入れるしかない —— ”面白い。還元主義だけでは理解しきれないAI
2017/06/21 10:50:11
himakao
結果の分かる領域ならいいけども、未知を求めることはこの方法だと難しそうだ
2017/06/21 11:18:53
tsucchi1022
面白かった
2017/06/21 11:21:56
rain-tree
みた。
2017/06/21 11:24:37
stealthinu
『人工知能の黒魔術』『結局、知能というのは隠された方程式があって、それを解き明かすのではなく、どこまで行ってもモヤモヤしたよくわからないものであることを受け入れるしかない』すごく的確な表現だと思う。
2017/06/21 11:31:42
tikani_nemuru_M
ブコメですでに指摘されているが、「黒魔術」はエンジニアリングでは普通にあることだし、科学の見方が還元主義一辺倒になっているように思える。科学は根本的に帰納的な学問ですからね。
2017/06/21 11:33:17
damehobbyanimelike-913
AIが碁石から炎を発する日も近い。(違
2017/06/21 11:34:30
htnmiki
飛行機が飛ぶ原理は解明されてないみたいな話?(もう解明されてるんだっけ。そもそもガセなんだっけ。)
2017/06/21 11:36:17
sds-page
経験則で得られた近似式みたいな話か
2017/06/21 11:39:50
midastouch
今更感。だから個人的には現在のAI技術による完全自動運転懐疑派なのだけど、米国トヨタはそうならない解を出すと宣言してるから期待している。
2017/06/21 11:52:38
aiaki
クロ魔術的なものでも理解は出来ると思ってたけど、DL系は盲無理なのかなぁ。
2017/06/21 11:54:09
arigamin
これ大丈夫?スカイネット案件じゃない?
2017/06/21 11:56:48
kazoo_keeper
それは、シェフが鍋の中の化学反応をすべて理解してるわけではないのと同じでしょ?シェフよりもまだマシなのは、少なくとも学習アルゴリズム(=鍋の中の物理法則)を設計したのが人間だということ。
2017/06/21 12:00:55
kazatsuyu
黒魔術ってC++テンプレートプログラミングに対するスラングかと思っていた
2017/06/21 12:01:56
u-glena
すごい面白い
2017/06/21 12:08:24
fujii_yuji
面白い。たしかに黒魔術というとブラックボックス的だけど、人工知能は工学的なものというブコメで納得
2017/06/21 12:10:03
akrlev
とても面白い。行き過ぎた科学は魔術に何たら…ってそこかしこで聞くのが現実でも起きてるのか
2017/06/21 12:10:22
xevra
人間は自らの脳の事を全く解明できていない。だから、AIが良く分からない物になって行っているのは正解なのだ。/AIの危険性は当面AIを悪用する者の犯罪行為にある。ランサムウェアをAIで高度化した物を考えればいい
2017/06/21 12:10:38
REV
疫学者:「どうやって生まれたのか、あるいはなぜ効果が出るのか、それ、そんなに重要なのか?」
2017/06/21 12:10:45
nebos
「Ponanzaはすでに理論や理屈だけではわからない部分が沢山でてきています。」いい意味でぞくぞくする。
2017/06/21 12:16:16
xxix29
人間を越える知能を人間が作れるか的な。
2017/06/21 12:16:28
ardarim
十分に発達した人工知能は黒魔術と見分けが付かない
2017/06/21 12:18:38
yooks
AIがなぜ上手く動くのか完全に説明できないと。人の知能もメカニズムは完全に分からないけど、それぞれの知見判断が妥当か適切かをその都度判断している。AIもその輪に加えていくしかないんだろうなあ。
2017/06/21 12:20:06
tomono-blog
人工知能の開発はまさしく秘伝のタレ
2017/06/21 12:20:45
erukiti
深層学習が脳の直感力を体現した手法だからってだけな気はするけどね。直感力だけで精度を出そうとするから職人芸&意味不明になるわけだし。別のアプローチ(gcForestとか)を組み合わせればまだ話は変わってきそう
2017/06/21 12:23:06
momopopohate
工学とはうまいこと言うな。
2017/06/21 12:23:09
minoton
科学者の考えとしてはまったく問題ないと思うけど、実際に人間以外の知性を社会システムに組み込む際には大きな問題だよねえ。責任、どうする?
2017/06/21 12:24:50
Assume
残念ながら学校のせんせぇですら理解していない常識なのか、人選が下手なのかの二択。 #NHK_news >自動運転 ≠ #弱い人工知能
2017/06/21 12:24:57
yachimon
まさに工学!理学部の人が発狂するやつ!
2017/06/21 12:27:10
memoyashi
人工知能を作るためのロジックは明確だが、ロジックを動かすモデル(パラメータの集合)は理解不可能という感じで、ロジックとモデルを分けて考えたほうがいいのかもしれない
2017/06/21 12:27:20
qt_fb
ゴーレムみたい
2017/06/21 12:28:08
anguilla
すごく面白い話。
2017/06/21 12:28:49
hopperjp
引用「要素を切り分けて個別に理解していくという、還元主義という伝統的な科学の思想とは相容れない…どこまで行ってもモヤモヤしたよくわからないものであることを受け入れるしかない —— それが…実感なのです」
2017/06/21 12:31:44
gabill
そんな得体の知れない黒魔術に10年以上前から莫大な額を投資して利益をちゃんと上げてるGoogleの先見性と度胸は凄い。 http://memo7.sblo.jp/article/25170459.html
2017/06/21 12:34:20
Cru
ポナンザは旧来型の機械学習だと思うので評価関数は人が与えて関数の係数くらいから機械にやらせてるんじゃないかと思うが(それでも取り得る状態は広大)、ディープラーニング以降は評価手法すら機械に任せてしまう
2017/06/21 12:34:46
domimimisoso
電子回路の抵抗やコンデンサの組み合わせもそんな感じだよ。試行錯誤してうまくいったやつが製品になるけど、なぜその組み合わせでうまくいくのか、イマイチ明確に語れない
2017/06/21 12:35:03
chuntanqui
計算機が還元主義から解き放たれる、というマイルストーンに立ち会えたのはとても幸せなことだとおもう
2017/06/21 12:39:44
fuyu77
面白い文章。"Ponanzaについて言えば、私は世界でいちばんPonanzaのことをわかっています。でも、なぜPonanzaが強いのかについて、私は100%説明することはできません"
2017/06/21 12:41:59
yuki_2021
そう囁くゴースト、なんだろうか?
2017/06/21 12:46:09
kati_be
おもしろい。
2017/06/21 12:46:53
noaim
SFだなあ
2017/06/21 12:47:20
egamiday2009
科学と技術は違うのだなあ。「人工知能の性能を上げるほど、なぜ性能が上がったのかを説明できなくなっている」
2017/06/21 12:47:30
vmc
十分に発達した科学技術は魔法と見分けが付かない、といった格言をふと思い出した。
2017/06/21 12:48:09
kazumi_wakatsu
「我々は何を創り出そうとしているのか―――」これ最終的に世界滅ぶやつなのでは?将棋で。
2017/06/21 12:52:04
kzymtn
還元主義が伝統とか言うのなんか昭和っぽくて古臭いなあって思う。
2017/06/21 12:54:34
naqtn
"多くの人工知能の黒魔術はまだ技術的に安定しておらず"いつか使いたいフレーズ
2017/06/21 13:00:01
nilab
「人工知能と黒魔術」(視点・論点) | 視点・論点 | NHK 解説委員室 | 解説アーカイブス
2017/06/21 13:02:29
YaSuYuKi
燃焼の原理が現代の認識に近づいたのは18世紀後半だが、それ以前から火は使われていたわけで、AIに対しても同様に向き合うしかない。原理を正確に認識する努力はもちろん不可欠
2017/06/21 13:05:54
tetsuya_m
黒魔術じゃなくて普通に魔法/魔術でよくね? ハリーポッターに代表される魔法ものって大抵魔法使いでもその魔法の機序を理解して使ってる訳ではなく本に書かれた呪文をなぞって唱えるだけだったりするし
2017/06/21 13:06:32
anus3710223
『華氏451』の世界が目前に/ソフト問題に揺れた将棋界を自分たちの世界と切り離して考えない方が良いだろう。将棋界の動乱はそう遠くない未来に私たちが経験することになるだろうから。
2017/06/21 13:12:06
ludwig125
「なぜかこれを削除すると動かないのでそのままにしておく」っていうコードは仕事しててたまに見ますね
2017/06/21 13:23:14
shantihtown
“「黒魔術」は人工知能の世界でもスラングとして定着しており、どうやって生まれたのか、あるいはなぜ効果が出るのかわからない技術の総称となっている” #AI
2017/06/21 13:23:40
daichiman
AIは性能が上がるほど、なぜ性能があがったのかの説明ができなくなる。 どうやって生まれたのか、あるいはなぜ効果が出るのかわからない技術 → 黒魔術 って話 人類はなにを召喚しようとしてるんでしょうね。
2017/06/21 13:35:54
akyt
シンギュラリティ感あるね。よい。
2017/06/21 13:44:17
TrinityT
「理由はわからないけど有用」ってのは東洋医学とかにも通じる話だな。面白い。
2017/06/21 13:48:46
timetrain
人体だってどうやって動いているのかよくわかってないので、その人間に勝とうという人工知能が黒魔術なのはある種納得
2017/06/21 13:52:17
kiichi55
還元主義だけが科学じゃないとはいうけれど、ここまで扱っている変数が人間の認知を軽く超えちゃっていながら、成立するので、魔術とかわらないよなと。
2017/06/21 14:16:00
Insite
還元主義が全能ではないことはゲーデルの頃から示されていたが、AIの発展により具現化してきた。
2017/06/21 14:19:28
nakakzs
よくSFでは人工知能が「あ、じゃあ人間廃絶するのは一番合理的じゃん」ということで、ジェノサイド(これはレイフォース用語)開始するとかあるけど、人的干渉にしても自然学習にしてもその可能性はゼロじゃないな。
2017/06/21 14:37:52
Mofuyuki
理解できないけどいいものになるはず。信じることしかできない。ということでしょうか。
2017/06/21 14:43:40
mEGGrim
観察される事象が先行して理解(理論)が追いつかないのは科学にはよくあることでは&結びの文が観念的すぎて滅茶苦茶好きなように読まれそうだな
2017/06/21 14:47:01
unamuhiduki12
将棋AIのPonanza開発者の全文。AIが黒魔術化=開発者にとってもブラックボックス化してるってこと
2017/06/21 14:55:27
goldhead
犬が嗅覚で癌患者を見つけてもいいわけで。
2017/06/21 14:58:20
ROYGB
今は将棋という限定されたゲームだけど、将来的にはもっと一般的な知能において製作者を超える人工知能が出てきたりするのかなあ。
2017/06/21 15:16:42
tanayuki00
要素に還元できない。「結局、知能というのは隠された方程式があって、それを解き明かすのではなく、どこまで行ってもモヤモヤしたよくわからないものであることを受け入れるしかない」
2017/06/21 15:20:09
dekigawarui
まんま女神転生の世界観だ。
2017/06/21 15:24:18
elm200
深層学習を学ぶと実感として分かる。世界はもともと極めて複雑なもので、人間の脳で理解し尽くせると考えるほうが実は傲慢なのかもしれない。機械学習のほうが愚直に世界そのものを捉えているのかも。
2017/06/21 15:27:11
Byucky
えーあいがえーわい
2017/06/21 15:32:17
toronei
「Ponanza」は10年前は8枚落ちのアマ5段に勝てなかったと。
2017/06/21 15:34:45
akihiko810
「Ponanza」開発者山本 十年前は8枚落ちでも勝てるほど弱かったの?わずか十年での進化か…
2017/06/21 15:41:30
IkaMaru
シンギュラリティを特別視する言説が胡散臭いのは、そうしたことが既に度々起こっていて、にも関わらずそれによって人類社会が揺さぶられたことなど特にないのを無視してること
2017/06/21 15:50:43
blueboy
科学の世界ですら、よくあることだ。「実験結果」が出たあとで、「理論的解明」がなされるのは、日常茶飯事。物理学の歴史はまさにその通りだよ。理論的予想のあとで新たな実験結果が出ることもあるが、多くはない。
2017/06/21 15:51:26
kotetsu306
将棋だからこれでいいけど、例えばAI自動運転車が事故を起こしたとき「何故そう判断したのか?」の分析は必要。そこが黒魔術のままだと、再発防止も改善もできない
2017/06/21 15:54:58
richard_raw
「人工知能の性能を上げるほど、なぜ性能が上がったのかを説明できなくなっているのです。」古典的なニューラルネットでもこうなのでディープラーニングとかもう妖精さんですよ。(何
2017/06/21 15:58:30
natu3kan
工業製品や製薬の分野ですら、自分の担当する工程や部品以外の部分は自分で製作不可能で、効能や性質を理解してるけど、他社から部品として購入して使ってるに過ぎないしなあ
2017/06/21 16:06:54
kwms
“今の人工知能というものはプログラマーの直感や予想された性能を逸脱することが求められています”
2017/06/21 16:13:43
ms6145vv
なぜ動いてるか分からないということは、作った人間にもデバッグできないということ。この点がその他のプログラムと違い、非常にリスキー。
2017/06/21 16:16:18
JA8XOH
これはつまり、人工知能が本物の知能に近付いている、ということではなかろうか。
2017/06/21 16:50:44
soret
全て設計通りならば、それはAIではない気がする
2017/06/21 16:54:12
khtokage
この話をもっと広げて分かりやすく解説した「人工知能はどのようにして 『名人』を超えたのか?」(http://www.amazon.co.jp/dp/4478102546)おすすめ。
2017/06/21 16:55:34
wdnsdy
とある症状の人に飲ませたらその症状が治まるんだけど、何故その成分が症状を治めるという効果を及ぼすのかよく分かってないという薬もあると聞くし、世の中にはそういう物もあるよなって
2017/06/21 16:55:50
moccos_info
種苗や畜産の品種改良みたいだな。結果で選別しただけで、遺伝子まで完全に解明されているわけではない (でも役に立つ)
2017/06/21 17:09:55
Sucker
エンジニアには黒魔術でも善いことに使われるなら非エンジニアにとっては白魔術になるのでは(本文とは関係無い)
2017/06/21 17:25:17
asahiko
Ponanzaの作者さん、説明の上手な人だ。/AIは工学だ。科学的な還元主義がなくても工学は成立する。ここ数世紀の大成功から両者は絡み合うとされてきたけど、そういう場合の方が珍しいのかもしれないなあ。
2017/06/21 17:29:23
bbbtttbbb
接着剤が何故くっつくのか科学的に判明していない、とか
2017/06/21 17:37:22
kurakano
遊びでうまくいかなかった改良を組み合わせると奇跡が起こった的展開が残されてそうなお話。積み上げる方で精一杯というか名人に勝ってるから十分か。
2017/06/21 17:41:52
ton-boo
次世代の囲碁将棋プログラムには人間様にわかるように解説する機能をつけることを目指してほしい
2017/06/21 17:48:02
novak777
人工知能に倫理を教える向きがあるけれど、未来では人間が人工知能に倫理的な判断を仰ぐようになるのかもしれない。
2017/06/21 18:12:57
kaerudayo
スカイネットによる審判の日も近いなw
2017/06/21 19:34:47
kabutomutsu
この黒魔術の写真がなんなのか気になって本文読めてない。探す。
2017/06/21 19:37:48
Mash
とある魔術の人工知能
2017/06/21 19:49:33
simabuta
とはいえAIがAIを作り出し、そのAIがまたAIをつくりだしたらちょと怖いよね。。
2017/06/21 20:16:37
gmym
講義でもDNNの中間層に関しては「黒魔術みたいなもん」って言ってたし、人工知能研究のコミュニティでは黒魔術という単語が流行ってるんの?
2017/06/21 20:21:01
zxcvdayo
単にNNのパラメータの話じゃないと思う。山本氏はよく「LazySMP」に関して黒魔術だって述べてる http://diamond.jp/articles/-/127697
2017/06/21 21:42:59
naggg
そうなのよー
2017/06/21 22:25:46
blueribbon
「人工知能の性能を上げるほど、なぜ性能が上がったのかを説明できなくなっているのです。…結局、知能というのは…どこまで行ってもモヤモヤしたよくわからないものであることを受け入れるしかない」
2017/06/22 03:07:27
sisya
面白い。ただ、「たまたまうまくいった改良を集める結果」を集めているといえば薬についても近いものがあるので、結局人間がすべてを理解して運用することはできないのかもしれない。
2017/06/22 05:51:14
SasakiTakahiro
ネガティブな要素をうまくコントロールすれば、社会はきっとよい方向に向かう。
2017/06/22 06:36:25
ueshin
人間がつくったものなのに、当の人間にはなぜそれがうまくいっているかわからない。しかも推論は永遠に試行錯誤。それが世界というものではないの。
2017/06/22 07:57:14
raitu
“なぜPonanzaが強いのかについて、私は100%説明することはできません。今のPonanzaは実験的・経験的にしか強くすることができません”
2017/06/22 08:44:19
kamehi
プログラムと魔術というとSICPを思い浮かべるが、AIにおける魔術というのは意味(というかレイヤというか)が違うようだ。あと、「魔術」でなくて「黒魔術」としているのには、何かの含意があるのだろうか。
2017/06/22 08:55:45
navagraha
「プログラムに埋め込まれている数値がどうしてその数値でいいのか、あるいはどうしてその組み合わせが有効なのか、そういったことを真の意味で理解していない」
2017/06/22 09:22:06
suzukiMY
『この黒魔術は人工知能の世界でもスラングとして定着しており、どうやって生まれたのか、あるいはなぜ効果が出るのかわからない技術の総称。しかし知能を理解するにはこの還元主義的な考えではうまくいきません。』
2017/06/22 11:42:38
paravola
はっきりとお伝えしておきたいのは、私が黒魔術を嫌っていたり、恐れているわけではないということです。なぜならPonanzaは、私よりもはるかに強い将棋のプロ棋士たちを相手に戦うために設計されているからです
2017/06/22 12:58:32
tana_bata
神託だよねぇ
2017/06/22 13:17:04
ume-y
「人工知能の性能を上げるほど、なぜ性能が上がったのかを説明できなくなっているのです」
2017/06/22 16:45:07
axkotomum
面白い
2017/06/22 21:30:12
Nean
ヒリスが似たような話をどこかでしていたような。
2017/06/22 23:33:25
adsty
「黒魔術」は人工知能の世界でもスラングとして定着しているという。
2017/06/23 14:19:42
Labyrinthos
>「黒魔術」(という言葉)は人工知能の世界で、どうやって生まれたのか、あるいはなぜ効果が出るのかわからない技術の総称となっている >人工知能はプログラマーの直感や予想された性能を逸脱することが求められている
2017/06/23 22:53:15
keint
CNNの学習した結果の解釈が難しいというやつか