2019/09/05 10:13
gimonfu_usr
　（　"該当部位を目で読影しても何をもって癌と判断したか分からない" 　いうところのビックデータかな ）
2019/09/05 10:18
REV
AIの「カン」が人間の英知を凌駕するってアレか
2019/09/05 10:26
kenchan3
AI読影ってもう実用化されてた？
2019/09/05 10:30
kingate
そろそろ「読み間違い」するAIが出てきそうだ(病理で癌じゃなかった)。
2019/09/05 10:32
mobits
可能性警察です。
2019/09/05 10:33
Galaxy42
職人技が置換されるってことかな。じじつであれば。
2019/09/05 10:35
rti7743
職人の勘というやつだろう。ただ、これからはAIがなぜそう判断したのか、しなかったのかを可視化して人間がAIを理解する技術がどんどん開発されていくと思う。
2019/09/05 10:53
mouki0911
高度専門技術ほどAIの恐怖におびえる
2019/09/05 10:59
mohri
おもしろい。そういうことあるんかな
2019/09/05 11:07
mobanama
"AIはそのアルゴリズムは全てブラックボックスなので結果以外のフィードバックはなく、初めて専門医としてAIに脅威を感じたと言ってて、なるほどなと思った"
2019/09/05 11:24
el-condor
まだまだ説明に難のあるAIは、説明責任が大きくなる分野、例えば政策決定などでは適用が難しい、という話とも読めるかな
2019/09/05 11:36
haruten
人間がやると可視化しろ言語化しろ手順化しろと言われるやつだ。AIならやらなくて良いと言うなら、そこがシンギュラリティになるんじゃないの
2019/09/05 11:37
napsucks
細胞検査士がいよいよクビになるのか・・・。
2019/09/05 11:42
NOV1975
AIの「カン」を人間にフィードバックして知見を深めるのが次のステップだとは思うけど、判断基準がわからなくてフィードバックできない、というのはこの手のナレッジ系だとAI屋の陰謀に思えてしまうな
2019/09/05 11:46
pmonty
嘘だと思う。観測範囲内では誤診リスクから企業は診断に手を出してない。FDAも慎重だと聞く／画像診断AIについては半信半疑。人工知能の最大の成功はGoogle検索だと思うけど、その程度の精度しか出ないんじゃないか
2019/09/05 11:46
uunfo
目の解像度とダイナミックレンジでは認識できない差異が効いてるのかな
2019/09/05 11:52
tom201410
将棋の棋士もAIで研究しまくっているが、何故そういう手を指すと良くなるかを解釈出来ない事が増えてるみたい。どこの業界も同じだね。
2019/09/05 11:53
dot
AIに膨大な医学論文読み込ませて効果的な治療法を探すという研究もあり、医療分野のAI活用は期待が大きい。ただ最終的な決定を下し責任を取るという医師の仕事は当面無くならないかと。
2019/09/05 11:54
Insite
画像だけみて病名をあてるだけなら、コンピュータービジョンに負けるのも当然。それ以上の仕事をしないと。
2019/09/05 11:56
Gondwana
alphagoなど囲碁ソフトもそうだけど、ディープラーニングでAIが得た知見はフィードバックがほぼ不可能。局所的なシンギュラリティと言えるかもしれない。
2019/09/05 11:59
htnmiki
ほえ〜
2019/09/05 12:09
kotetsu306
ブラックボックスでない "Explainable AI" も研究されてるけど、実用化には遠そうだねぇ
2019/09/05 12:09
srgy
2ツイートのTogetterまとめって初めて見た
2019/09/05 12:11
kouyan_h
こういうの割とAIで作りやすそうなのだが、いかんせん薬事との絡みがでるから手を出しにくい
2019/09/05 12:22
rusemoly
まとめの本文これで終わり？なお文中にある「人相が悪い」とは病理や画像診断のドクターがたまに使う表現で、腫瘍の見た目が悪性っぽい場合を指す。「顔つきが悪い」とも。
2019/09/05 12:25
bonogurashi
AIの判断ってなぜそうなったのかわからないんだ。オーパーツじゃん。
2019/09/05 12:29
jabberokkie
AIに人間の知的伸びしろを埋めてもらう時代に入るんか。
2019/09/05 12:30
thirty206
病理はAIと人間の二人三脚ですんごい精度が上がっていきそうよね。
2019/09/05 12:35
pptppc2
AI「ぜんぜんわからない。俺たちは雰囲気で癌判定をしている」
2019/09/05 12:36
maturi
「AIはそのアルゴリズムは全てブラックボックスなので結果以外のフィードバックはなく、初めて専門医としてAIに脅威を感じたと言ってて、なるほどなと思った。」
2019/09/05 12:42
poponponpon
続きを読むボタン探したけどそんなものは無かった
2019/09/05 12:50
nuara
確定診断のついたケースから学習させているはず。つまり、元は人間の判断。そのケース数が莫大になるほど、精密になる。良い事だと思う。
2019/09/05 12:51
deokisikun
ラジエーションハウスの五十嵐君もビックリだね！病院単位で独自発注システムなのかな？それとも既にグローバルでクラウドサービス化してたりするんだろうか？うまくやればクソ儲かりそうなインフラになりそう。
2019/09/05 12:51
humid
人が日常的に使っている技術も大半は分解不可能で「学習データを工夫して相手に似たような分析モデルを形成する」事が伝承とされているだけだし、誤診率が人間の医者を下回ればモデルを理解する必要すらないのよね。
2019/09/05 13:01
laranjeiras
「ガンですか？」「YES!YES!YES!」「肺ガンですか？」「YES!YES!YES!」「どうして分かったんですか？」「...」「画像のどこですか」「...」「あばいてやる！あばいてやる！AIをヲヲヲ　あぶぁいてぇやぁるゥゥゥーッ」「OMG」
2019/09/05 13:03
chaz_21
シンギュラリティ来るかあ
2019/09/05 13:06
sds-page
画像の該当部分にガンがある事が確実なら画像処理したらそれっぽい物が人間の目にも見えてくるんじゃないかな
2019/09/05 13:07
delimiter
めちゃ良いことでは？
2019/09/05 13:08
ultimate-ez
話ズレるけど、AI、というかディープラーニングはアルゴリズムがブラックボックスなんじゃなくて、アルゴリズムが無いのよ。手順はなく、よくわからんけど正解を出すパラメータ群がある。
2019/09/05 13:19
blueribbon
「最近はAIが画像で癌の可能性を指摘し病理で癌が確定した後に、何度該当部位を目で読影しても何をもって癌と判断したか分からないケースが増えてきた」
2019/09/05 13:22
underd
あとでよむ
2019/09/05 13:24
blueboy
人間には不得意な、灰色っぽいモヤモヤ画像を判定したのかもね。人間が対抗しようとしても、ちょっと無理っぽい。／顔認識では人間を圧倒的に上回っているからね。双子を人間は区別できないが、NEC の AI はできる。
2019/09/05 13:25
keint
おそらくCNNなどを使っていると思うが、CNNの学習した特徴の解釈や理論付けは研究がまだ十分でないと思う
2019/09/05 13:48
miulunch
これ、AI読影が主流になった未来で逆のことが起こりそう/AIが異状なしって決めたら読影医が怪しいと思っても否定されちゃって見落とすとかね/両輪でいくのが良いかと
2019/09/05 14:14
noodlemaster
ブコメがまとめに追加されてるしw
2019/09/05 14:17
houyhnhm
おお、場所もよく分からないものによく病理やったなあ。
2019/09/05 14:41
otation
ブコメを引用するtogetterまとめ初めて見たw
2019/09/05 15:04
satomi_hanten
Autopsy imagingのことじゃなかった。学習データ集めにくいしなー（仮名化しても特徴的なデータは映像そのもので特定出来ちゃう可能性が高い
2019/09/05 15:17
nomitori
説明可能なAIが発達してきたら人間側にもフィードバックできることいろいろありそうね
2019/09/05 15:52
fukken
人間も「うまく言えないけど、これヤバい奴の気がする」とかあるでしょ。あれも言語化できない些細な違和感を意識化で処理してるだけであり、要はそういうのと同じ事。判定基準が明確になるAIもあるよ。
2019/09/05 15:56
ku__ra__ge
癌の臭いを嗅ぎ分ける犬とどっちが優秀だろうか
2019/09/05 16:06
honeybe
短い！
2019/09/05 16:52
rururutea
AI「ワシの勘がそう言っとる！」
2019/09/05 16:55
Helfard
夢があるねえ。
2019/09/05 16:56
khtno73
例えば肝臓のエコーやCTで結節ぽいものが人間に全然見えない状態でAIが「癌です」と言ったらどう採取して病理検査すんのかね。エコーで確認しながら針刺すでしょあれ。あと患者にどう説明して同意書貰うんだろ。
2019/09/05 16:56
LordLuckRock
alphaGOと言えば、棋士の方はAIの手は直感的なものが多いって解説で言ってたな
2019/09/05 16:57
moonieguy
人が人に教育するよりAIに教育したほうが成果が出る？
2019/09/05 16:59
hogetahogeko
『AIはそのアルゴリズムは全てブラックボックスなので結果以外のフィードバックはなく』
2019/09/05 17:01
nmcli
こういう話すげえ好き
2019/09/05 17:04
augsUK
2ツイートでviewとブコメを稼ぐまとめは効率いいな。中身は癌の種類によっては人間の率超えてるから、おそらく頻発してるよね
2019/09/05 17:06
khtokage
将棋や囲碁でも似たような事を言われてる。なので、AIが指摘する「よく分からないけど良いらしい手」に人が納得できるよう理由を付けて価値観を取り込むのが今の強い若手のやってる事みたい。
2019/09/05 17:16
YarmUI
中間層可視化していったらなんか見えるものあるんじゃないかな
2019/09/05 17:26
ku-kai27
医者個人の能力のバラつきをAIが吸収してくれるのか、いいことじゃん。 主治医ガチャでハズレ引くと大変だから、マジで。
2019/09/05 17:31
makou
誤認はゼロなんだろうか。
2019/09/05 17:35
stmoai
医師の機械化が進んでいる
2019/09/05 17:50
redra22
自動運転車で１人が死傷する事故があったとする。おそらくはより多い犠牲を避けた運転だったのだろうが、人間にはそれがわからない。
2019/09/05 18:02
pero_pero
医者不足も深刻だし、こういうところで地味に人手が減るのは良い事なのだろう。将来的に診断は全てAIが行い、診断結果を言い渡すのは医療知識は無いが信頼されそうな外見の役者、みたいな時代が来るのかもしれない
2019/09/05 18:02
natu3kan
難しいのは、機械がその判断に至ったプロセスの解読よな。過学習かもしれないし、学習が正しく10年先の知見を機械が先に発見したのか分からない場合があるっていう。囲碁みたく白黒つくなら結果から判断できるが
2019/09/05 18:38
raitu
人間の知識と経験と勘がデータとして集約されてAIとして結晶し誰でも使えるようになるって素敵やん
2019/09/05 18:40
chankin
命に関わるのでAIが判断したから誤診しても知らんよとならなければいいが。標本の質に問題があるケースや症例の少ないケースで発見できるかの疑問があるのであくまでも支援機能として導入されてほしい
2019/09/05 18:53
lifefucker
学習データのラベルが間違ってたりして
2019/09/05 18:56
aircanopy
いろんなケースがあるだろうし、これだけじゃあ何とも・・・
2019/09/05 19:28
chintaro3
　そりゃすげぇ。
2019/09/05 19:53
ebibibi
そりゃこの領域ではそうなりますよね。ますます精度高くなっていくはず。
2019/09/05 19:54
filinion
これからの「説明可能なAI」というのは、「あの…この写真のどこを見て、癌だとわかったんですかね…？」って尋ねる専門医に「ほらこの辺、人相が悪いだろ？わかんないかな？」とか答えるAI、ってことになるのか…。
2019/09/05 19:55
arrack
人間ではできない莫大な経験値の蓄積こそがＡＩの強み。内科的治療の多くはＡＩに頼ることになると思う
2019/09/05 19:57
anigoka
非常に興味深いけどこのツイート数ならもっと突っ込んでブログでやってくれ感
2019/09/05 20:03
dowata
ただ、センセの、知らない教師データが合っただけでは？
2019/09/05 20:06
furseal
読影する医師は本当に足りてないから、AIに期待されてる分野。誤診リスクに触れるブコメが多いが、画像だけでは確定診断は出ないので大した問題ではない。
2019/09/05 20:59
gendou
ただ言えるのは、AIのように鋭い感の医師が居たとしても、受け入れては貰えないだろう。人間同士だと相手を説得する苦労が付き纏う
2019/09/05 21:10
hase0510
アルゴリズムはあるしブラックボックスでもないっつーの。アルゴリズムの学習結果であるところの重み行列の意味がブラックボックスなんだっつーの。
2019/09/05 21:11
rirukarinka
最初の検証フェーズ終わって信頼されだしたら「万人に正しさが伝わる宗教」と区別がつかなくなりそう。
2019/09/05 21:12
dgen
AIがブラックボックス化しないように処理を逆に辿って判断基準の特徴を検出するAIとか誰かが作ってるかも。おそらくその出力された特徴も人間には理解しかねると思うので翻訳するAIも必要になるな。名付けて三つ巴AI。
2019/09/05 21:18
pecan_fudge
逆にAIが癌と判定した画像から人間が学習することがあってもいいよね
2019/09/05 21:38
howtomania
どこが作ってんねやろ？
2019/09/05 21:39
zyoucun
これで、忙しいお医者さんが少しでも長く寝れるならAIの適切な使い方では？もちろん医者が勉強しなくていいかというと、そんなことはないわけだが
2019/09/05 22:20
jiro_kit
ディープラーニングにアルゴリズムが無いって、何の冗談？バックプロパゲーションってアルゴリズムじゃないんか
2019/09/05 22:28
cloverstudioceo
アルゴリズムあるだろと思うんだけど。。。ブラックボックスって言ってんのはWindowsがなんで動いているのか分からないけどネットが出来るのと同じレベルだわな。。。
2019/09/05 22:34
hedachi
逆も成立していると思うので（人間にわかってもAIにわからないケースも多々ある）人間とAIの認識の仕方が違うことから生じる当たり前の結果という気もする
2019/09/05 22:35
jacoby
DLは、限られた入力で判断するものは人間を超えつつ或るけど、精度は100%ではないし人間に根拠が判断できないものは扱いにくい。XAI「ExplainableAI(=説明可能なAI)」の推進が必要。
2019/09/05 23:12
moodyzfcd
www.ncc.go.jp www.m3.com www.jfcr.or.jp www.innervision.co.jp
2019/09/05 23:13
mossan4
AIが判定→病理医が確認→データセットが蓄積→AIを調教　の流れになると最初のAIが判定ですり抜けた癌が学習されないことが強化されるため判定できないタイプの癌が生まれるようになるよ。
2019/09/05 23:34
daysleeeper
AIがブラックボックス化（黒魔術化）してしまう問題はポナンザの中の人がずっと前から言ってますな。
2019/09/05 23:35
frothmouth
🙂　内視鏡AIの話かな？
2019/09/06 00:17
dorje2009
AIが該当部位以外に特徴を見出しているのか、画像処理すれば人でも何か見えるようになるのか
2019/09/06 00:26
Kanemori
「伝承」の話が伝言ゲーム化してるような。専門化が使うシステムなので、深層学習による診断結果以外のデータや指標も見れるはず。
2019/09/06 00:40
tk_musik
そこはやはり先回りしてる人たちがいて、「説明可能なAI」という分野がある。もちろんパフォーマンスは多少劣る。ノーフリーランチね！(ﾄﾞﾄﾞﾄﾞﾔｧ)
2019/09/06 00:44
narwhal
ブコメがまとめられている。初めて見た。
2019/09/06 04:19
mrpotas
人間にわかる形でアウトプットされるのが次のブレイクスルーか
2019/09/06 06:16
hihi01
認知心理学的にはアルゴリズムとヒューリスティクスみたいなものか？
2019/09/06 06:39
John_Kawanishi
深層学習だのAIとやらは勘や経験を機械にやらしちゃってるようでロジックが見えないロジックなのがもにょる
2019/09/06 07:42
Re-birth
医者が診断、実際ガンだった画像を元にラーニングさせるというやり方。ラーニング元がアレならいくらでもダメなAIなるって話なんだよなぁ。
2019/09/06 14:11
hate_flag
別に説明できなくてもいいんじゃないの。尿の臭いからガン患者を見分ける犬はなんにも説明しないよ。
2019/09/06 21:47
meeyar
病理標本の画像をAIがスクリーニング&サジェスト→人間の医者が確定診断、と思ったら違った
2019/09/07 17:18
arajin
“病理で癌が確定した後に、何度該当部位を目で読影しても何をもって癌と判断したか分からないケースが増えてきた”
2019/09/07 23:03
sawarabi0130
医療とは関係ないけど、やたら高収入のひよこ鑑定士とやらもAIに代替されるんだろうな。普通の人にはわからないひよこのオスメスもAIなら判別可能だろう。
2019/09/08 10:42
mohno
人工知能の学習データを分析はできないものなんだろうか。/深層学習では難しいらしい。