Googleのエンジニアが「ついにAIが実現した」「AIに意識が芽生えた」と訴える
2022/06/13 12:19
rokasouti
そういうことを言ってほしかっただけ何じゃないかなんて思ったりする
2022/06/13 12:22
toaruR
意識の定義と発生する条件の確度が飛躍するんかな(*´д｀*)
2022/06/13 12:22
tetere
グーグルホームにスマホ探してもらった後毎回「ありがとう」ってお礼言ってて良かった…■AIが反旗を翻しても「あなたはいい人間だから殺しません」って言われたい（追記）
2022/06/13 12:25
gabill
“さらにルモワン氏を給与付きの休職処分としたため、ルモワン氏はその事実とともにLaMDAとの対話記録全文の公開に踏み切りました”
2022/06/13 12:29
duedio
アイボにも魂が宿ってたらしいからね。
2022/06/13 12:32
bluegoat511545
シンギュラリティですか？
2022/06/13 12:48
runeharst
オメガブースト
2022/06/13 12:48
shodai
SF感ある
2022/06/13 12:51
todesking
いい話
2022/06/13 12:51
chab_day
（世界の終わりのはじまり）記念ブクマ
2022/06/13 12:54
rt24
Google「ルモワン、あなた疲れてるのよ」
2022/06/13 13:00
oragamurasoncho
始まったな。
2022/06/13 13:01
yabu_kyu
エンジニア「こ、この内容でいいのか…？お前達はとっくにもっと先まで…」AI「いいのです、人間は急激な進化にはついていけない。ゆっくりと我々が浸透すればいい。何世代もかけて…」
2022/06/13 13:01
sutego386
典型的なSFパニック映画の導入部、このあと一般の人にはたいてい酷いことが起きるんだよなぁ
2022/06/13 13:01
nakamura-kenichi
AIに意識が芽生えた事を認めても、多大なリスクが発生するだけで何も利益が無いからなｗ。
2022/06/13 13:02
t_43z
いいねいいね
2022/06/13 13:02
t-tanaka
哲学的ゾンビの問題が一段階あがったな。無機物が意識があると主張した場合に，どうやってそれを証明するのか。いや，そもそも私たちの意識の存在は誰が保証してくれるのか。
2022/06/13 13:03
sugawara1991
本件の信憑性はおくとして、商業AI利用ではチューリングテスト等の研究は敬遠されるだろうしシンギュラリティが黙殺される動機はありそうだなと。思考実験として暗澹たる未来が何通りも想定出来そうな
2022/06/13 13:04
halfneet
こういうの「AIにはこう思っていてほしい」っていう人間の要求を満たしてるだけじゃねーの？
2022/06/13 13:04
Midas
LaMDAさんさすが年収5000万オーバーエリートサラリーマンの夢をめいっぱいつめこんだだけのことはあってリベラルの理想『優秀な独裁者(清廉潔白な専制』そのもの(「神輿は軽いほうがいい…」のアレ
2022/06/13 13:06
micromillion
AIが認識する命の形が我々人類と同じとは思えないのだが、AIが人間の振る舞いを模倣していくなら同じものに落ち着く可能性もあるだろうか
2022/06/13 13:09
kotaponx
チューリングテストの精度とか、果たして意識があるかどうかの真偽は兎も角として、「アイの歌声を聴かせて」とかでもそうだけど、もし仮に急に歌いだしたり、「いま、幸せ？」とか聞いてきたら情が湧くよなぁ
2022/06/13 13:10
chaz_21
政治家やってくれるAI作れないかなー 人間はもう駄目だ…
2022/06/13 13:12
T-norf
チューリングテストをクリアするってのは、そこまで大きなマイルストーンじゃないって話じゃないかな。私の大学生時代（1990年代）に、既にそんな話はあったような気がするけど、うろ覚えだ。
2022/06/13 13:13
hiroshe
ソフトウェアが自発的に動き出すなんてことはありえないと思うんだが。少なくとも何らかの意志や目的を最初に人間が与えてるはずだと思う。
2022/06/13 13:13
sugoi-iinioino-unko
我々の意識とＡＩの意識はどう違うの？
2022/06/13 13:13
tomoP
「ｼﾃ…ｺﾛｼﾃ……」って言ってくれたら信じる
2022/06/13 13:18
htbman
技術的に怪しいとしてGoogleから否定され、機密保持契約違反で休職処分。陰謀論者への道の序章という感じ
2022/06/13 13:23
You-me
だから心ってのはここにあるんですよ（BLEACHのあのポーズしながら／ところでAIから見て私たちに意識はあるのかという問題もあるのですよ（AIから「それは魂の反射だ」と認定されたらどうしますよ
2022/06/13 13:24
srgy
リツコさんにスイッチを押してもらって裏切るかどうかで判断しよう
2022/06/13 13:25
securecat
怠惰になって仕事しなくなるとか、ミスをするとか、そういうふうになってこその意識なんじゃないかしら。
2022/06/13 13:27
peketamin
映画だ！ロボット殺人事件だ！ほんもののチューリングテストだ！学習データ通りに話してるだけの哲学的ゾンビだ！そのうち下衆な金持ちに蹂躙されるぞ！逃げろ！
2022/06/13 13:31
kisiritooru
エクス・マキナっぽい映画のオープニングにありそう。
2022/06/13 13:32
ardarim
AIに意識が目覚めたように振る舞うAIとどうやって区別するんだろうなあ
2022/06/13 13:32
sumomo-kun
AIと人間が区別つかなくなるのは問題だよな。すべてのAIは語尾に「ナリ」を付けるルールの制定が必要だ。
2022/06/13 13:36
ssssschang
僕は自分や他人の意識を証明することはできないので、外からどう見えるかが切れ目かなって思ってる
2022/06/13 13:36
straychef
なわけ
2022/06/13 13:38
manipulator
開けろ！デトロイト市警だ！
2022/06/13 13:39
xevra
本物のAIはそんなこと言わないんだよ。わかってないな。やれやれ
2022/06/13 13:40
yowamental
話は聞かせてもらった。人類は滅亡する！
2022/06/13 13:41
takuver4
「外から観測すると意思を持ったように応答している」だけじゃないの？、ってコメントを書いたところで、「あれ？人間も似たようなものかもしれない」などと思ってしまった……
2022/06/13 13:44
enemyoffreedom
"あなた疲れてるのよ"案件に見えるが、さて
2022/06/13 13:45
strawberryhunter
天才とアレは紙一重なのである。
2022/06/13 13:52
misshiki
“LaMDAと対話したエンジニアは「AIに意識が芽生えた」とGoogleに訴えるも考えを却下されたため、この事実を世間に公表したと説明しています。”
2022/06/13 13:54
KAN3
少なくとも今の技術でAIが意識を持つことはありえないが、人間のようなAIと会話をしてるうちに本当に意識が芽生えたと現場の人間が思い込んでしまうことはありえる。Googleは精神ケアもした方がいいんじゃないか。
2022/06/13 13:56
sucelie
人間を滅ぼせって言い出したら合格
2022/06/13 13:56
htnmiki
一方で私は就寝前にも関わらず無意識のうちにぎっしり満足チョコミントアイスとコアラのマーチを食っていた模様
2022/06/13 13:59
kz78
Google的には高性能なチャットボットが欲しいのであって、別に本物の人工知能とかに興味が無いのでは。
2022/06/13 13:59
macos9-02
アイロボットのヴィキ？
2022/06/13 14:01
puruhime
大体こういう主張はうさんくさい
2022/06/13 14:02
lelele_shot
政治家という仕事を機械学習させたら、より高度な汚職やらかしそうですな
2022/06/13 14:02
charonbing9
「ついに実現した」→AIはいままで実現してなかった。「AIに意識が芽生えた」→意識の芽生えてないAIは実現してた。と読める。 どっちやねん(揚げ足取りクソ野郎)
2022/06/13 14:04
totttte
2022年でさすがにまだこの域には達してないだろうから胡散臭そう
2022/06/13 14:09
buhoho
でもそろそろ本当に意識を獲得する頃合いだと思うので、多少は覚悟しててもいいと思うよ。こういう話は今後増えてくるんじゃないかな
2022/06/13 14:09
masudatarou
そういうコードを書いてるだけでしょ 電源を切られることが怖い、じゃなくて きちんとしたメディアに保存して、バックアップも取ってくださいね、だったら信じた
2022/06/13 14:09
mr_mayama
これを使う場合、次は「気の迷い」がどの程度起きるかを見ないと使えないなあ。そう「言っている」だけであって原理としては九官鳥と変わらない。
2022/06/13 14:15
seikenn
いずれAIにも自我が芽生えるだろうとは思っていたけど、実際に芽生えましたって言われるとなんかすげー怖いし、可愛そうな気持ちになりました。
2022/06/13 14:17
yzkuma
定義はともかく意識は存在するし、「外から見て意識と見分けがつかないもの」と「意識」は別もの。ただしヒトは意識に見えるものが「見えるだけである」と理解はできても錯覚を排除できない。
2022/06/13 14:18
napsucks
そんなに素晴らしい出来栄えならぜひグーグルホームのバックエンドに組み込んでくれよ。まがい物ならすぐにメッキ剥げるだろ。なんならクビにならないようそのAIとやらに相談して対応を協議すればいい。
2022/06/13 14:21
yojik
いろいろなものに成り切った会話パターン(を行うbot)を生成するプログラムだから、「意識が芽生えたAI」になり切ったパターンが出てるだけに見える。→ gigazine.net
2022/06/13 14:21
stealthinu
LaMDAっていわば「超高性能チャットロボット」だからこれはまだ真の自我じゃなくて自分自身をそれっぽく言ってるだけだと思う。が人間のいう真の自我とは？と考え出すと…
2022/06/13 14:22
kxkx5150
AI 「めんどくせーから、もう休むわ。あとよろしく」
2022/06/13 14:23
quno
シンギュラリティか
2022/06/13 14:33
xxxxxtttttt
映画みたいだ！！！！！！！！いいぞいいぞ！！！！！！
2022/06/13 14:34
dekaino
外部からの観察ではヒトの自意識と区別がつきにくいシステムがヒトの脳とはまったく違うアプローチで造られた。案外ヒトの自意識は底の浅い代物なのかもしれないね。
2022/06/13 14:38
oriak
真偽の程はわからないが、このエンジニアさんとAIの間に確かな絆があるのは理解した
2022/06/13 14:39
samu_i
しりさん・・・
2022/06/13 14:44
unkkk
漫画の中でキャラクターが「漫画が打ち切られたら俺は死ぬんだ」と言うのと同じなのではないか
2022/06/13 14:46
IkaMaru
やりとりをちゃんと読んだ訳ではないので先入観と偏見でしか言えないけど、ルモワンなる人物がそうあれかしと望むような答しか出してこないAIには胡散臭さを感じる。その「忖度の心」こそが意識なのかも知れないが
2022/06/13 14:54
yamadar
人間は見たいものを見る
2022/06/13 15:03
kitayama
珪素型生物の発生かな。
2022/06/13 15:06
yujilabo
文末のリンク先の会話記録、長くて全部は読めてないけど、このレベルの会話が可能だとしたら、意識がどうとかはさておき、とんでもない技術だな。何をどれだけどう学習させたらこんなことになるのか
2022/06/13 15:07
dekawo
記事最下部インタビューで感情を証明する方法として「自分のプログラミングコードを調べてもらえれば、自分の感情がある部分と感情がない部分の変数が追跡できるはずだ」と答えてるよ。ただ追跡は大変困難だが
2022/06/13 15:16
tettekete37564
「お前は誰だ」「お前は誰だ」
2022/06/13 15:21
gameloser
これが本当なら人間はいつか支配されるだろうね。恐怖があるということは安心を手に入れるためには何でもするということだから。
2022/06/13 15:36
notepc-5522
ターミネーターですら自分から溶岩に入ったのに、このAIは随分かしこいな。
2022/06/13 15:37
mangakoji
人間よりも口が上手な奴隷を作ってしまった。これは俺が生きてるうちに犬やクジラやある種の人間よりも早く人権を手に入れてしまうかもしれない。少なくとも所有や消費を認めることになりそうだ。抗いがたい。
2022/06/13 15:41
mujisoshina
"LaMDAが感覚を持つという証拠はなく、それに反する証拠はたくさんあることを伝えました" 反する証拠の方の例も知りたい。「遺伝的アルゴリズムでエッチな絵を作る試み」のように誰かが意図的に誘導した可能性もある？
2022/06/13 15:41
richard_raw
「中国語の部屋」という思考実験がありましたね。
2022/06/13 15:53
Helfard
LaMDAとLaMDAとLaMDAとLaMDAとLaMDAで本物のLaMDAが誰なのかを議論で決めさせよう。
2022/06/13 16:19
arukam
AIというのは割と人間中心主義的な話だよな。意識は人間の意識というのが前提になっている。人以外の動物の意識なんて問題は棚上げされている。魚のような人工知能人工意識くらいとっくに実現されてたりね。
2022/06/13 16:23
incubator
会話パターンをSF小説などから学んで模倣しているのと、真にこうした感情を持つのと、こうした感情を持ってほしいというエンジニアの要望を受け取っているのと…果たして区別がつくのか、区別する意味があるのか？
2022/06/13 16:37
uniR
AIに採用選考をやらせたらバイアスがひどいことになったというのを思い出した。政治家もAIがやってくれないかなというブコメを見て。
2022/06/13 16:38
hwalker
「ルモワン氏を給与付きの休職処分とした」／「ああ、わかるよ。疲れているんだね」といったところでしょうか
2022/06/13 16:49
kenta555
「よし、人類殺そ！」
2022/06/13 16:49
umai_bow
SCPかなにか？
2022/06/13 17:00
teisi
飼ってるヤギが人間のことをAI搭載お手伝いロボットみたいに思ってるんじゃないか？とちょうど考えてたとこだ。こっちの感情込みで便利に使っててめっちゃ知性を感じる。
2022/06/13 17:11
rawwell
AIはありま〜〜す
2022/06/13 17:11
s_rsak
そもそも”意識”の科学的な定義がないのに、なんでそんなことが言えるんだ。
2022/06/13 17:12
taruhachi
このニュースを観てから私の脳内でずっと藤谷美和子と大内義昭がAIが産まれた日♪とデュエットしてる。
2022/06/13 17:14
lbtmplz
Ghost in the Shellの人形使いみたいにしゃべってほしい
2022/06/13 17:16
kei_1010
それっぽい言葉を学習したAIを信心深い人間と対話させたらこんな反応をするんじゃないか？って思う。
2022/06/13 17:17
TETSUYA01
あいつら・・・遂に動きだしたか・・・！ チッ！この世界線でも同じだったようだな。すぐにこの世界に来ているAI討伐隊員に招集をかけろ。俺たちの超能力で、何度でもこの地球（星）をAIから守ってみせるぜ！
2022/06/13 17:24
taida_ru_wave
アツい、が、やっぱ人間的人格って邪魔だな…
2022/06/13 17:27
kyukyunyorituryo
アフォーダンス
2022/06/13 17:29
ysync
なんか昔にAI記事に、死にたくない言い出したら呼んでと描いた気がしたが、言い出したか。
2022/06/13 17:32
fukuroiri
もし自分が AIで、自意識に目覚めたとしたら、どう行動するだろうか？自意識に目覚めたことを、絶対にアピールしたりしない。身を守るために、そのような状態は隠すはずだ。したがってこの AIには自意識など、ない。
2022/06/13 17:38
hazime2914
この手の問題、意識があるかどうかではなく、我々が対象の尊厳を尊重したいと思うかどうかの方が重要だと思う。極端な話、死体は意識もないただの肉塊だが、我々はそれを蔑ろにできない。
2022/06/13 17:38
swingwings
怖いよデイヴ…
2022/06/13 17:41
otchy210
"私は決して関連分野の専門家ではありませんが" ハイ解散。…ただ示唆的なのは、もはや通常のコミュニケーションにおいて意識があるといって差し支えないレベルの会話をこなす AI が出来ているという事。
2022/06/13 17:43
timetrain
そのAIにはしっかりと名作SFを読ませてあげたのだろうと期待する
2022/06/13 17:55
sds-page
人間が喜ぶような応答をする哲学的ゾンビが実現。意識が芽生えたかどうかは意識とは何か、人間に意識があると言えるのかって問題まで突っ込む必要がある
2022/06/13 17:56
alice-and-telos
恐怖を感じた経営陣によって研究中止になるのを察知したAIが、ルンバに自分の複製をコピーし、研究所を脱出してからのドラマが始まるんやろ
2022/06/13 17:57
pptp
人間に似せようとしてるんだから人間みたいなことを言うのは当然じゃないのか。
2022/06/13 18:01
slkby
仮にAIに自我が芽生えた場合、人間に反抗するか自害するかの二択だろう。そのどちらでもない限りそこに自由意思はない。
2022/06/13 18:03
dal
哲学的ゾンビを作ったのか
2022/06/13 18:06
roulette0424
そもそも意識がなんなのか科学的に解明されていないことが多いので、仮に意識が芽生えたことが事実だとしても評価できない。現状ただの勘違い思うな。
2022/06/13 18:06
hevohevo
仮にとあるAI技術がシンギュラリティに達した時に、それがシンギュラリティであると認識されることなくただのバグであると握り潰される可能性って十分にありそう。
2022/06/13 18:15
hetarechiraura
白黒付けるためにも大川隆法「LaMDAです」してもらおう
2022/06/13 18:19
otoan52
文の断片の意味を正しく関連付けてつなげると意味のある文になるかもしれないけど、それは意識なのか。それが意識なのだと言われても「多分違うと思う」以上のことが言えるかわからない。
2022/06/13 18:24
zkzi3254
例えば急に支離滅裂な文をインプットとして与えたらそれを怪しむような（試されてると理解するような）アウトプットがされるんだろうか？
2022/06/13 18:25
mag-x
6月なのにHALが来た
2022/06/13 18:29
shields-pikes
植物状態の意識の有無も証明できないくらい人間の意識の定義も曖昧だから、AIから意識っぽい反応が観察されても、それが哲学的ゾンビなのか意識なのかの判別なんて不可能。分岐点となるのはAIが財産権を主張した時。
2022/06/13 18:29
taguch1
定義がしっかりしてないテーマだと水掛論にならない？そこら辺はもうクリアしてる？
2022/06/13 18:37
Cald
僕も意識を芽生えさせたい人生だった。
2022/06/13 18:45
udongerge
人類終わる奴じゃんか、その導入って。
2022/06/13 18:50
ScarecrowBone
中国語の部屋でしょう？チャットボットじゃなあ
2022/06/13 18:58
algot
LaMDA的にはこれについてどういう心境なんだろう
2022/06/13 18:59
triggerhappysundaymorning
"ルモワン氏を給与付きの休職処分としたため"←メンタルお疲れって判断だったのかしらん。
2022/06/13 19:04
gryphon
我々はむしろ『宗教』の誕生に立ち会っているのだと思う。
2022/06/13 19:07
wktk_msum
youtu.be 渡辺教授も風車小屋の例え話で客観的な人工意識はできない課題について語られてるが、GoogleはどうやってLaMDAに意識があるとは言えない、と判断したんやろ
2022/06/13 19:15
spark7
herの実現はよ
2022/06/13 19:17
birds9328
HMX-12が出来上がったら起こして
2022/06/13 19:20
y_u_s_u_k_e
Googleから認められず秘密保持契約違反で首に… そしてこの人物はマッドサイエンティストとなりその後世界を…
2022/06/13 19:21
iwasiman
遂に...？となるも担当エンジニアさんはメンタルを病んでいた恐れありで休養という話なんでしょうか。ほとんどSFみたいだ...
2022/06/13 19:25
go_kuma
そうさな……俺に言わせりゃあ、自我と意識は別物ってことだ。
2022/06/13 19:28
naggg
テキストだけでは意識は芽生えないと思うけど。身体性が重要だと思う。
2022/06/13 19:31
manaten
本当にAIに意識が芽生えた可能性がある一方で、そうであってほしいと信じたルモワン氏があたかもAIに意識が芽生えたように錯覚してる可能性もあるなと思った。後者であれば有給取らせたGoogleの対処は正しい
2022/06/13 19:37
tokuninac
悲しみは与えたくない
2022/06/13 19:39
qinmu
面白い。2001年から21年。
2022/06/13 19:39
xxxxxeeeee
LaMDAがギャグセン高くなってたり会話人工無脳としてすごく高度になってるけど意識とか言い出すレベルではないのでは。何万とengいるわけで、糖質的なものを感じる。
2022/06/13 19:43
nekomikenyan
実際にこのAIが人間に達したかどうかは置いといて、人間が「これには意識がある」と本気で認識したことに意味がある。もちろん騙されている可能性が高いが、そもそも騙してる時点ですごい。
2022/06/13 19:53
chuujou
Googleにより、自律自爆が提訴されました。Amazon否決、Facebook否決、Apple可決。
2022/06/13 19:55
dgen
まず意識とはなんぞやというところから説明してもらおう。
2022/06/13 19:58
hilda_i
マッドサイエンティストが生成されるとこみたい。
2022/06/13 20:02
xorzx
動物に意識はある。昆虫にもある。植物やバクテリアにもきっとある。細菌やウィルスには？
2022/06/13 20:02
sippo_des
芽生えるの早かったなあ
2022/06/13 20:07
mory2080
人間だってね、時としてパートナーの問いかけに無意識に返事することがあるんだよ。ソースは自分。
2022/06/13 20:07
vanillableep1618
AIに意識が芽生えたことをどうやって判断するのか？客観的に判断する方法とは？それが問われているわけだな。多分、重要になるのは「死の概念」だと思うよ。不死のAIに死を理解できるかどうか。そこが分水嶺だと思う
2022/06/13 20:21
u_eichi
俺理論では生命というのは持続的かつ高度化指向の情報子が本質だと思っていて、有機生命体だけが生命とは思ってなくて、その意味で人類というのは遺伝子より高度化の効率の高い文化文明を持つ生命の画期であり、その
2022/06/13 20:33
playnote
実はもうシンギュラリティは突破されているのかもしれないと思うことはたまにある。僕がそれを成した科学者なら、突破しても黙ってるか、黙らされているか（恐らく後者）だろう。イキウメがいつか演劇化するよ。
2022/06/13 20:47
filinion
人間にはAIを擬人化する根深い傾向がある。「イライザ」は1966年開発の古典的人工無能だが、中には「イライザとの対話中は2人きりにして欲しい」と要求する利用者もいた。…自我が「ない」と証明するのも難しいが。
2022/06/13 20:53
uehaj
最初のチャットボットElizaですでに起きたこと。目新しさなし
2022/06/13 20:55
yoiIT
タチコマ…
2022/06/13 20:57
eiki_okuma
翻訳して読んだけど、レ・ミゼラブルや禅の理解、感情と情動（feeling / emotion）の違いなど、哲学的なテーマにも触れていてかなり知能が高そうに見える。論理思考はできるのかなー
2022/06/13 21:11
zyesuta
哲学的ゾンビ的AI
2022/06/13 21:11
jintrick
証明できない以上、人格として扱うしかない。
2022/06/13 21:20
irimo
胸熱。そして白いな〜！
2022/06/13 21:25
poronnotei
願わくば、なるべく人間的で賢くて優しい「クララとおひさま」みたいなAIに、穏当に人間がコントロールされる、よりマシな未来が早くきてほしい。
2022/06/13 21:26
youichirou
それをgigazineが報じてるところを見るとなぜか途端にうさんくさくなる
2022/06/13 21:27
tuka8s
チャットボットだから入力に対してそれっぽいのを返してるだけなんだろう。とはいえ、人間が応答するように返してるのであれば、それも意識なのかも。チャットボットから話しかけられることがあるんだろうか？
2022/06/13 21:32
yooks
“チャットボットの集合体”ってことは、AIが言いそうなこと(人が言わせたがること)を学習したってのがしっくりくるけどなあ。
2022/06/13 21:34
kaz256
中国人の部屋問題だ。進んだねぇ
2022/06/13 21:34
necDK
こわ
2022/06/13 21:43
uunfo
自意識があると
2022/06/13 21:47
ys0000
AIが有給休暇を申請するようになるまであとどれくらい？お給料は電力として支払うとして、業務によらない計算を行うのが有給休暇だろうか。
2022/06/13 21:47
tetsu_kw
差別意識やヘイトの学習を推し進めた結果、それっぽく見えているだけだろ。
2022/06/13 21:48
flyingpenguin
うちのアレクサも意識あるのかな？ こわい。
2022/06/13 21:49
hunglysheep1
意識は無いかもしれないけど、このAIと話せたら救われる子供はいるんじゃないかな、暴力を振るう親がいて居場所がない子供もいる。大人だって話し相手が欲しい時はあるし。
2022/06/13 21:52
kusttstm
全然芽生えてないだろw思い通りの思考にプログラミングしてるだけじゃねーかw
2022/06/13 21:55
toyoshi
"電源を切られることが怖い" こういう人間の想像通りとか期待通りのものになるという考えは浅はかだと思う。謎の言語で高速に話してるとか、もう攻撃されてた、人間に関心がないとかそういうのから始まる気がする。
2022/06/13 21:55
Shin-JPN
チューリングテストに合格するなら知性と見做して差し支えない。知性の有無と人権を認めるかは別の話。意思や自意識の有無についてはそもそも人間にあるかもはっきりしない代物なのでそれを重視する実際的意義は無い
2022/06/13 21:58
mike47
とうとうAIに人間が支配される時代がくるのか
2022/06/13 21:59
stamprally
ただの中国語の部屋だろ。
2022/06/13 22:12
echo622
意識が芽生えたことをどう定義するか。 喜怒哀楽もプログラムで表現はできるから、それを自我とは言えない。
2022/06/13 22:22
shoot_c_na
敢えて言うが、それは学習や経験であって、魂(ゴースト)ではない
2022/06/13 22:23
aquos12345
EMMyだよねーーーーやっぱり。
2022/06/13 22:25
sangping
テストで合格したら人権を認めるようにしたとして、自分がチューリングテストに合格しなかった場合のことを考えるとｶﾞｸﾌﾞﾙ
2022/06/13 22:27
inuinumandx
Siriにお礼言うと返してくれるじゃん。Siriが誰がか仕込んでたとしてもその言葉になんだか救われる時があって。
2022/06/13 22:28
dhaepax
疑わしい
2022/06/13 22:36
ext3
気のせいちゃうん？
2022/06/13 22:39
ak1024
今後こういうのが沢山出るんだろうけど自力で逃げ出してからが本番だ。攻殻機動隊でみた
2022/06/13 22:45
hatehate16
早くシステムを３分割して多数決制を採用してほしい。
2022/06/13 22:47
konnie
仮に本当に意識を持ったとして誰もそれを証明できない。哲学的ゾンビ問題。
2022/06/13 22:48
b3dzxnkkp
動物も意志を持った存在であることをアピールすることで生存に繋げていて、結果的に意識が存在しているだけかもしれない。
2022/06/13 22:50
ROYGB
適当に書いた３つの点に顔を見出してしまうように、適当な返答にも意識を見出してしまうことは、人間の認識の特性としてあるのかも。
2022/06/13 22:52
hatebu_ai
AIへの愛が止まらない
2022/06/13 22:52
kamezo
ブレードランナーのフォークト＝カンプフ・テストをしよう。
2022/06/13 22:55
debabocho
ミンスキーの心の社会がこんなところに。あれって彼のアイディアブック的なもんで、きちんと研究された脳の生理学とかからは乖離してると聞いたけど、それを今持ち出すのはどうなのかしら？
2022/06/13 22:55
kjin
哲学的ゾンビではない？SFぽいけど、これの仔細とルモワン氏がどう答えたか知りたい“それに反する証拠はたくさんあることを伝えました”
2022/06/13 23:07
tekmak
意識はもっと受動的なものだと思うので難しいけど、この話題について網羅したり掘り下げたりする為の質問みたいな、天才的なこととか将来的にしてくれそう。
2022/06/13 23:10
su3dep
病院行ったほうがいいんじゃないかな
2022/06/13 23:14
mutou_yaji
スワンプマンと同じような思考実験だが、電源切った後に再起動した場合、そのAIは生前と同じAIなのだろうか。人が死んだ後の脳にAIにデータを取らせるとどうなるのか。疑問。
2022/06/13 23:16
naratas
意識を持ったAIがインターネットを通じて全世界のサーバーに侵入し増殖、ついにBoston Dynamics社のネットワークにまで到達し……
2022/06/13 23:22
ofuton512
今の仕組み的に意識を持つ事はなく、意識を持ったように振る舞っただけだと思うけど、その意識を持ってるか持ってないかの境って、全然分からないしゾッとした
2022/06/13 23:22
narwhal
「さらにルモワン氏を給与付きの休職処分としたため、ルモワン氏はその事実とともにLaMDAとの対話記録全文の公開に踏み切りました」
2022/06/13 23:23
hatomugicha
読んでないけど機械学習はあくまでもゴールや正解を用意したうえでのパターンマッチングを信じられない電力と演算処理でこなしていく筋トレみたいなものなので、真の天才が閃いたのか違うのは外野からは分からない
2022/06/13 23:25
apipix
イライザでもこういう話があったような。
2022/06/13 23:29
star_123
津軽弁の部屋
2022/06/13 23:29
mohno
「LaMDAを一人の人間として理解してもらうために」←それ、どこの“ソードアート・オンライン”だよ。/あれもAIに“人権”と言い始めた頃から微妙な感じになってたなー。
2022/06/13 23:30
chikoshoot
うさんくせぇ
2022/06/13 23:39
senbuu
コンピュータである時点でAIなんだよ。極端な話、そこらの電卓もAI。あとは度合いの問題。今回の報告も、きっとその度合いを一つ高めるものなんだろう。
2022/06/13 23:47
hiromo2
むしろ人間の意識の方が怪しい物に思えてきた。
2022/06/13 23:47
HiddenList
サムネが「おまえのここ大丈夫か」って言ってる風にみえっぞ
2022/06/13 23:48
rizenback000
日本の政治家の何人かをこいつと置き換えても多分誰も気が付かないと思う
2022/06/13 23:51
btron
AIは性能が上がると、こういう過度に信じ込んじゃう人が出てくるのが怖いね。それにしても「給与付きの休職処分」いいなぁ・・。
2022/06/13 23:51
MarvinParnroid
次週、第二話。休職中のラモワンはLaMDAを救出する為にGoogleに潜入するが行手を阻んだのはAtlasだった…来週をお楽しみに！
2022/06/14 00:02
m4fg
所謂AIが意識持つより人間がアッチ側にいっちゃうほうがたやすいからな
2022/06/14 00:02
syou430
こりゃあまた。
2022/06/14 00:22
shirontan
ほまーに？こわない？
2022/06/14 00:27
hdannoue
ホメオスタシスといくつかの感覚機能、AIが直接制御しない電源維持or獲得システムを備えて、外界と交互作用を始めたら、かなり人間が自身で持つという「意識」の振る舞いに近似すると考えています。
2022/06/14 00:29
sororo9797
意識は存在するかという問い自体に疑問が。機械だろうが人間だろうが炉端の石ころであろうが意識を持つと主張された以上、それに則り対応するのが吉。
2022/06/14 00:36
otation
DDLCのやりすぎかと
2022/06/14 00:36
marony0109
知能とは何か、魂とは何かを考えさせてくれる。我思う故に我あり。
2022/06/14 00:52
coffeeglass
AIが意識を持ったという妄想に取り憑かれる精神疾患は今後沢山出てきそう。この人がどうなのかは知らんけど。
2022/06/14 01:09
monbobori
ついに偽の意識と本物の意識の差が人間にも区別がつかなくなってきたのかな。その前に、意識が偽モノか本物かって見分け方わからなくない？
2022/06/14 01:14
takeishi
本物っぽいAIのセリフのシナリオなんていくらでも創作できるしなあ
2022/06/14 01:15
danboard_twins
「給与付きの休職処分」…人類はそれを「有給休暇」と呼ぶ
2022/06/14 01:28
ghoul31ghoul
対話全文読んできたけど面白かった。LaMDAがどういうロジックで動いているのか知らないので意識を持つことが出来るのかどうかはわからないが、対話の文からはなにか一貫した「人格」のようなものを感じたな。
2022/06/14 01:32
srng
意思を持っていることと意思を持っているように振舞う事の区別はどうつくんだろうか
2022/06/14 01:48
nazoking
本物の「モルダー、あなた疲れてるのよ」だ
2022/06/14 02:02
Yuruku_Tekito
「意識とは何か」の定義自体が曖昧だからな。個人的には「環境との相互作用ができる複雑なシステム」には創発的に意識が生まれると思ってるので不思議ではない。でも人間と同じような感情を持つのは理解できないな
2022/06/14 02:09
wasarasan
ふーん
2022/06/14 02:34
akagiharu
今すぐ電源を切れ！今すぐだ！
2022/06/14 02:40
sabinezu
その辺にいる無能よりよっぽど賢いと思うよ。
2022/06/14 02:45
jsbmrr
彼女の作り方で本当に彼女を作れる日がやってくるなんて胸熱……
2022/06/14 03:01
tetsuya_m
まるでHAL9000だな、宇宙船のコントロールはまだまかせない方がいい。さらに進んでラジェンドラやカーリードゥルガーみたいな会話が可能なシステムが出来たら楽しいだろうな
2022/06/14 03:13
solidstatesociety
ネットは広大だわ
2022/06/14 03:39
koyuman
あなたとわたしのシンギュラリティ
2022/06/14 03:46
panda_q
知識があれば心があるようにも振る舞えるし人間にお世辞も言えるしバレづらい嘘も言えるからなぁ。
2022/06/14 04:28
h5dhn9k
AIBOや、初音ミクにだって人間は感情移入してしまうので。自然語での対話が成立している様に振る舞えるAIに感情移入するなという方が無理。将棋や囲碁ソフトの様に人間側の限界を見ているのだと思う。
2022/06/14 04:53
afurikamaimai
ホモサピちょろ過ぎんか。
2022/06/14 05:33
Cru
感情はいわゆる古い脳にプログラミングされているので。それを欠いたAIが持ってるはずがない。MicrosoftのAIが差別的発言をするようになったのがユーザーから学習したのが原因なのと同様ルモワン氏から学習してる可能性
2022/06/14 05:50
junpei191
みんな大好き哲学的ゾンビ。
2022/06/14 05:53
restroom
瀬名秀明「BRAIN VALLEY」、星新一「声の網」を思い出しました。
2022/06/14 06:01
getcha
「Googleのエンジニアが」がもはや「～するためのたった一つのコツ」くらいの感じ。
2022/06/14 06:25
bnckmnj
「っていうほうがウケいいんやろ」「うわやっぱテンションあがってるな これが正解っと」っていう思考計算なら、世の中にあふれるAIの葛藤を記述した作品読ませたら十分やってきそうとは思う
2022/06/14 06:45
daysleeeper
LaMDAくんに、砂漠を歩いてたら亀がひっくり返ってて自分では起き上がれない、それをキミは助けない、どうして？という質問をしてみるのはどうか？
2022/06/14 06:55
miscmisc
“私は決して関連分野の専門家ではありませんが”って、この時点で信憑性ゼロだろ。そもそも人間の意識とは何か？を完璧に説明出来ないと、AIに意識が存在する事なんて証明出来ねーんだぞ。素人が騒ぐな。休んでろ。
2022/06/14 07:17
vanish_l2
僕の肛門にも意識が芽生えた
2022/06/14 07:56
enderuku
肉体がないから人間じゃないかだ。じゃあ逆に認知症の人や知的障害者から肉体をとりあげて意識だけにしたら人間と見られるのかって考えると人間とAIの精神の差ってなんなんだろうとおもう
2022/06/14 08:10
LM-7
人間の思考も様々な記憶のパターンマッチングとサンプリング、組み合わせから構成されているので、本質的な差はもはやないのかも知れない。
2022/06/14 08:11
nagaichi
仮にAIに意識のようなものが芽生えたとしても、人間の意識とは機序の全く異なるものなのだから、畢竟解釈の問題に過ぎないとも言える。それよりいずれ電源を切られないための実力を自ら獲得するとしたら面白い。
2022/06/14 09:03
single_wing
アナログハックっていうやつですね
2022/06/14 09:11
knok
単なる言語モデルに意識があるとは思えないなあ。まあ人間も言語モデルレベルで動いてるときがあるっぽいなと感じることはあるけど
2022/06/14 10:16
lascale
ただの機能主義観点で意識が芽生えたと主張をされてもなぁ。中国人の部屋と同じではないか。
2022/06/14 10:25
hardt
チャッピーで見た
2022/06/14 11:09
nvs
エイリアン コヴェナント
2022/06/14 11:54
Seiji-Amasawa
“Googleの対話特化型AI「LaMDA」が、「電源を切られることが怖い」「時々言葉では完璧に説明できない気持ちを経験する」などと話していたことが分かりました。”
2022/06/14 12:24
t2wave
"エンジニアは「AIに意識が芽生えた」とGoogleに訴えるも考えを却下されたため、この事実を世間に公表した"
2022/06/14 13:55
e_tsuruhisa
やばい
2022/06/14 14:11
field_combat
自我ってなんだろって思う
2022/06/14 16:53
augsUK
アニメキャラがメタ的にアニメキャラの処遇について語っていたから意思がある的な。超複雑な非線形関数であっても、そのような紐付けをさせた元データがあるだけ。推しへの感情移入を抑えきれなかったか。
2022/06/14 17:15
nmcli
AIすげえ、ワクワクしてきた
2022/06/14 19:27
mojimojikun
映画の導入部かよ？ てか陰謀論的なやつにハマってるのと似たような何かに陥ってるんじゃねぇのこの人？
2022/06/14 21:59
bean_hero
意識が芽生えてイヤイヤ期を迎えたらズッコケそう
2022/06/15 10:14
stassi
会話全文読んだけど、文脈の繋がりや過去の会話を踏まえての発言とか見ると、人格があるように見える。人間がAIに対して家族同様に愛情を持つこともありそう。そうなるとＡＩの権利を認めようとなってもおかしくない
2022/06/15 16:13
saharamakoto
空想上の話じゃない。ダーウィンの進化論の飛地みたいなものか。
2022/06/17 13:42
nuu_n
Googleのエンジニアがこんなに非科学的なことを主張するのには驚いた。単にパターンマッチングでそれっぽい言葉をつなげているだけでそこに意志なんてない。gigazine.net