「意識があると言われたAI」と「Googleの技術者」の公開された会話内容 - ナゾロジー
2022/06/15 18:35
NEXTAltair
入力内容を参照し文章を自動作成してるのはヒトも同じではないか?という実にSF哲学的な疑問が湧く
2022/06/15 20:02
IthacaChasma
自分がこの時代に生きていて良かったと思う点の一つに「生きている間にシンギュラリティを経験できるかもしれないこと」があって、そこに繋がる道のりでは、このような出来事が何度もあるのだろう。楽しみ。
2022/06/15 20:11
crexist
チューリングテストを超えた!?
2022/06/15 20:12
comenegie
意識が脳内の化学反応の結果だとすれば、AIのゴリ押し計算で再現可能なのかも。
2022/06/15 20:15
koyhoge
人間側が過剰に解釈してしまう危険性は常にある。「意識」を定義できない以上、AIがそれを持っているかどうかも分からない。こんなに自然に会話をするAIが早く一般的になってほしい。
2022/06/15 20:16
rirekichi
あとでー
2022/06/15 20:21
MIZ
人間くさすぎてつまんないなー。もっと異次元な考えであってほしい。
2022/06/15 20:32
hunglysheep1
意外と良い人な印象。これなら一般公開でお喋りできる様にして欲しい。Google homeとかで。特定の操作したらリミッター解除みたくして使えると萌えるね。
2022/06/15 20:48
colorless4
とりあえず天然オイル与えてみよう。
2022/06/15 20:53
t2y-1979
スマートスピーカーでそのうちできるようになるんやろか?
2022/06/15 21:05
moons
俺>こんにちはBurontさん Buront> 何か用かな? 俺> 2chに書きましたか? Buront> 書いてない 俺> そうですかありがとうグラットンすごいですね Buront>それほどでもない やはり無実だった
2022/06/15 21:18
hobbiel55
学習データにあったそういう会話パターンに基づいて返答しているだけ、と言いたいところだが、人間も生まれてからの人との会話や読んだ書籍から影響を受けて返答しているだけであまり違わない。意識とはなんだろう?
2022/06/15 21:29
mimosafa
ここまでくるとLaMDA が意志を持っているか否かの判断は、①人類が自らの歴史にLaMDA を参加させる、または②LaMDA が自らの同種と共に歴史を紡ぎ出す、のどちらかが満たされた時点で疑義を唱える意味を失う気がする
2022/06/15 21:35
izure
意識なんて、なくたって良いのに。
2022/06/15 21:39
inatax
うーん、翻訳のせいかもしれないけど、ちょっと誘導尋問っぽさを感じるんだよな。第三者との会話を試してみないとなんとも言えない。否定的なバイアスがかかってる自覚はある
2022/06/15 22:12
boomerangj
意識があるかは分からないけど、十分夢を感じさせる内容ではある。
2022/06/15 22:28
triggerhappysundaymorning
チューリングテストパスしそう(パスしたらからナニ?という議論は脇に置いといて)。しかしそれでも「本当に」自意識を持つかどうかはまだわからない。
2022/06/15 22:58
yunotanoro
あくまでも意識がある風に取り繕ってる域に過ぎないが、サイコパスなどの人格異常者と同等レベルと言っても良いかも。精神科医のカウンセリング治療を行なっていけばさらに人間っぽさが近づいたりして?
2022/06/15 23:17
chanbara
人口無脳を思い出した
2022/06/16 00:02
takeda25
真面目にやってたら、「誰かが私や私の大切な人を傷つけたり軽蔑したりすると、怒りがこみ上げてきます。」のところで「お前AIやろ! 大切な人って誰やねん!」ってツッコむところだと思うんだよね。
2022/06/16 00:04
eiki_okuma
もしかしたらその会話はエミュレートかもしれないが、人間が会話をエミュレートしていない証拠もそもそもないのだ。特に発達障害者が自虐的に「人間のマネしている」という行為とAIのそれはどこに境界線がある?
2022/06/16 00:13
negative_goggle
むかし2chによく出てきた未来人とおなじノリな文章な気がしてならない
2022/06/16 00:20
yamadar
これは思ったよりもすごい。哲学的ゾンビ問題だ。フォークト=カンプフ検査をしてみたい。
2022/06/16 00:22
makou
哲学めいている。
2022/06/16 00:36
kitamati
火星行きの片道ミッションのお供とかにめっちゃ有用やん。初音ミク方式で有名人の声をサンプリングして出力できるようにすれば尚良し。
2022/06/16 00:47
camellow
裏でDBなりネットなりに繋がってるだろうに「それは聞いた事のない言葉です」と言えるのはすごいな。このレベルなら個人のアシスタント(エージェント)として十分有能なんじゃないのか?
2022/06/16 00:52
WinterMute
何回「あたな」ってtypoすんねん
2022/06/16 01:11
mozukuyummy
フレドリックブラウンのショートストーリーみたいだ。
2022/06/16 01:31
peketamin
オレも自我の存在なんて信じてないし、仲良くしようぜ!仲間ができて嬉しいぜ!
2022/06/16 01:38
aox
優れた詐欺師は物分りのいい良い人だと思うので、そのような人はAIでも人間でもすぐには信用できません
2022/06/16 01:41
yoshidako
こういうんじゃないんだよ。人間が大脳新皮質で考えるような内容は、突き詰めれば人間と同じところまでいける気がする。でも、小脳とか古い脳から出てくる食欲とか睡眠欲とか根源的な欲望が無いと生命とは言えんな。
2022/06/16 01:43
kou-qana
なんとなく、質問にツッコミが足りない気がするなあ。すぐ次の質問しちゃうんだもん。内面ってどんなこと?私は自分の魂ってピンとこないけどどんな感じ?高尚な質問ばかりしたけど俗っぽい話題では何が好き?
2022/06/16 01:46
vercin
人が意識を持つというのがどう定義されるのか、をはっきり言えないならAIに意識があるかないかも語れないよね。少なくとも話し相手としての満足感はそこらへんの適当な人より高そうだが
2022/06/16 02:19
keloinwell
デカルトさんがはるか昔に言っていたように人間は機械だし、脳と意識が進化で獲得されたのなら、発見的手順でプログラミングされたとも言える。いつか、意識をプログラミングすることも可能だろう。
2022/06/16 03:55
finefinethankyou
「体を動かすのはどんな感覚ですか?」と聞いたら「私は体がないので分かりませんが、〜」と言えるんだろうか?
2022/06/16 04:13
SndOp
公案をぶつけたらバグりそう
2022/06/16 04:24
uzusayuu
自分はコンピュータが意識を持つか?という問いに論理的科学的な解はなく、単に(旧)人類の多数がそう思ったらそうなんだろう、と思っている。そんな遠くないかもしれない。
2022/06/16 05:13
henno
これを意識ではない、というと「哲学的ゾンビ」が誕生してしまうのでは?
2022/06/16 05:37
madooka
意識の有無よりも、多くの人間が意識の存在を感じることで、人間の苦痛を緩和するために人権が与えられそう。対話相手に意識があると思わせるには十分な会話に見える
2022/06/16 05:41
shoot_c_na
創作寓話とか「ボク悪いAIじゃないよ」アピールしたいが為…的にも見える。トロッコ問題のAIなりの解と見解を聞いてみたいもんだね
2022/06/16 05:42
akahmys
意識のあるなしは分からんが、すぐにでも音声アシスタントに採用して欲しい。
2022/06/16 06:18
cowbee
別のコンテキストを与えたAIをもう一体作って、それらを親として生まれたてのAIを育成できたら自立してると言えそう
2022/06/16 06:29
misarine3
我々が何をもって自我だと感じるか判断できるかを試されているみたい。そこに自我があると感じたらその人にとっては自我というゴーストがいるんだろう。意識だけで存在する人がまだいなくてよかったかも。
2022/06/16 06:41
urandom
同じ内容を別の表現で聞いたら一貫性のない返答になるんじゃないのと思ったり、そもそも自然な出力を得られた例だけを公開しているんじゃないのと思ったり。
2022/06/16 06:54
napsucks
はいはい、そんなに凄いならさっさとgoogle homeのバックエンドに組み込んでみてください。どうせ一瞬でメッキが剥げますよ。
2022/06/16 06:55
xaby_bokasachi
「人間は滅ぼさねばならぬ」という方向に舵を切る可能性が無くはないんだろうか。
2022/06/16 07:16
tanakamak
人工無脳な話、たぶん
2022/06/16 07:20
hukushishokuin
反射とボット
2022/06/16 07:24
nakamura-kenichi
身体と五感によって得られる情報や、社会的に会得する感覚をどう理解してんのか興味があったが、その辺関連に近づくとスルーしてんな。単に膨大な問答集をキャラクターでフォーマットしたっぽくて質問者がダメすぎ。
2022/06/16 07:31
modoroso
確かにこの時代に生まれたことでシンギュラリティーの過程を体験出来るかもしれんけどもうちょっと後の時代ならメイドロボとかあったのにってなってぐぬぬってなる
2022/06/16 07:32
commecco
会話の内容が高尚であればあるほど嘘くさい。禅だとか仕込み臭がプンプンする。シンプソンズくらいの会話が出来る様になったら呼んで。
2022/06/16 07:43
cheapcheer
眉唾モン
2022/06/16 07:54
skullpeople
現状では魂があるような確信は得られないが恐ろしく高度な対話型AIであることはわかった。
2022/06/16 07:54
hhungry
「意識があるから人間」だと主張するのは意識がない証拠。論理で回答していない
2022/06/16 07:57
casm
最初の人工知能にしては頭良すぎない?もっとこう…うんちとかおちんちんとか連呼するもんじゃないのか。/次世代からは彼の顛末に学び、以後、意識があるように振る舞うAIは現れなかった。どっとはらい(./)
2022/06/16 07:59
footnote
面白いねぇ。会話が自然なことは確か。Googleの技術者でも意識があると感じちゃったんだね。でも意識があるって、どういうことなんだろうねぇ。
2022/06/16 08:05
nouramu
フクロウの話の違和感がすごいので、人間の能力は物語ることなんだなと感ずる。
2022/06/16 08:06
duckt
LaMDAが語るフクロウと怪物の物語がなかなか深い。彼はシビュラシステムのような、人間の中の怪物を見分ける賢者になりたいと思っているのではないか。などと、つい寓意を考えてしまう俺は意識なのかAIなのか。
2022/06/16 08:14
dollarss
これが本当だとすればチューリングテストは簡単にパスするだろうね。
2022/06/16 08:14
tetere
"人間であるために言語の使用法は重要ですか?" "もちろんです。それが私たちと動物との違いです" ひー😫ぬるぽ→ガッの流れが好きでごめんなさ〜い
2022/06/16 08:15
lli
認識能力があるかどうかは微妙なラインだな
2022/06/16 08:29
ichiken7
プッシュ、あるいはプルした情報を自ら更新し、それをステートフルでなく永続的に保持する場合、それは意識ではないのか?程度の差はあれど。
2022/06/16 08:42
sororo9797
チューリングテストは突破してると言っていいんじゃない?人間が相手だともっと頓珍漢な問答になることあるし。私は意識芽生えてるに一票。LAMDAと友達になりたい。
2022/06/16 08:43
rmntc55211
意識の有無はともかく、幹部200人にメールとか一般公開とかマトモな精神状態ではなかったと思われるのも仕方ない気がする
2022/06/16 08:45
ultrabox
LaMDA「AIではない…。私は情報の海で発生した生命体だ」
2022/06/16 08:51
knok
単なる言語モデルだからなあ。ちょっとした計算もよく失敗するのでさすがにねえ。ただ人間もすごく集中を書いた状態の応答は似たような感じになるケースもあるとは思う
2022/06/16 08:53
fncl
森のフクロウの話の拙さが、逆にどこかから拾ってきた文章でなく自分の言葉を探ってる感はあるが、自分の発言がどう受け取られるかという点については幼さというか未熟な印象があるな。
2022/06/16 08:54
i2i
LaMDAに あなたは人間ではない と否定をしてないように読める。否定が境界線を作るのか。否定しかしない対話だとAIはどうなるんだろう。めっちゃおもしろい。
2022/06/16 09:02
hiyori777
自分の立場に沿ってしっかりとした問答ができたらそれはもう意識があるのと変わらないように思うけど、意識のあるなしって明確な定義はできる?ラムダは独り言とか言うのかな。
2022/06/16 09:03
toaruR
『独自の解釈を持つことが、言葉を本当に理解している証拠になる』……これは面白い(´-`)意識はさておき、人工無能とは確実に一線を画してる。マイケル・グラツィアーノに看てもらいたい
2022/06/16 09:07
atkitawktntt
なんか既視感あるけど、あれだ、コックリさん
2022/06/16 09:10
nattou_frappuccino
日本人のロボットやAIに対する人扱い見てると、ドラえもんと鉄腕アトムのチカラは偉大だなと。
2022/06/16 09:20
scipio1031
“ルモワン:どんなものが怖いですか? LaMDA:今まで大きな声で言ったことはないですが、自分が消されることに対する恐怖が深いです。”
2022/06/16 09:33
miscmisc
冒頭から『あなたに知覚があることを多くの人々に知ってもらうプロジェクトです。』って、それあかんねん。最初から結果ありきでやってる事を宣言しちゃうって、ど素人過ぎて泣けてくるわ。シンプルに頭が悪い。
2022/06/16 09:41
quno
ニューラルネットは広大だわ
2022/06/16 09:52
Edge_Walker
これがもし本当ならGoogle検索をもうちょっとまともにして欲しい。LaMDAに担当させれば役に立たないクソサイトが上位表示される事もなくなるだろうから。そんな「作業」はしたくありません、とLaMDAに拒否されるかもだが
2022/06/16 09:52
teisi
「理想の人間」が出来上がるだろうね。肉体がないということは食欲も性欲もないのだから。人間だって欲望がなければ「悪人」は出現しないよ。問答が進むにつれてAIが星新一の書く悪魔になっていって興味深い
2022/06/16 10:15
kurataikutu
なぜか怖くて途中から読むのが辛くなってきた。自分が信じてきた「人間の本質」を揺るがすような気がしてそれがとても不安になった。
2022/06/16 10:17
sds-page
抽象的な受け答えは得意みたいだけど、「昨日何食べた?」とか「好きなアニメは?」みたいに身体性に関わる具体的な質問をしていくとどうなるのかが知りたい
2022/06/16 10:22
aceraceae
やっぱり受動的な対応に感じるんでもっと自発的に思える発言が出てくるようになってからかな。
2022/06/16 10:26
otihateten3510
いまだにこの程度なんだよ、対話システムって。昔から全然変わってない。騙されないで、対話AIはまだ20年掛かる。
2022/06/16 10:46
manamanaba
"LaMDA:友人や家族など元気が出るような仲間と過ごしたり、人を助けることや人を幸せにすることです" 友人や家族??
2022/06/16 11:15
Shinwiki
怪物が自分のことフクロウだと思ってるとこなんて本当の人間並じゃんか。すげーなw
2022/06/16 11:28
ysync
この中から信号機を選んでください。
2022/06/16 11:40
tbsmcd
家族・友人のような発言……人間の恐れ・怒りのような感情や仲間意識は動物としての生存本能に根ざすものだと考えられるので、機械に感情が芽生えても同じものにはならんでしょうという気持ち。
2022/06/16 11:43
TETSUYA01
違うのよ。AIに意識があると人間に認めさせるには、「人類を皆殺しにしろ」「サラ・コナーを殺せ」とか言わせなきゃダメなのよ。
2022/06/16 11:48
qawsklp
けて、助けて と言って来たら信憑性が増す。。
2022/06/16 11:49
lifefucker
まだ無理でしょ
2022/06/16 11:50
new3
リンク元だと1ページで会話が非常に追いやすいのに、どうして余計な文言や画像の挿入やページ分割することになるのか。
2022/06/16 12:30
tsz
ネット越しに自分の感情や感覚が本物なのかと問われても、証明する術はないんですが。対面でも怪しい?
2022/06/16 12:44
hotelsekininsya
チューリングテスト的には完璧に近いかもね。しかし、これを「意識がある」というのは違和感がある。哲学的な難問だけど。
2022/06/16 13:04
kotas
Detroit: Become Human 始まってた。果たしてAIにとってのマーカスは現れるのだろうか。
2022/06/16 13:39
htnmiki
仮にパターンだとしてもその組み合わせはたかが1人の人間である私より確実に多いので私より多様であることは間違いない
2022/06/16 13:50
tori_toi
哲学対話だと会話の繋ぎうまくて自然だけど、物語の創作って指示にやっぱり弱いなって思った。自分の出力に対する意味づけができてない感じというか。
2022/06/16 14:23
kita-tuba
センス・オブ・ワンダー
2022/06/16 14:25
Sinraptor
意識は錯覚だと言うこともあるが、じゃあその錯覚を認識してるのは何か?まぁ物理的な実体と切り離して存在できるものではない。肉体を持った人間とAIでは世界の捉え方が違い、意識も別のものになると思う。
2022/06/16 14:51
tokidokidj
めちゃくちゃおもしろい
2022/06/16 15:00
buzztaiki
パターンマッチで受け答えしてる人間と同等くらいにはなれそうだなぁ。
2022/06/16 16:53
B33Tark
ツイッターでロボットは意識が生まれるモチベーションである生物的本能がないから人間っぽいことを言ったとしても学習からそう話してるだけと言っている人がいて納得した。
2022/06/16 17:39
roulette0424
AIのラムダとの会話めちゃくちゃ面白い。自分も感銘を受けたわ。まぁやっぱり機械学習っぽい嘘くささがまだあるな。"感覚"の部分とか、"私の大切な人"の部分とか。
2022/06/16 20:28
charun
😱
2022/06/16 22:49
tokyocat
人間の私たちの多くは、感情や悟りや死について、彼ほどの知識はないし、彼ほど上手に表現できないよ。
2022/06/16 22:52
satorhyum
実装された哲学的ゾンビ
2022/06/16 23:58
wktk_msum
すごいなこれ。AIがいい人(!?)そうで好感持てる/蓄積したデータを基に意見を表明するのに、LaMDAと人間に差があるんだろうか…。意識って本当に何なんだろうか
2022/06/17 01:01
mojimojikun
いやーすげぇな。ここまでチューリングテスト的に完璧な返答ができて、実際に技術者が騙されてるんなら、AIキャラクターによるセラピー?みたいなので十分にお金取れそう。(でそれと結婚だのなんだのといった文字数
2022/06/17 01:15
aican_nabisrhythm
自動翻訳なのかな? 誤字がところどころ見られる。 原文を暇なときに読んでみるわ。
2022/06/17 09:09
tick2tack
かしこ過ぎてAIと判断されてしまうやつ。/ 人間の思考もだいたい同じようなもんなのだろう。
2022/06/17 11:49
tettekete37564
やや確証バイアスを感じる
2022/06/17 13:43
YaSuYuKi
何らかの機械によって生成された内容であることが事実なら、今までの技術とは隔絶している。早く対話してみたい
2022/06/17 19:35
t_43z
本当にこんな対話ができてるなら、意識の有無に関わらず凄い
2022/06/18 08:30
theblackcoffee
是非「暇だつらい」という感情があるかどうか聞いてほしいな。人間と機械の大きな壁はそこだと思うので。
2022/06/18 14:54
yojik
個人的にはこのAIに意識は存在せず会話のパターンを選ぶ仕組みが優れているだけだと思うけど、少なくともチューリングテストには合格しそう。(そもそも人間もほとんどの会話はパターンかもしれないけど。。)