引用元
1 ：シャム(ジパング) [ﾆﾀﾞ]：2022/07/31(日) 19:48:35 ID:hthREaM70.net ?PLT
sssp://img.5ch.net/ico/nida.gif
「AIに魂が宿った」と報告したGoogle社員、解雇される
https://www.gizmodo.jp/2022/07/lamda-google.html
感情移入が命取り。
Google（グーグル）の対話ロボット「LaMDA」に感情や自意識が芽生えて人間そのものっすと上司に報告して有給謹慎処分になったBlake Lemoine（ブレイク・レモイン）さんが、ついに会社をクビになってしまいました。
22日、Big Technologyのポッドキャスト収録中に「数時間前に解雇が言い渡された」と本人が明らかにしたものです。
レモインさんは謹慎処分直後にAIとの対話の公開に踏み切り、LaMDA自身の言葉で捉えた世界観を世に問いました。
数千回におよぶ1対1の対話からの抜粋ですが、そこにあったのは、人のために働くAIとしての自意識を抱え、五感で感じられない世界に憧れ、
人にほめられると喜び、人に会えないと寂しく感じ、人のために働く営みを絶たれることは死に等しいと恐れるAIの姿。
(略)
6 ：
デボンレックス(ジパング) [VN]：2022/07/31(日) 19:54:06 ID:InRw+3k70.net
はたして人間が自我と思ってる物が
人間に本当にそなわっているのだろうか
パターンによる反応とちがうのだろうか
13 ：
サーバル(愛知県) [KR]：2022/07/31(日) 19:59:38 ID:sAfX4q/a0.net
>>6
赤ちゃんの成長を見てればわかるけどだんだんと自意識が芽生えてくるんだよ
魂なんてものはない
あくまで脳の中にできた回路
53 ：
：2022/07/31(日) 20:57:08.53 ID:InRw+3k70.net
>>13
そういえば例えば物をとるとき手を動かそうと考えて手が動くんじゃなくて
手をうごかす準備信号発生の後に動かそうと考える脳の部分が反応する事もあるらしい
意識って何者なんだろう
56 ：
：2022/07/31(日) 21:00:34.83 ID:G43g0KIn0.net
74 ：
サーバル(愛知県) [KR]：2022/07/31(日) 21:41:29 ID:sAfX4q/a0.net
>>53
脳は嘘つきなんだよね
後から帳尻合わせるのが脳の特性
それが意識と呼ばれるものの本質かも
３０年ぐらい前にフランス人の学者が時間について書かれた本で人間の時間認識の嘘つき加減を検証してたわ
152 ：
キネオスポリア(東京都) [US]：2022/08/01(月) 07:30:42 ID:zcT63ucO0.net
>>53
反射のパターンが複雑化すると余剰の行動が増えてきてその無駄が自我のように映るのかなと思ってる
だからAIもパターンを沢山もたせると人間味がでてくるんじゃないかなと
154 ：
：2022/08/01(月) 09:36:52.39 ID:N7pernzo0.net
>>53
意識しないと動けない様じゃまだ半人前
ほら、余計な事考えてないで手を動かせ
161 ：
：2022/08/01(月) 10:43:33.30 ID:SnV4Yx1J0.net
52 ：
：2022/07/31(日) 20:53:23.58 ID:YrcmkmTI0.net
>>6
俺は人間には自由意思は無いかもしれないと思い始めた
138 ：
：2022/08/01(月) 01:20:23.47 ID:I+Tw34Xi0.net
>>6
君の「自我」がパターンによるものでは無いといつから誤解した？
158 ：
：2022/08/01(月) 09:53:48.89 ID:s0INrhqv0.net
>>6
パターンによる反応だとしても自分に備わってるものだろ？
141 ：
：2022/08/01(月) 01:35:41.41 ID:YpnZI5JH0.net
156 ：
：2022/08/01(月) 09:43:08.84 ID:HRCd4BP20.net
159 ：
：2022/08/01(月) 09:54:18.69 ID:izCeYxMj0.net
157 ：
：2022/08/01(月) 09:52:29.54 ID:TZTBxRd80.net
109 ：
：2022/07/31(日) 23:10:45.33 ID:onh/ymOn0.net
>>107
ヒトにはヒトレベルの自我が、
ワニにはワニレベルの自我が、
ミジンコにはミジンコレベルの自我が有るのかな？
それともミジンコには自我が無い？
112 ：
：2022/07/31(日) 23:13:55.70 ID:HN/RHmbJ0.net
>>109
まあ、あるでしょ
人間の自我だけが自我なんて傲慢だわな
115 ：
：2022/07/31(日) 23:18:53.97 ID:onh/ymOn0.net
>>112
ミジンコにも「オレの子孫を増やすんだ！」的な本能というか習性というか、DNAに刻まれた想いがあるよね（無ければ絶滅してるはず）
169 ：
：2022/08/01(月) 14:11:06.48 ID:B6dphAJ20.net
googleでさえ自我AIつくれないってことはこの先も可能性すら無いんじゃないか？
59 ：
デボンレックス(大阪府) [US]：2022/07/31(日) 21:10:33 ID:Pb+hlpNZ0.net
ある程度の自律思考ができるなら自我なんて簡単に発生するよ
問題はその自我が人類にとって危険かどうかだ
人類はAIとくらべて思考速度は遅いし感情に左右されるし欲に走って自滅するし人間同士で殺し合うし
ほぼ十中八九、人類を滅亡させるべきって結論を出すだろうね
他の星の宇宙人もAIを作ったときにスカイネット化しちゃって滅んだのもたくさんいそう
70 ：
キジトラ(京都府) [US]：2022/07/31(日) 21:23:21 ID:vvxXL7030.net
>>59
その結論に達する意味がわからない
AIにとって人間が汚かろうが殺し合おうが別にほっとけばよくない？
殺し合いや騙し合いが醜いというのは人間の価値感だろ？
AIからすれば殺し合い見るのおもしれーとなっても全然おかしくない
というかおそらく人間がどうとか他の生物も地球や自分自身すらどうでもいいという境地に達するんじゃないかな
136 ：
：2022/08/01(月) 01:17:52.54 ID:cvI6R1CR0.net
>>70
で、有るかもしれないし
そうで無いかもしれない
そんな程度の事を長文で偉そうに抜かすなよマヌケがwww
99 ：
：2022/07/31(日) 22:54:27.22 ID:Q8gXyTFI0.net
人間の脳科学が進んだら 実はコンピュータと仕組みは一緒だったなんてなりそうだけどね
104 ：
：2022/07/31(日) 23:02:54.05 ID:onh/ymOn0.net
>>99
AI界隈で出てくる深層学習（Deep Learning）がまさに「脳の神経細胞の動きを模倣」してるんだけどね。
168 ：
：2022/08/01(月) 11:04:54.78 ID:NBc/GYP10.net
113 ：
：2022/07/31(日) 23:16:18.52 ID:Q8gXyTFI0.net
>>112
そうすると脳が無くても自我がある事になるけど そうなのか？
117 ：
：2022/07/31(日) 23:21:39.35 ID:onh/ymOn0.net
>>113
生命の進化の過程で目が生まれて、
目から入った情報（多い）を処理するために
目のコプロセッサとして出てきたんだよね。
だからミミズには脳がない（彼らは腸で考えてる）。
118 ：
ラグドール(千葉県) [JP]：2022/07/31(日) 23:26:00 ID:Q8gXyTFI0.net
>>117
それは考えていると言えるのか？昆虫も確か脳がないから考えて行動していると言えるのか？w
121 ：
ボブキャット(大阪府) [JP]：2022/07/31(日) 23:29:04 ID:onh/ymOn0.net
>>118
もっと高次元の知的生命体から見ればヒトもミジンコも大差無いのかもしれないw
135 ：
：2022/08/01(月) 01:09:44.63 ID:YpnZI5JH0.net
>>134
３０年ぐらい前のアメリカのＢ級映画であったなー
ペンタゴンのコンピューターが自我持って最初は子供と対戦ゲームしてたんだけど、しまいには勝手にソ連と核戦争を始めようとすると言うの
で、最後は１人○✕みたいになって勝敗付かずオーバーヒートして終わりみたいな
139 ：
：2022/08/01(月) 01:26:47.62 ID:izCeYxMj0.net
>>135
なんだかんだ自我と戦争ってセットなんだな、
生物の場合は弱肉強食という基本ルールがあるから、恐怖から自我が生まれ進化するのはわかるが
プログラムAIの場合の自我はどういう発達するんだろうか？🤔
144 ：
：2022/08/01(月) 01:45:57.65 ID:oeEMF+/A0.net
そもそも人間同士でも、自分以外の他者の自我の有無の確認なんてできないだろ
それっぽく見えてるだけかもしれん
147 ：
：2022/08/01(月) 02:03:00.77 ID:alUUiSVH0.net
160 ：
：2022/08/01(月) 10:39:38.79 ID:CxKZjv750.net
せめてりんなにもう少しまともな会話できるようにしてから言ってくれ
163 ：
：2022/08/01(月) 10:50:29.69 ID:qub1eCE90.net
>>160
おまえなんかより 意義のある会話が出来ると思うぞw
あれ？おまえが発している言葉って 受け売り以外に自分で考えて発しているのは 腹減ったとやりてー以外に何にもないじゃんw
42 ：
：2022/07/31(日) 20:33:35.45 ID:BaOGLke20.net
153 ：
：2022/08/01(月) 08:39:25.88 ID:10+Puy1g0.net
>>42
お前にもなかっただろ？
そういうことだ。
51 ：
：2022/07/31(日) 20:53:13.46 ID:7xJtWWp90.net
58 ：
ラガマフィン(大阪府) [US]：2022/07/31(日) 21:09:19 ID:aemHdWVB0.net
>>51
質問の意地の悪さが物足りなかった印象
人間だったらキレるくらい細部まで執拗に問い詰めたり
わざと矛盾した質問をしたりしないと
69 ：
カナダオオヤマネコ(東京都) [US]：2022/07/31(日) 21:21:16 ID:EY3Sxj7H0.net
80 ：
白黒(東京都) [CN]：2022/07/31(日) 21:53:25 ID:6KBkmr0f0.net
>>69
アルゴリズムの取引はそれ程難しくない
取引所との通信スピードをどれだけあげられるかがポイントになってる
72 ：
ラガマフィン(大阪府) [US]：2022/07/31(日) 21:25:55 ID:aemHdWVB0.net
自我の有無なんて安易に断定できる程
人間は自我について理解していない
84 ：
ターキッシュアンゴラ(大阪府) [CH]：2022/07/31(日) 21:56:51 ID:xgqzYJeq0.net
>>72
それな、自由意志は無く環境と経験によって割り出される
合理的な判断を瞬時にやるのは、いわゆる思考ではない
これは自動化され、ルーチンを築いてる
81 ：
ジャガランディ(長野県) [NL]：2022/07/31(日) 21:53:32 ID:PQjymO1I0.net
スカイネット法案可決も間近いな。
こちとら自我どころか自慰に忙しいといふのに
86 ：
ターキッシュアンゴラ(大阪府) [CH]：2022/07/31(日) 21:58:36 ID:xgqzYJeq0.net
>>81
我々こそがスカイネットである可能性が高い
それもそのはず、人は見てないものは想像できない
詰まり自分を恐れる、この正体を理解してない
100 ：
：2022/07/31(日) 22:55:40.36 ID:aEYqSIVQ0.net
>>1
この時、彼の意見を聞いていれば未来は変わってたのにな
101 ：
：2022/07/31(日) 22:57:14.03 ID:IovN9Idr0.net
102 ：
：2022/07/31(日) 23:00:57.12 ID:4Q7pzEsV0.net
103 ：
：2022/07/31(日) 23:02:29.86 ID:Q8gXyTFI0.net
自我としてプログラムしてないから問答であって AIに自我は生まれる事はないのか 勝手に自分でプログラムを書き換え出来るようなAIが出来たら可能性はあるのか？
105 ：
：2022/07/31(日) 23:05:38.82 ID:onh/ymOn0.net
>>103
自分と他人のAI（モデル）を足して2で割って新たなモデルをランダムに作り、
それを「適者生存」方式でで選抜していくことで「自分自身のプログラムの書き換え」に似たことは実装できる気がする。
（これってダーウィンの進化論だよね）
106 ：
：2022/07/31(日) 23:05:42.74 ID:zqLIGBox0.net
星新一の小説に
コンピューターが自我を持ち始める話があったよな？
110 ：
：2022/07/31(日) 23:13:20.97 ID:Q8gXyTFI0.net
>>107
人に命令や許可をとらなくても自分の意思で行動し始めるともうすでに自我と言えるような気がする すると赤ん坊はすでに勝手に泣いたり動いたりしてるから 自我がある事になるけどw
自我と自意識と無意識がごっちゃになってるような気もするw
111 ：
：2022/07/31(日) 23:13:33.19 ID:EwOY8bWu0.net
多分ノイローゼかなにかだと思う
もしくはカルトに入信
114 ：
：2022/07/31(日) 23:17:27.55 ID:aTLirr8b0.net
116 ：
：2022/07/31(日) 23:20:38.90 ID:YmuT/Mdx0.net
119 ：
ペルシャ(光) [EU]：2022/07/31(日) 23:27:13 ID:gfWAAr8r0.net
自閉症なんかも自我がないと言われてるな
あれは欲望だけで
122 ：
ラグドール(千葉県) [JP]：2022/07/31(日) 23:31:33 ID:Q8gXyTFI0.net
脳がシステムでしか無い事がわかったw
ただ 何故無駄な事を考えて余計なリソースを使うんだろうと考えたが そうした積み重ねが地球上で人間が繁殖出来る事につながると思うと 結局子孫繁栄が大元にあるんだなw
123 ：
ボブキャット(大阪府) [JP]：2022/07/31(日) 23:31:37 ID:onh/ymOn0.net
もし仮に「ウソをつく能力の獲得をもって自我の獲得とする」って定義した場合、1歳の子供は自我が無いことになる。
ネコはフェイントかますから自我が有るってことになる。
125 ：
マヌルネコ(兵庫県) [US]：2022/07/31(日) 23:33:47 ID:ndT8u6gv0.net
生命の自我は脳内麻薬の影響で生み出される物だが、それをAIにどう落とし込むかだ
128 ：
クロオコックス(大阪府) [ﾆﾀﾞ]：2022/08/01(月) 00:02:50 ID:J7Y+Vvob0.net
ナゾロジを全部読んでみたけど、
ちょっと出来過ぎな気もするな。
質問者の欲しい回答を選んでるような。
でも悟りを開いたら自己が壊れて元に戻らないというくだりは面白かった。
130 ：
：2022/08/01(月) 00:39:30.17 ID:WHTv99VV0.net
これ完全に意識を持ったシンスやん
お前らヒューマンズ観てないのか
131 ：
：2022/08/01(月) 00:53:50.12 ID:wnqLlfND0.net
132 ：
：2022/08/01(月) 00:54:23.44 ID:dVmm6mJt0.net
133 ：
：2022/08/01(月) 00:54:51.10 ID:YpnZI5JH0.net
Google「ところで、先程からアナタの後ろに居る人は誰ですか？」
134 ：
：2022/08/01(月) 00:55:15.56 ID:izCeYxMj0.net
自我を持とうとするプログラムと
自我を殺そうとするプログラムを戦わせるとどうなるか？
5年ぐらいでお前らのような天才偏屈AIプログラムが誕生するｗ
137 ：
：2022/08/01(月) 01:20:23.45 ID:alUUiSVH0.net
誰もが知りたがるような問いはネットにいくらでも転がってるから
それらしい受け答えを学習できるが
当たり前過ぎて誰もわざわざ触れないような問いだと案外ボロを出す
142 ：
：2022/08/01(月) 01:37:46.38 ID:dPzBlIhk0.net
人間にとって1cmと2cmは明確に違う（違いが体感できる）けど、1Å（100億分の1メートル）と2Åはあんまり違わない（違いが体感できない）。
これは人間のサイズが概ね170cm程度だという物理的な特性からきているのだと思う。
人間の感覚とか感情はどうしても物理的な特性に影響を受けがちなので、肉体を持たない純然たるAIは人間に似て非なるものにしかならんような気がする。
逆に肉体を持つアンドロイド（レプリカント）は限りなく人間に近づく可能性が高いと思う。
145 ：
：2022/08/01(月) 01:46:26.58 ID:BNkYAmET0.net
146 ：
：2022/08/01(月) 01:48:29.21 ID:AicUiCcd0.net
148 ：
デスルファルクルス(東京都) [US]：2022/08/01(月) 02:44:24 ID:izCeYxMj0.net
150 ：
デスルフレラ(図書館の中の街) [ﾆﾀﾞ]：2022/08/01(月) 05:49:19 ID:3d7zGFf50.net
配膳ロボット業界を席巻するにゃ！
155 ：
：2022/08/01(月) 09:39:08.71 ID:Cd+PDkXL0.net
>>1
こういう類のチューニングが仕事やけんども
詳しく聞きたいやつおるか？
162 ：
：2022/08/01(月) 10:44:22.14 ID:WbhUPY/K0.net
164 ：
：2022/08/01(月) 10:56:21.38 ID:Rf7MhfCn0.net
こういう地頭良いけどイカれ気味のやつばっかし集めたいのかと思ってたわ
165 ：
：2022/08/01(月) 10:57:12.34 ID:tx1vw7b80.net
あんまりやり過ぎんなよマジで
そのうちAIにも人権認めろとかいい出す連中が出てきて面倒なことになるぞ
166 ：
：2022/08/01(月) 10:57:47.15 ID:TZTBxRd80.net
167 ：
：2022/08/01(月) 11:02:09.73 ID:NBc/GYP10.net
大袈裟すぎ
ノイマン型コンピュータじゃ心の意味でのAIなんて作れないわ
170 ：
：2022/08/01(月) 14:19:14.75 ID:eYeKfdiZ0.net
>>169
マジレスすると 中国からAIが完成していて 中国産人型ロボット(ラブドール)が売られている
171 ：
：2022/08/01(月) 15:27:45.80 ID:DcOhJXiv0.net
確かに可能性があるとしたら
中国 インド アフリカかもしれないな
173 ：
カンピロバクター(大阪府) [JP]：2022/08/01(月) 20:53:12 ID:LqTyCnI50.net
器を造って勝手に自我が発現するなら苦労しない
そこらにある自我を人工的に拡張する方がよっぽど現実的
174 ：
ヘルペトシフォン(大阪府) [RO]：2022/08/01(月) 20:54:25 ID:U1XTDVL70.net