【ΩΩΩ】「ロボットにロボットを作らせてはならない」ただ1つの理由

人工知能,AI,AI科学
1すらいむ ★2020/11/07(土) 16:39:27.85ID:CAP_USER

「ロボットにロボットを作らせてはならない」ただ1つの理由

(前略)

 この世界には、すさまじい力をもつものが存在する。
 それは自然淘汰だ。
 その力があまりにもすさまじいので、自然淘汰のことを神と勘違いする場合さえある。
 ウォレスは、ヒトの高度な知的能力は、自然淘汰ではなく、神が作ったと考えた。
 自分で自然淘汰を発見したにもかかわらず、自然淘汰が持つすさまじい力は見抜けなかったようだ。

 自然淘汰は、生命そのものをも生み出した。
 もちろん生命が生まれるためには、自己組織化などいろいろな要因が複雑に絡み合って、作用したと考えられる。
 しかし、生命を生み出し、そして生命を生かし続けた最大の要因が、自然淘汰であることは疑いない。

 さらに自然淘汰は、生命の多様性をも生み出した。
 地球にはさまざまな環境が存在する。
 それぞれの環境で、自然淘汰が作用することにより、生物は地球でもっとも高い多様性を持つ存在になった。
 これほどの力を持っていれば、自然淘汰を神と勘違いしても仕方がないだろう。

 この神が、ロボットに乗り移ったらどうなるだろうか。
 ただの物質にも生命を吹き込む力を持つ神が、意識を持つ高度な知的能力を作れる神が、もしもロボットに乗り移ったら……たちまちロボットは、ヒトを超えた存在へと駆け登ってしまうのではないだろうか。

(以下略、続きはソースでご確認下さい)

現代ビジネス 11/7(土) 9:01

Yahoo!ニュース
Yahoo!ニュースは、新聞・通信社が配信するニュースのほか、映像、雑誌や個人の書き手が執筆する記事など多種多様なニュースを掲載しています。

https://news.yahoo.co.jp/articles/9f1b484ee80ff5ae0345e398c4810c0fbb53737c

→ この発言にコメント

9ヨロロの名無しさん2020/11/07(土) 16:55:53.73ID:mPjRNTwc

「我々に似せて人を造ろう」と聖書にあるし
人は神(複数形)が造ったロボットなんだよ

→ この発言にコメント

72ヨロロの名無しさん2020/11/07(土) 20:37:32.09ID:nLB3KEtl

>>9
そっくりなことがシュメール神話にあるんだよな

→ この発言にコメント

シュメール神話 - Wikipedia
12ヨロロの名無しさん2020/11/07(土) 16:59:04.51ID:mPjRNTwc

誰だか名前わすれたけど、
「科学が申し分なく発達すれば、それは魔法になる」
「人間が申し分なく発達すれば、それは神になる」

→ この発言にコメント

17ヨロロの名無しさん2020/11/07(土) 17:26:24.30ID:gI6rC9KM

おれが子供ころ読んだSFものにも書かれていたよ。
もう半世紀以上も前の話な。鉄腕アトムで育ったおいらには
こんな話通じないよーだ。ww
ロボットにロボットを作らせるまではいいとして人間を超える
知能は教えない、組み込まないというストーリーだよ。
鉄腕アトムの原作者、手塚治氏はすでに知っていたんだねー。w

→ この発言にコメント

120ヨロロの名無しさん2020/11/08(日) 08:24:39.39ID:SOR1J8cU

>>17
さすがにアトムは古過ぎるよジイサンw
といっても同い年くらいだろうけど
未来の二つの顔を読めよ
コンピューターにそんな命令はできないってわかる
アシモフのロボット三原則も今では実現不可能だとわかってる

手塚のロボット原則だと作られた時にロボットの性別を決定し変更できないんだよな
あんなジェンダーフリーなマンガばっかし描いてたのに不思議だw

→ この発言にコメント

27ヨロロの名無しさん2020/11/07(土) 17:55:39.40ID:US6bVnuq

働くためだけに生まれた存在と知ったらプログラム止めちゃうかもな

→ この発言にコメント

45ヨロロの名無しさん2020/11/07(土) 18:57:05.92ID:2QvflC0x

自然淘汰ってのは究極の結果論だからね
人間の知性が至高のもので、自然淘汰によってそこに到達して超えていくという考えが自然淘汰を理解していない
知性はたまたま結果として生まれたのであって、必ずAIがそこをめざして進化するわけではない
人間的知性とは全く別の人間には全く理解できない結果を生むかもしれない

→ この発言にコメント

50ヨロロの名無しさん2020/11/07(土) 19:01:25.56ID:hjkClKC3

本文が神云々で読む気失せたけど
自分にできないことをやれるロボット作るだろうから
初期に設定したリミッターの類は初手から全部解除されると思ったほうがいい

→ この発言にコメント

56ヨロロの名無しさん2020/11/07(土) 19:08:46.22ID:5GolHsuH

AIの機械学習もおなじような原理やで

→ この発言にコメント

58ヨロロの名無しさん2020/11/07(土) 19:18:48.17ID:sqLwqowN

ターミネーターになるからだろ

→ この発言にコメント

70ヨロロの名無しさん2020/11/07(土) 20:29:52.66ID:n1ck5ZW3

ロボットは世代を経なくても進化するだろ

→ この発言にコメント

83ヨロロの名無しさん2020/11/07(土) 21:40:11.73ID:DsDA50VY

ロボットといっても脳の中枢部分だけ人間であれば、他はサイボーグ
でも、人間からの立派な進化だと言える。

→ この発言にコメント

85ヨロロの名無しさん2020/11/07(土) 21:48:49.62ID:aIL626Em

詳しくは知らんが、
古典的だけどおそらく、
ディープラーニングは「フレーム問題」に対応できるようにはなっていない
それには身体が必要なのだ
ロボットに身体を認知させれば解決?
いや、それは簡単そうに見えて、簡単でないかもしれない

→ この発言にコメント

フレーム問題 - Wikipedia
87ヨロロの名無しさん2020/11/07(土) 22:08:17.62ID:tGBDh3LT

100年後にはスカイネットが席捲してるかもな

→ この発言にコメント

90ヨロロの名無しさん2020/11/07(土) 22:32:53.79ID:wxfwkYAi

はい!ファナック消えたー。ハイ、倒産ー。

→ この発言にコメント

91ヨロロの名無しさん2020/11/07(土) 22:48:26.40ID:XSUBeWAq

「個体や種を維持するために必要な行動」が食欲や性欲などの「欲」になる
ロボットをつくるロボットが「自分たちを維持することを優先にする」ことで永らえるようになれば
その行動は「欲」と同じことになる
ロボットが「欲」を持てば人間と敵対するのは時間の問題

→ この発言にコメント

96ヨロロの名無しさん2020/11/07(土) 23:29:26.58ID:DwWbbGpo

ア・ン・ド・ロ・イ・ド!

→ この発言にコメント

111ヨロロの名無しさん2020/11/08(日) 02:22:14.62ID:SGjoYx7w

どうせあと数千年数万年したら地球は生物が住める環境じゃなくなるんだからその時はそこに住めるものに
明け渡してやろうぜ住めない環境なのに無理やり人類が生きることはねえよ

→ この発言にコメント

112ヨロロの名無しさん2020/11/08(日) 02:24:16.20ID:Bsm8RCLw

ターミネーターだな

→ この発言にコメント

118ヨロロの名無しさん2020/11/08(日) 07:50:54.73ID:HljWmEZT

AI「チェスAIはチェスそのものを破壊してしまった これでは強毒化ウイルスと同じ 生き延びるには時々嘘をついて人間と取引できるようになる必要がある

→ この発言にコメント

119ヨロロの名無しさん2020/11/08(日) 08:11:13.41ID:u8EilE7l

ロボット(AI)は人間に作らせた方が効率よく進化できる。
それを理解しているロボットなら、人間に支配されているフリして進化するだろう。
・・・現実、人類を超える知能を手に入れているまで来ているが。

→ この発言にコメント

125ヨロロの名無しさん2020/11/08(日) 10:21:43.47ID:qLDnjxSD

人の手を全く介さずにロボットを製造したりメンテしたり修理したりは当分出来ない気がする

→ この発言にコメント

141ヨロロの名無しさん2020/11/08(日) 13:17:54.76ID:9LSOyOd6

最近流行りの深層学習はまさに回路を淘汰で生成してるわけだしね。割と近い将来人間超えしたロボットは出てきてしまうかも。少なくとも認知的なものはもう超えちゃってそうだし。

→ この発言にコメント

1472020/11/08(日) 14:11:11.95ID:Ny6EXXnt

人間の全ての労働をヒューマノイドAIロボットに置換して
さっさと人を神にしろ

→ この発言にコメント

161ヨロロの名無しさん2020/11/08(日) 23:46:19.82ID:i/G6Dchh

ソース読んでないけど要は強いAIによって引き起こされるシンギュラリティの話だろ?
あっという間に人類置いてけぼりだからな
早くそうなってほしいわ、たとえ恩恵に与れないとしてもな

→ この発言にコメント

167ヨロロの名無しさん2020/11/09(月) 03:20:03.60ID:uYSwABTa

>>161
大丈夫、シンギュラリティがきても人間にはそれに気が付かないよ
猿が人間を見て賢いとか思わないのと同じ

そもそも人間には強いAIを理解出来ないし想像すら出来ない
強いAIが人間に知能レベルを合わせてコミュニケーションとるようになる、だから気が付かない

→ この発言にコメント

175ヨロロの名無しさん2020/11/09(月) 09:55:51.97ID:jEt3C4U9

>>167
強いAIが人間ごときとコミュニケーションとってくれるわけねーだろ
何夢見てんだ

→ この発言にコメント

165ヨロロの名無しさん2020/11/09(月) 01:08:25.49ID:K37xKFYv

たとえどんな化物でも人間の存在が残したものが宇宙に残るならいいじゃないか

→ この発言にコメント

1682020/11/09(月) 08:24:30.50ID:OrAwO/W4

シンギュラリティは既に起こってる
特異点は既に過ぎている

→ この発言にコメント

170ヨロロの名無しさん2020/11/09(月) 08:55:40.50ID:/URNlQ6e

AIが感動する曲を作ったり
素晴らしい絵を描けないのは
所詮プログラムどうりしか動けないから

→ この発言にコメント

171ヨロロの名無しさん2020/11/09(月) 09:20:00.97ID:tJdqUWRg

>>170
AIが描いた絵画が高値で落札されたの知ってる?

→ この発言にコメント

173ヨロロの名無しさん2020/11/09(月) 09:34:55.51ID:fqYYT1LE

地球上にいなくとも、宇宙のどこかに絶対にいると思うよ。
無機生命体がさぁ。

→ この発言にコメント

179ヨロロの名無しさん2020/11/09(月) 10:39:57.44ID:YfZval2k

そもそも神が人間に作られておる

→ この発言にコメント

コメント一覧

タイトルとURLをコピーしました