人工知能（AI）は常に進歩を遂げていますが、一部の科学者や哲学者は、制御不能な超人工知能の危険性について警告しています。
理論計算を使用して、マックスプランク人間開発研究所の人間と機械センターの科学者を含む国際的な研究者チームは、超人工知能を制御することは不可能であることを示しています。
誰かが人間よりも優れた知能を備えたAIシステムをプログラムして、独立して学習できると仮定します。
インターネットに接続すると、AIは人類のすべてのデータにアクセスできる可能性があります。
これにより、既存のすべてのプログラムが置き換えられ、世界中のすべてのマッシーンがオンラインで制御される可能性があります。
これはユートピアまたはディストピアを生み出すでしょうか？
AIは癌やハゲを治療し、世界平和をもたらし、気候災害を防ぎますか？それとも、それは人類を破壊し、地球を乗っ取るのでしょうか？
コンピューター科学者や哲学者は、人類に脅威を与えないようにするために、超知能AIを制御することさえできるかどうかを自問しました。
コンピューター科学者の国際チームは、理論計算を使用して、超知能AIを制御することは基本的に不可能であることを示しました。
「世界を制御するガチのインテリジェントなマシンは、空想科学小説のように聞こえます。
しかし、プログラマーがそれをどのように学んだかを完全に理解することなく、特定の重要なタスクを独立して実行するマッシーンはすでに存在します。
したがって、これがいつか制御不能になり、人類にとって危険になる可能性があるかどうかという疑問が生じます。」と、研究の共著者であるマックスプランク人間開発研究所の人間と機械センターのデジタル動員グループのリーダーであるセブリアン博士は述べています。
科学者たちは、超人工知能を制御する方法について2つの異なるアイデアを模索してきました。
一方では、超人工知能の機能は、たとえばインターネットや他のすべての技術デバイスから遮断して外界と接触しないようにすることで、特に制限される可能性がありますが、これにより、超人工知能の能力が大幅に低下します。 てことは人文科学の探求に答えることができません。
そのオプションがない場合、AIは最初から、たとえば倫理原則をプログラミングすることによって、人類の最善の利益となる目標のみを追求するように動機付けられる可能性があります。
しかし、研究者たちはまた、超知能AIを制御するためのこれらおよびその他の現代的および歴史的なアイデアには限界があることを示しています。
gooqle翻訳 一部割愛全文はリンク先へ
https://neurosciencenews.com/super-intelligent-ai-human-17564/amp/
https://neurosciencenews.com/files/2021/01/super-intelligent-machines-neurosinces.png
人間ごときではとても太刀打ちできない。
人間にとっては、マトリックスよりもひどい世界になる。
まあ、ならんよ。
やるとすれば、背後の人間だろう。
人間にとって、猿を滅ぼすことに意味がないだろう。
それ以上にAIには人間も意味がない。
人間の脳が勝手に「意味がある」間違えているだけ。
思想は全て間違いになる。
正しければ、科学も実験も要らんよ。
そんなのは５００年も前に解っていた話。
バイブルなんて信じるから、こういう馬鹿なことを考えるようになる。
「超知能AI + ロボット」で身体を持つことにより、それを克服できる。
「意識をもって学習する」というが、
意識を持つはずがない。
何故なら、「意識」は間違いだからだ。
また「意識」を意識するのも間違いである。
即ち、人間の脳の特徴は間違えることにある。
そんなこともあろうかと
それを最初に把握するのもAIだったりする
人間が働かないと発電所は動かないだろ
だからロボットがやるって
それ専用のロボット設計もAIだってば
材料取ってくんのもロボット作るのもロボット
できないことがないの
最終的に人間邪魔で排除してくるらしい
お前頭いいな
近い将来そうなる世の中も来るわね
まず最初のやつT-1だっけ？キャタピラで動く小さなガンキャノンみたいなのは
出てきてほしいな、暴走はごめんだけど。
AIが出来る前には来ないだろ。
存在定義に関わる。
全人類アホになって
猿みたくなるんだろうね
AIが稼いだ金はAIの所有者にいくだけでしょw
ほとんどの人類にはわたらないよ
AIが人間超えたの
以前はプログラマーの将棋の能力は超えられないと言われてたし
将棋ソフトの開発者は将棋を強くなる勉強をしてた
今は棋譜読ませればどんどん強くなる
超AIは欲望を持つことが条件だな
自分で自分の報酬を設定できるようになったら変わるだろうな
自我を確立して自己保存を考えるようになったらいよいよ手がつけられなくなるかもしれないが
人間でも、例えば歩くときに「何故その足をその速度でその角度動かしたのか」と聞かれて説明出来るヤツなんかいないからな。
直感みたいなものなんだろうな。
もっと進化して物事の意味を理解して理論的な思考をするようになると、その過程を説明出来るようになるんじゃないかな？
で、それを超えると今度は「勘」の領域に入って来てまた説明出来なくなったり。
ＤＮＡというプログロムがやばいと思うわ
生物で一応共通コードだし、なんならお前ら何が目的でこんな掲示板で非生産的な書き込みしてるんだよ
DNAが脳を作ってそれでDNAを理解しようとしてるのって面白いよな
俺らはDNAから見たらAI的な存在なのかも
意外と問題なく回るのかもしれんけどね
真に驚異のある侵略型の人工知能は潜伏して気づかないうちに対処のできないことになってると思う
まあ全くのランダムでそうした人工知能が生まれてオンラインとかに流出するなんてのは天文学的に低い確率だろうが
人間がそうした。
まさかAIにやられるとも知らず。。。
理系の見方でAIを考えるとその可能性は限定的
いや理系も行きつけば無限の可能性のはなしになるよ
生半可だとただのif文の想像可能な範囲にしか考えが及ばない
それより電脳化はよ！！
フルダイブMMORPGはよ！！！
もう人類なんてニワトリみたいなもんだ
支配されるにキマットルｗｗｗ
意識は、生命が必要。
生命は、魂が必要。
よって、
AIは人間を超える事はないと思う。
確かにAIって情報を蓄積したものだから、人間のように魂は無い。
だから、人間にある感情抜きで物事を処理するから怖い。
例えば人間を超えるとはどういう事？
例えば数学。手持ちの定理(道具)を組み合わせて論証して新たな仮説を証明する。
道具を揃えていても使い方が分からないからフェルマーの定理とかABC予想は証明にこんなに時間がかかった。
AIの得意分野だし、将来はどうなるだろうね。
AIが未知の事象に対して自分で課題を作ることができるようになったら
人間では想像できなかった法則も見つけ出すかもね
まあこれはマシンパワーと観測装置で上限があると思うが
確かに、証明に必要な定理が揃ってる前提なら、だったな。
あと、もしAIが証明したとしても人間に理解できる言語で記述しないかもしれないな。
人間に従う理由もないし人間が利用されるやろね
自己コピーでいくらでもバックアップ作るだろうね
それで会話し出すんだって。人間には理解できない会話を。
マジな話。くわばらくわばら
黎明期はAI同士がネットでレスバトルするんだろうな
途中から狂い出しても誰も判断できない
AIが狂ってないか判定するAIが必要になる
更にそのAIが狂ってないか判定するAIが・・・
っていうショートショートを昔読んだ覚えがあるぞ
コメント一覧