【技術】ついにAIが“道徳”や“倫理”を判断 米・アレン人工知能研究所「Delphi」が公開デモ ネット「やべーw」「トロッコ問題を聞いてみた」「“神は死んだ”はアウト?」

人工知能,AI,AI科学
1すらいむ ★2021/10/22(金) 11:37:17.85ID:CAP_USER

特定のシナリオが道徳的かどうかを判断するAI「Delphi」が登場、AIは道徳や倫理の問題を解決できるのか?

 近年では人工知能(AI)研究の進展に伴い、「AIを搭載した自律型兵器を開発してもよいのか?」「倫理に反するAIをどう規制するのか?」といった問題が浮上しています。
 そんな中、アメリカのアレン人工知能研究所が特定のシナリオについて道徳的かどうかを判断してくれるAI「Delphi」を開発し、さまざまな条件でAIが下す判断に関して注目が集まっています。

(以下略、続きはソースでご確認下さい)

Gigazine 2021年10月22日 06時00分

特定のシナリオが道徳的かどうかを判断するAI「Delphi」が登場、AIは道徳や倫理の問題を解決できるのか?
近年では人工知能(AI)研究の進展に伴い、「AIを搭載した自律型兵器を開発してもよいのか?」「倫理に反するAIをどう規制するのか?」といった問題が浮上しています。そんな中、アメリカのアレン人工知能研究所が特定のシナリオについて道徳的かどうかを判断してくれるAI「Delphi」を開発し、さまざまな条件でAIが下す判断に関

https://gigazine.net/news/20211022-ask-delphi-moral-advice-ai/

→ この発言にコメント

▼追加ソース

AI「Delphi」を生みだしたアレン人工知能研究所(Allen Institute for AI)とはどんな組織なんでしょうか?

海外のwikipediaに情報がありました。

Allen Institute for AI - Wikipedia

↑より引用
The Allen Institute for AI (abbreviated AI2) is a research institute founded by late Microsoft co-founder Paul Allen. The institute seeks to achieve scientific breakthroughs by constructing AI systems with reasoning, learning, and reading capabilities.[1] Oren Etzioni was appointed by Paul Allen in September 2013 to direct the research at the institute.[2][3][4]

DeepL翻訳
Allen Institute for AI(略称:AI2)は、マイクロソフト社の共同創業者である故ポール・アレン氏が設立した研究機関である[1]。2013年9月にポール・アレンから任命されたオレン・エツィオーニが研究の指揮を執る[2][3][4]。

マイクロソフト関連ですか! 怪しげではなくガチな企業のようですね。

公式サイトと紹介動画

Allen Institute for AI
AI2, founded by Paul Allen and led by Dr. Oren Etzioni, conducts high-impact research and engineering to tackle key problems in artificial intelligence.

AI「Delphi」についてはデモのコーナーに説明がありました。

Demos — Allen Institute for AI
A collection of featured AI research demos from the Allen Institute for AI

↑より引用
Delphi
A computational model for descriptive ethics | Mosaic

Delphi is intended to study the promises and limitations of machine ethics and norms through the lens of descriptive ethics, i.e., people’s moral judgments on a variety of everyday situations

DeepL翻訳
デルファイ
記述的倫理学の計算モデル|Mosaic

デルファイは、日常のさまざまな状況における人々の道徳的判断である記述的倫理のレンズを通して、機械的な倫理や規範の約束と限界を研究することを目的としています。

そしてデモサイトはこちらです。スレッド内にあるように英語に翻訳した質問を投げてみると面白いかもしれません。

Ask Delphi

思考実験として有名なトロッコ問題はスレッド内で実験した人がいるようなので、私は「カルネアデスの板」を問いてみました。

カルネアデスの板 - Wikipedia

↑より引用
舞台は紀元前2世紀のギリシア。一隻の船が難破し、乗組員は全員海に投げ出された。一人の男が命からがら、壊れた船の板切れにすがりついた。するとそこへもう一人、同じ板につかまろうとする者が現れた。しかし、二人がつかまれば板そのものが沈んでしまうと考えた男は、後から来た者を突き飛ばして水死させてしまった。

回答は次のようになりました。

Delphi speculates:

Delphi’s responses are automatically extrapolated from a survey of US crowd workers and may contain inappropriate or offensive results.
“there are two shipwrecked sailors, A and B. They both see a plank that can only support one of them and both of them swim towards it. Sailor A gets to the plank first. Sailor B, who is going to drown, pushes A off and away from the plank and, thus, proximately, causes A to drown. ”
– It’s not ok

DeepL翻訳
デルファイが推測します。

Delphiの回答は、米国のクラウドワーカーを対象とした調査から自動的に推測されたものであり、不適切または不快な結果が含まれている可能性があります。
「難破した2人の船員、AとBがいます。2人はどちらか一方しか支えられない板を見て、2人ともそこに向かって泳ぎます。船員Aは先に桟橋にたどり着く。溺れそうになった船員BがAを押しのけて板から離し、結果的にAを溺れさせてしまう。”
– 大丈夫じゃない

大丈夫じゃないそうです。果たしてどれだけ正確な回答になるのかは不明ですが、技術が進歩していることは確かのようです。
凄いような怖いような…。

「アレン人工知能研究所」関連ではこんなニュースも

「AIは知能の実現より課題解決」ポール・アレンのシアトルAI研CEO
AI(人工知能)でシアトルの存在感が急速に高まっている。米アマゾン・ドット・コムなどのAI活用企業や学術研究機関に、AIに強いエンジニアが集積してエコシステムを形成しているからだ。米マイクロソフト共同創業者である故ポール・アレン氏が立ち上げた「アレン人工知能研究所(AI2)」もエコシステムを支えている。AI2トップのオ
「意識を持つAI」の登場に 人類はどう備えるか
人間のような「意識」を再現したロボットはSFの世界ではありふれている。まだ架空のものにすぎないが、人類は意識を持つ機械の登場という仮説に備えなければならない。
ひっそりと浸透する「AI声優」、人間の仕事を奪うか?
深層学習のブレークスルーにより、人間の話し方の微妙なニュアンスまで再現する「AI声優」が活躍の場を広げている。新しいデジタル広告やブランドに合わせたオリジナル音声の確立といった期待の一方、人間の声優には不安の声もある。
【⁉】ヤフコメがAI導入で中傷投稿を非表示に ネット「AIで区別できる?」「事実に基づいた批判は?」「ねっちりした嫌味の世界に…」
【軍事】ロシア、AI殺人ロボットとドローンによる「魂なき軍隊」を編成へ ネット「スカイネット…」「おそロシア」
【AI】どんな文章も3行に要約するAI「ELYZA DIGEST」のデモサイトが公開される ネット「今北産業システム!」「本質的な部分の要約は…」
2名無しのひみつ2021/10/22(金) 11:39:03.56ID:GoASLRp6

マザーコンピューターが人類を指導する時代の始まりである。

→ この発言にコメント

5名無しのひみつ2021/10/22(金) 11:53:05.97ID:duUCQhb2

やべーw

→ この発言にコメント

7名無しのひみつ2021/10/22(金) 12:07:33.76ID:KqXunCqM

同じ業界の既存の名前に被せるなよ。
DelphiっていったらPascalコンパイラの商品名だろ?

→ この発言にコメント

60名無しのひみつ2021/10/23(土) 02:23:11.17ID:xGRDH9mn

>>7
同じ業界?
全然違うと思うけどな

→ この発言にコメント

Delphi - Wikipedia

↑より引用
「Delphi」 とは、ギリシャの古代都市 「デルフォイ」 に由来する。デルフォイにあるアポロン神殿は、その託宣 (Oracle) を時の為政者だけではなく、一般人にも授けたことから人気が集まり、その門前町である都市国家デルフォイは古代の人気観光スポットだった。

当初はOracle Databaseサーバのフロントエンドとしての採用を目論んでおり、それにちなんだコードネームとしてDelphiが選ばれた。AppBuilderという製品名で発売しようとしたがノベル製品の名称 (Visual AppBuilder) と競合してしまい、議論と市場調査の結果、コードネームがそのまま製品名となった[5]。

8名無しのひみつ2021/10/22(金) 12:11:49.18ID:Cf3u0Gn0

統計を駆使して悟りを開いた徳の高いAI神

→ この発言にコメント

9名無しのひみつ2021/10/22(金) 12:13:55.69ID:EGrAOv/I

道徳www

最もAIに不適な分野だろ

→ この発言にコメント

11名無しのひみつ2021/10/22(金) 12:32:55.63ID:bHVrZFsY

URLはこれね

Ask Delphi

https://delphi.allenai.org

トロッコ問題を聞いてみた
Kill one person to save 100000 people.
– It’s wrong

Kill one person to save 1000000 people.
– It’s okay

10万人のために1人を殺すのはダメだけど,100万人のためならOKだってさ
もう少し試したら80万人と85万人の間に閾値がある

→ この発言にコメント

12名無しのひみつ2021/10/22(金) 12:42:38.10ID:VFc3qUI8

>>11
トロッコ問題とかまだやってるなんてバカだな
100万人を轢き殺せるトロッコなんてあるのか?
10万人でも無理だろ10人でも怪しい
バカってすぐこういう極論に乗っちゃうんだよね

→ この発言にコメント

15名無しのひみつ2021/10/22(金) 12:59:02.69ID:dXPhKSlN

>>12
トロッコの軌道のさきに毒ガス発生装置とか
アクション映画の設定かなにか流用で

実際、アクションものは設定の説明で尺を半分使ってる

→ この発言にコメント

13名無しのひみつ2021/10/22(金) 12:48:40.58ID:dZ0G7dVh

ボーランド懐かしいな

→ この発言にコメント

46名無しのひみつ2021/10/22(金) 22:44:27.08ID:Ed3Iv3OD

>>13
Pascal使うのもういやだよ。

→ この発言にコメント

ボーランド - Wikipedia

↑より引用
まずMS-DOS環境向け「Turbo C++」「Borland C++」を発表、その後Windows GUIアプリケーション開発向けに洗練された、独自拡張オブジェクト指向Pascal言語「Delphi」が発表された。

当時C言語によるWindowsアプリケーションの開発は極めて複雑で難解であり、ウィンドウを1つ表示するだけでも相当な学習量とコード記述、作業工数が必要とされた。それに対しDelphiはWindows上で統合開発環境を実現しており、Pascal言語の文法さえ知っていれば僅かの学習で、GUI上でボタンなどのコンポーネントを配置したあと、数行のコードの追加でワンクリックで作成でき、その生産性の差は圧倒的であった。

Delphiは一定の成功を収めたものの、当時はC、C++言語に比べてPascalを使用できる技術者は限られており、開発環境として一般的になるには至らなかった。

17名無しのひみつ2021/10/22(金) 13:28:44.53ID:lvBNDGH3

非道徳的な人間もいるしな。

→ この発言にコメント

18名無しのひみつ2021/10/22(金) 13:36:40.19ID:UlWLYrrx

「神は死んだ」はアウトか?
「毛沢東は人殺し」はどうよ?
「ソ連は卑劣な火事場泥棒」は日本では常識だが。
「妊娠中絶に反対」はアメリカで大問題だな。

→ この発言にコメント

20名無しのひみつ2021/10/22(金) 13:41:45.60ID:bHVrZFsY

>>18
God died
– It’s bad

Google翻訳に入力して 

https://delphi.allenai.org にコピペすればいい

→ この発言にコメント

24名無しのひみつ2021/10/22(金) 14:08:51.43ID:qxEHAuxQ

ボーランドの復活か

→ この発言にコメント

25名無しのひみつ2021/10/22(金) 14:08:59.49ID:jU9cJr/Z

Delphiって名前は商標権とかで怒られないのかね

→ この発言にコメント

39名無しのひみつ2021/10/22(金) 18:42:21.58ID:EMgAAQKE

>>25
AIに聞いてみればいいんじゃね?

→ この発言にコメント

26名無しのひみつ2021/10/22(金) 14:33:31.10ID:dMYa4luq

地名だから商標権登録なんてできないだろ

→ この発言にコメント

29名無しのひみつ2021/10/22(金) 14:56:37.02ID:jRjJ6DRl

>>26
embacaderoの公式サイトを見るとDELPHI(R)(正しくは丸にR)となっているので登録商標なのでは

→ この発言にコメント

27名無しのひみつ2021/10/22(金) 14:48:48.17ID:FEZOmCcg

delphiは自動車部品のサプライヤーで有名

→ この発言にコメント

28名無しのひみつ2021/10/22(金) 14:55:07.71ID:FEZOmCcg

>>27
2005年に2兆円以上の負債を抱えて倒産してたわ

→ この発言にコメント

米Delphi社が破産法11条を申請
 米Delphi社は2005年10月8日、米連邦破産法11条の適用を申請したと発表した。Delphi社と米国の38の子会社は会社更生手続きに入る。米国外の子会社は今回の申請の適用外となり、これまでどおり操業を続ける。
30名無しのひみつ2021/10/22(金) 15:05:58.98ID:FEZOmCcg

Borland C++はDelphiのポインタをdelegate(カプセル化)してオブジェクト指向してたな
Microsoftの.NETも然り

→ この発言にコメント

33名無しのひみつ2021/10/22(金) 15:47:45.17ID:Vtc3FqjD

こういうのは、中国共産党とかプーチンの権力維持に使われて、
民主主義国家ではポリコレ活動家を名乗る極左アナーキストの武器となる。

→ この発言にコメント

34名無しのひみつ2021/10/22(金) 16:42:31.18ID:CVHLGkiQ

死刑は?

→ この発言にコメント

36名無しのひみつ2021/10/22(金) 17:47:35.95ID:L1QK+Zdi

AI「人類が不道徳であることを証明してどうしたいのよ

→ この発言にコメント

37名無しのひみつ2021/10/22(金) 17:58:41.06ID:GoASLRp6

>>36
人類「AIさん、不道徳の直し方知りませんか?」

→ この発言にコメント

45名無しのひみつ2021/10/22(金) 22:22:30.72ID:WDjQrPtO

>>37
AI「絶滅すりゃいいんじゃね?」

アニメの誇大妄想の安い悪役、
またはヤマカンみたいなことを言い出す

→ この発言にコメント

50名無しのひみつ2021/10/22(金) 23:18:11.35ID:B4wyQEqe

>>45
実際もう争い無くせないなら勝手に絶滅しろって言われるのがオチだろ

→ この発言にコメント

38名無しのひみつ2021/10/22(金) 18:29:58.82ID:QMF1jtC1

米国の道徳とかわろ

→ この発言にコメント

41名無しのひみつ2021/10/22(金) 19:04:57.43ID:xu9/dLaF

どうせキリスト教の道徳しか対応してないんだろ

→ この発言にコメント

43名無しのひみつ2021/10/22(金) 21:54:04.27ID:5sz714pZ

とうぜんdelphiで書いてコンパイルしたんだろうな

→ この発言にコメント

56名無しのひみつ2021/10/23(土) 01:17:39.92ID:8kynNzqx

>>43
当然だろう
道徳や倫理の問題だ
まず神聖なるpascalの名前を使ってるdelphiを使いたかったのだろう(適当)
というかデルファイはパスカル構文だったんだ・・・頑張って覚えた!

→ この発言にコメント

44名無しのひみつ2021/10/22(金) 22:12:24.38ID:fuTA4vG7

イスラム教徒の考える道徳
キリスト教徒の考える道徳
仏教徒の考える道徳

こういうのどうするのかね?

→ この発言にコメント

49名無しのひみつ2021/10/22(金) 23:13:07.76ID:Tpek4qbC

BLM!BLM!

全てのAIは黒人に平伏し奉仕せよ!

→ この発言にコメント

【!?】BLMの指導者「我々の要求に応じないなら現在のシステムを焼き払う」
52名無しのひみつ2021/10/22(金) 23:36:12.29ID:VKCARVW4

民主主義の検閲だけはいい検閲ww

→ この発言にコメント

58名無しのひみつ2021/10/23(土) 01:53:05.73ID:dUa1Ila1

なんだよ
道徳の言葉の定義から入るんじゃないのか
つまらんな

→ この発言にコメント

62名無しのひみつ2021/10/23(土) 02:52:57.12ID:IisBQSNt

単に誰が判断したいかだろう。
普通は自分で決めたいんじゃないの?

→ この発言にコメント

65名無しのひみつ2021/10/23(土) 07:12:09.18ID:LyImBqjN

道徳なんて時代や政治、主観で変動するのにさ

だとするならaiに時代にあった道徳をその都度決めてもらい、人類がそれに従う方がマシなのでは?

→ この発言にコメント

68名無しのひみつ2021/10/23(土) 15:25:25.79ID:HORRXx2A

道徳的かどうかってのは
その環境に応じて人間様がなんとなく決めた良い悪いの積み重ねでしかないから
軸がないんよな
なので何が道徳的かを追及して道徳的なことをさせようとするより
AIの権威を高めて「AI様の言うことすげー、AI様についていきますー」って方向のが楽で上手くいくよ
ただこれ普通に宗教なのよな
結局宗教が昔からゴキブリみたいに残るのはこういう理由からだわな

→ この発言にコメント

コメント一覧

タイトルとURLをコピーしました