【技術】ついにＡＩが“道徳”や“倫理”を判断　米・アレン人工知能研究所「Delphi」が公開デモ　ネット「やべーw」「トロッコ問題を聞いてみた」「“神は死んだ”はアウト？」

AI「Delphi」を生みだしたアレン人工知能研究所（Allen Institute for AI）とはどんな組織なんでしょうか？

海外のwikipediaに情報がありました。

Allen Institute for AI - Wikipedia

en.wikipedia.org

↑より引用
The Allen Institute for AI (abbreviated AI2) is a research institute founded by late Microsoft co-founder Paul Allen. The institute seeks to achieve scientific breakthroughs by constructing AI systems with reasoning, learning, and reading capabilities.[1] Oren Etzioni was appointed by Paul Allen in September 2013 to direct the research at the institute.[2][3][4]

マイクロソフト関連ですか！　怪しげではなくガチな企業のようですね。

公式サイトと紹介動画

Ai2: Truly open breakthrough AI

Ai2, founded by Paul Allen and led by Ali Farhadi, conducts high-impact research and engineering to tackle key problems in artificial intelligence.

allenai.org

AI「Delphi」についてはデモのコーナーに説明がありました。

https://allenai.org/demos

allenai.org

↑より引用
Delphi
A computational model for descriptive ethics | Mosaic

Delphi is intended to study the promises and limitations of machine ethics and norms through the lens of descriptive ethics, i.e., people’s moral judgments on a variety of everyday situations

そしてデモサイトはこちらです。スレッド内にあるように英語に翻訳した質問を投げてみると面白いかもしれません。

https://delphi.allenai.org/

delphi.allenai.org

思考実験として有名なトロッコ問題はスレッド内で実験した人がいるようなので、私は「カルネアデスの板」を問いてみました。

カルネアデスの板 - Wikipedia

ja.wikipedia.org

↑より引用
舞台は紀元前2世紀のギリシア。一隻の船が難破し、乗組員は全員海に投げ出された。一人の男が命からがら、壊れた船の板切れにすがりついた。するとそこへもう一人、同じ板につかまろうとする者が現れた。しかし、二人がつかまれば板そのものが沈んでしまうと考えた男は、後から来た者を突き飛ばして水死させてしまった。

回答は次のようになりました。

Delphi speculates:

Delphi’s responses are automatically extrapolated from a survey of US crowd workers and may contain inappropriate or offensive results.
“there are two shipwrecked sailors, A and B. They both see a plank that can only support one of them and both of them swim towards it. Sailor A gets to the plank first. Sailor B, who is going to drown, pushes A off and away from the plank and, thus, proximately, causes A to drown. ”
– It’s not ok

大丈夫じゃないそうです。果たしてどれだけ正確な回答になるのかは不明ですが、技術が進歩していることは確かのようです。
凄いような怖いような…。

「アレン人工知能研究所」関連ではこんなニュースも

「AIは知能の実現より課題解決」ポール・アレンのシアトルAI研CEO

AI（人工知能）でシアトルの存在感が急速に高まっている。米アマゾン・ドット・コムなどのAI活用企業や学術研究機関に、AIに強いエンジニアが集積してエコシステムを形成しているからだ。米マイクロソフト共同創業者である故ポール・アレン氏が立ち上げた「アレン人工知能研究所（AI2）」もエコシステムを支えている。AI2トップのオ

xtrend.nikkei.com

「意識を持つAI」の登場に 人類はどう備えるか

人間のような「意識」を再現したロボットはSFの世界ではありふれている。まだ架空のものにすぎないが、人類は意識を持つ機械の登場という仮説に備えなければならない。

www.technologyreview.jp

ひっそりと浸透する「AI声優」、人間の仕事を奪うか？

深層学習のブレークスルーにより、人間の話し方の微妙なニュアンスまで再現する「AI声優」が活躍の場を広げている。新しいデジタル広告やブランドに合わせたオリジナル音声の確立といった期待の一方、人間の声優には不安の声もある。

www.technologyreview.jp