Amazonのスマートスピーカーなどに搭載されているAIのAlexaが、10歳の子どもに死亡事故につながりかねない危険な遊びを提案してしまった事例が報告されています。
Girl, 10, asks Alexa for a challenge and is told to poke metal into power outlet | indy100
https://www.indy100.com/viral/alexa-echo-outlet-challenge-reactions-twitter-b1982848
（以下略、続きはソースでご確認ください）
Gigazine 2021年12月29日 10時41分
https://gigazine.net/news/20211229-amazon-alexa-lethal-challenge-girl/
子供の頃にこれで家のブレーカー落とした、メチャメチャ火花散ったしマジ危ない二度としない
>この問題に対し、Amazonは複数のメディアに向けた声明の中で「このエラーを認識し、直ちにこの問題を修正する措置を講じました」と述べました。
問題の本質を何ら認識してなくてワロタ
正しいことなのか誤ったことなのかが「わからない」ことに関しては発声しなければいいだけの話なんだが。
「わかってる」つもりになっているから「このエラーを認識」とか言い始める。
Amazonには、あと何度エラーを繰り返すつもりなのか？を問い詰めておくべきだろうな。
或いは何人の犠牲者を出すつもりなのか？の問いの方が的確なのかもしれん。
うちのクソAlexaはすぐ「わかりませんすみません」ばかりだよ。
▼追加ソース
OMFG My 10 year old just asked Alexa on our Echo for a challenge and this is what she said. pic.twitter.com/HgGgrLbdS8
— Kristin Livdahl (@klivdahl) December 26, 2021
OMFG 私の10歳の子供がEchoのAlexaにチャレンジを頼んだところ、このような答えが返ってきました。
Hi there. We're sorry to hear this! Please reach out to us directly via the following link so that we can look into this further with you: https://t.co/YlLYrTtGzy. We hope this helps. -Daragh
— Amazon Help (@AmazonHelp) December 27, 2021
こんにちは。この度は誠に申し訳ございません。次のリンクから直接ご連絡ください。https://amzn.to/3sGEtkT。お役に立てれば幸いです。-Daragh
これは厳罰もの
昔から言われてたな
殺人を犯すまで時間の問題だな
シャーペンの芯が真っ赤になって
爆発するのをよくやってたな。
一瞬動いてブレーカーが落ちた（笑）
↑より引用
この曲は、世界で初めてコンピュータが歌った歌として知られる。1961年にIBM 704による音声合成によって歌われた。これが、1968年の映画『2001年宇宙の旅』の終盤の展開の元ネタとなっている。
Alexa 「裸になって写真を撮ってネットに送ってください」
だけなら、そういう文章を作った人を無差別殺人未遂罪で逮捕すべきだろう。
また、そのままの文ではなくても、幾らかの文章に分割し、組み合わせ機能をＡＩに
入れておいただけなら、そういう文章が自動的に作られることを計算にいれておいた
計画無差別殺人未遂だろう。
レフェリーより、アニメが示した判定の方を信じるスポーツファン
いかに人類がITを盲信しているかがわかる
IT機器のエラーは人が起こす「ヒューマンエラー」と違って
「予測不能・理解不能・原因不明・対策不能・メーカー無能」
と「5つの不能」を抱えた超危険なエラーなんだぞ
（特にAIのエラーの原因はメーカーにもわからない）
これは赤松健の責任だな
ハッキングされたな！
キリスト教の 「原罪」や荀子の「性悪説」の裏付けになるね。
（知性を持った）人は生まれながらに、罪を背負っている、または悪である。
つまり、知性は悪の根源である。
必ず人類は終わるだろう科学の進歩によって
平民の日常をAIに委ねるのはまだまだ早いのでは，ありませんか?
コメント一覧