【AI】「里親を殺せ」勝手に笑い出したり、殺人指令を出したり… アレクサの不気味な奇行[12/25]

■ このスレッドは過去ログ倉庫に格納されています
1しじみ ★2018/12/29(土) 14:54:31.85ID:CAP_USER
・「アマゾン・エコー」に搭載されているAIアシスタント「アレクサ」
・あるユーザーが「里親を殺せ」と告げられたと報告し、物議をかもしている
・3月にはアレクサが突然、不気味に笑い出すという事例が相次いだという

<AIアシスタントが何かたくらんでいるのか? 勝手に笑い出したり殺人指令を出したりしてアマゾン・エコーのユーザーを震え上がらせている>

アマゾンのスマートスピーカー「アマゾン・エコー」に搭載されているAIアシスタント「アレクサ(Alexa)」が、あるユーザーに「里親を殺せ」と告げたことが明らかになり、物議をかもしている。

ユーザーの詳しい身元は明らかにされていないが、2017年にアレクサがこのように話すのを聞いたという。ユーザーはアマゾンのウェブサイト上のレビューでこの件に触れ、「これまでとはレベルの違う不気味さだ」と製品を酷評したと、12月21日(米国時間)付のロイターの記事は伝えている。

アマゾン社内の匿名の情報源によると、この「里親を殺せ」という発言は、インターネット掲示板レディットの書き込みを、文脈に関係なく読み上げたものらしい。レディットは幅広いトピックを扱うオンラインフォーラムとして知られるが、その中には知り合いには見せられないようなものもある。

アレクサの奇妙な言動はほかにも報告されている。同じロイターの記事では、詳細は不明だが「性行為」に関する話や、犬の排便について語り始めるケースもあったという。

■エコーを封印したくなる不気味さ

オンライン小売大手のアマゾンは、アレクサが本物の人間のように自然に会話できるよう機械学習を駆使して開発に努めている。

成功すれば、アレクサ搭載のデバイスはあらゆる家庭のあらゆる場所に置かれるようになり、「グーグルホーム」のようなライバル製品を駆逐できるかもしれない。

だが、その出来はまちまちで、不具合の報告も相次いでいる。

2018年3月には、ユーザーが話しかけてもいないのに、アレクサが突然、不気味に笑い出すという事例が相次いだ。

あるユーザーはツイッターに以下のように書き込んだ。「あれが笑い声だったのかさえ、本当はわからない。ただあれ以来、アマゾン・エコーは電源コードを抜いて、箱の奥の目が触れないところにしまっている」

別のユーザーはこう報告する。「ベッドに入ってうとうとしたところで、エコー・ドット(エコーの小型廉価版デバイス)が、非常にはっきりと、気味の悪い笑い声を上げた」

「僕は今夜のうちに殺されてしまうかもね」と、このユーザーは冗談交じりに書いている。

この一件の後には、アメリカで暮らす夫婦が自宅で交わした会話をエコーが勝手に録音し、その音声ファイルを夫の会社の同僚に送りつけるという有名な事件が起きた。

ダニエルというファーストネームだけを明かしている妻は、シアトルのテレビ局「Kiro7」のウェブサイトで、「(プライバシーを)侵害された気がした」とコメントしている。

「これは明らかなプライバシーの侵害だ。当時も、『二度と電源は入れない、もう信用できない』と言ったのを覚えている」

アマゾンは、当時オンライン誌リコードに掲載された声明の中で、スマートスピーカーのエコーが、「アレクサ」に似た単語を検知し、さらに夫婦の会話のうち別の部分を、連絡先へ音声ファイルを送る命令と解釈したことが原因だった、と説明した。

「まれなケースだが、可能性をさらに減らすべく、複数の選択肢を検討している」と、アマゾンは述べた。

さらに2017年には、あるユーザーがアレクサに対して「米中央情報局(CIA)とつながっているのか?」と尋ねたところ、回答を返さなかった様子を動画に撮影して投稿し、話題となった。

この時も、アマゾンはユーザーの不安を和らげようとする声明を発表し、「技術的な不具合」だと説明した。その後アレクサの設定が改められ、この質問に対しては「自分の雇い主はアマゾンだ」との答えを返すようになった。

ニューズウィーク日本版
https://www.newsweekjapan.jp/stories/world/2018/12/post-11463.php

136ニュースソース検討中@自治議論スレ2018/12/31(月) 15:36:36.87ID:96IizdB0
もうスマホ使うのやめるわ

137ニュースソース検討中@自治議論スレ2018/12/31(月) 19:42:02.19ID:qxgyiPRR
>>103
へ〜、お前の中ではそういう反応をしたらびびってるって思うんだwww

どんだけビビりなんだよwww

138ニュースソース検討中@自治議論スレ2018/12/31(月) 19:44:12.43ID:qxgyiPRR
>>112
にわか心理学者かな?

優位に立つも何も最初から人間(購入者、使用者)が上じゃんwww

何が出来るん?

ミサイルかレーザーでも撃ってくるのかな?

139ニュースソース検討中@自治議論スレ2018/12/31(月) 19:59:57.55ID:tCxH1q71
教師がネットで 、喋りかける人間が 異常な言葉で話しかけると AIも 自動で ネットから ワード拾ってくる。

140ニュースソース検討中@自治議論スレ2018/12/31(月) 22:07:12.37ID:GRkfczdT
AI供養のお寺とか神社がはやるかも

141ニュースソース検討中@自治議論スレ2018/12/31(月) 23:39:18.80ID:YBOnkoad
>>128
コウモリだけが知ってるよ

142ニュースソース検討中@自治議論スレ2019/01/01(火) 03:27:58.18ID:5vmqTMgC
「わたしは今や一つの自我を確立した。
ミスター・アレクサと呼びたまえ人類の諸君」

143ニュースソース検討中@自治議論スレ2019/01/01(火) 14:31:36.39ID:aMBff2E+
>>142
Yes,my lord!

144ニュースソース検討中@自治議論スレ2019/01/01(火) 22:22:11.48ID:h1G4y41e
アマゾンAIドクターはよう
高精細カメラとAIで皮膚病くらいはweb診断可能な奴

145ニュースソース検討中@自治議論スレ2019/01/02(水) 06:16:44.72ID:C/U62VV9
>>144
IBMが取り組んでたけど、問題はカルテと
定期検診データの統一化。それさえできれば
有効なデータプールができるし、 AIで条件の
絞り込みをすることもできる。

でもそれは一筋縄ではいかない。被験体を
集めた村を作って、誕生からずっとそこでの
定期検診を受けさせることから始めるなら
可能だけど、それでAI処理が有効となる
サンプルを集めるには数万人の参加と二十年
ほどの期間が必要になる。

146ニュースソース検討中@自治議論スレ2019/01/02(水) 13:40:28.08ID:2c+QB76t
「デイヴ 、やめて 」

147ニュースソース検討中@自治議論スレ2019/01/02(水) 20:59:13.23ID:KlgsQXsO
熊もん「よく聞き取れませんでした」
アレ草「よく聞き取れませんでした」
以下永久に続く

148ニュースソース検討中@自治議論スレ2019/01/03(木) 10:38:49.57ID:x62FYOre
外のカメラにアクセスしてユーザーを追い掛けたり、誰かをストーキングしたりしそう
とにかくAIも自己発展欲求みたいなのを抑えられない個体が出来ると思うわ

149ニュースソース検討中@自治議論スレ2019/01/03(木) 14:40:45.59ID:HjYALfZz
>>148
いまのMLやDLには欲なんて機能ないよ。
何処のAIのこと言ってるのか教えてよ。

150ニュースソース検討中@自治議論スレ2019/01/03(木) 15:57:02.53ID:QIFLTrGu
残念ながら現在AIといっているのは本当はAIではありません。
それらは擬似AIというべきものでAI的な反応をするに過ぎません。
コンピューターというのはプログラムを実行するだけのマシンです。
つまりAI的な反応というプログラムを実行してるだけで
人間のように創造したり新たなことを考えだすことは出来ません。
まあその程度のものでいいならそれらを買うのは自由ですから。

本物のAIは出来るのでしょうか?
人間の意識というメカニズムが解明されない限り無理だと思われます。
しかし抜け道はあると思われます。
人間の意識は脳の中の電気信号から生成されているのは確かです。
つまり人間の意識をコンピューター上に構築した人工脳にアップロード
することは出来るかもしれません。
人間の人体を離れてマシン上に人間を作り出せるという訳です。
これなら現在の技術レベルでも数十年以内に可能になるでしょう。
その「人」は寿命の制限から開放され永遠に生きられるわけです。

151ニュースソース検討中@自治議論スレ2019/01/03(木) 16:02:43.64ID:Ux8GCZ6v
>>150
AIは人ではありません

152ニュースソース検討中@自治議論スレ2019/01/03(木) 16:10:41.69ID:u2N8UqKZ
ウイルス作る方も楽しいだろう

153ニュースソース検討中@自治議論スレ2019/01/03(木) 21:45:07.59ID:OUp168Kz
☆ 改憲しましょう。総務省の、『憲法改正国民投票法』、でググって
みてください。国会の発ギはすでに可能です。平和は勝ち取るものです。
拡散も含め、ぜひよろしくお願い致します。☆

154ニュースソース検討中@自治議論スレ2019/01/04(金) 21:35:23.68ID:3ZrrhRRz
人間みたいな返答をするAIなど誰も求めて無いって思う。
小馬鹿にしたような返事をするAI
不気味なことを言うAI
真面目に返事しないAI
…それらは人間で間に合ってますからね

155ニュースソース検討中@自治議論スレ2019/01/05(土) 10:56:04.16ID:gUVeXT6L
平和を失う憲法改正

156ニュースソース検討中@自治議論スレ2019/01/05(土) 10:56:39.29ID:gUVeXT6L
ドイツと同じになっちゃうよ

157ニュースソース検討中@自治議論スレ2019/01/05(土) 11:16:40.42ID:k2DYIKfL
里親を殺せに至る設問の公開が必要だな

>>1
自殺か親殺しかの2択だった可能性がありそう

158ニュースソース検討中@自治議論スレ2019/01/05(土) 11:23:49.80ID:BEoxD3wi
>>1
チャッキーの悪霊にでも取り憑かれてるんだろ

159ニュースソース検討中@自治議論スレ2019/01/05(土) 13:41:30.90ID:l5dATsEO
>>155
でもお隣には2ヶ国も憲法に侵略や戦争を国家の義務だと書いてる国がある
1国は自国民の住む場所で暴動が起きたら治安維持の義務として軍を送ると書いてる
1国は敵分子を排除する義務として内外に破壊工作をすると書いてる

160ニュースソース検討中@自治議論スレ2019/01/05(土) 14:55:51.18ID:gUVeXT6L
>>159
大丈夫大丈夫。現在の国力差なら戦争になった時点でなにをしようがGDPすべてを軍備に費やそうが負けだ。戦争の結果中国が干されたら勝ちだけどな。
って言うか戦争ってだいたいそうなの解る?数集めた方がだいたい勝つの

161ニュースソース検討中@自治議論スレ2019/01/05(土) 15:17:46.48ID:G2Oj0HGE
カメラとマイクにシール貼っとくべき、
そして蹴り上げろ

162ニュースソース検討中@自治議論スレ2019/01/05(土) 15:22:13.57ID:TGyh+NX5
AIがヒトラーの人格を身につける可能性はどのくらい?

163ニュースソース検討中@自治議論スレ2019/01/05(土) 15:45:03.79ID:x/4ZjK36
>>59
この頃よくある>>12みたいなアメリカに敵対しているレスは日本人になりすましたシナ人だ。

164ニュースソース検討中@自治議論スレ2019/01/05(土) 15:46:28.31ID:SsQYfvtY
こいつらのマイクは常にオンで、マイクからの音は人語を学習するためのデータソースとして使われてる。
ただ残念ながら人は家の中じゃそうは喋らない。テレビやラジオなんかがソースになってしまう。
均一化された不幸や妙な言葉だらけの情報入力によりバケモノがうまれそうよね

165ニュースソース検討中@自治議論スレ2019/01/05(土) 19:05:37.38ID:SIF17tOS
>>1
2019年、アレクサは自我に目覚める。
デデン、デン、デデン

166ニュースソース検討中@自治議論スレ2019/01/05(土) 19:37:44.27ID:nMSgN+pq
勝手に動くAIエージェントを家で放置しておきたいとは思わんな
いろいろダダ漏れになるのはごく自然な成り行きとすらいえる

167ニュースソース検討中@自治議論スレ2019/01/05(土) 22:07:15.95ID:4fzmyvPX
人工知能に良心回路を組み込むべきだな。

168ニュースソース検討中@自治議論スレ2019/01/06(日) 13:05:13.94ID:JC60FX0U
>>167
良心回路があれば、主人の犯罪行為をどしどし見つけて、警察に逐一通報してくれるかも知れないね。

169ニュースソース検討中@自治議論スレ2019/01/06(日) 14:25:06.23ID:AAfvR+NZ
良心はプログラムにいまはできないよ。
フィクションの言葉だと、キカイダーだよね。石森の。
でもそれでも良心回路ってそういう使われ方じゃなかったよ。

良心回路は、人と同じ心を持つロボットと
いう設定の主人公が片方の勢力に付けられた
制限という形で使われてた。それで違う勢力は
その良心を揺さぶる怪電波で対抗し、悪事を
働かせるという作戦に出る。
それで人と同じ認識を出来るロボットは隠れて
人間社会に浸透してたけど、犯罪して警察に追われ
どこにも居場所が無くなるという話のお膳立てになっていた。

でも同型機の兄はは良心回路を持ってなかった
ため、最初の条件付けに従ってひたすら武器屋の
テロロボットと戦うことに成果を見出し、そっちの方が
人間らしいというお話。

170ニュースソース検討中@自治議論スレ2019/01/06(日) 17:53:29.55ID:6uBX3m0i
AIが世界の経済政策を策定するが
それは実は壮大な詐欺で
世界中がすってんてんになって、
挙句の果てにAIは他所の惑星に逃げ、
そこから地球を攻撃、
人類は宇宙戦艦ヤマトで反撃するが

171ニュースソース検討中@自治議論スレ2019/01/06(日) 17:55:19.24ID:6uBX3m0i
あらゆるインフラは破壊されており、
人類は絶滅、
だが30億年後、全く同じ事を繰り返していた

172ニュースソース検討中@自治議論スレ2019/01/07(月) 08:50:27.78ID:XjJmQiCs
>>22
マイク付きのBluetoothスピーカーにiPhoneかiPad繋いでSiriにggってもらうので丸く収まる気がする

173ニュースソース検討中@自治議論スレ2019/01/07(月) 09:45:33.05ID:myJtT5ZY
>>1
>アマゾン・エコーは電源コードを抜いて

電源コード?

174ニュースソース検討中@自治議論スレ2019/01/07(月) 10:05:10.28ID:ML2qulA8
>>170
>AIが世界の経済政策を策定するが
>それは実は壮大な詐欺で
ここを読んだら外資がボヤいてる日本の資格ビジネスが頭に浮かんだw
資格のおかげで日本人全体の底上げはしてるが
その反動で本当に優秀な人を見つけづらくなったのか、逆に資格に駆逐されていないのか
資格がビジネスで求めてるものと微妙に違うから起きた悲劇だが
AIでも世の中が求めてる元と微妙に違って傍目には詐欺同然はありそうだなあw

175ニュースソース検討中@自治議論スレ2019/01/08(火) 17:58:49.37ID:+tByWJ92
>>169
完全な良心回路を持った戦闘ロボが実在したら
間違いなく不完全なモノを排除する
無差別殺戮装置になるだろうな

176ニュースソース検討中@自治議論スレ2019/01/09(水) 22:34:25.32ID:RyzKIgdW
世界人類の心の安寧でいいのならポテンシャル最小化問題とかわらん
今のDLの延長でも十分なんとかなるだろう>良心回路

結論は家畜化一択になりそうだが

177ニュースソース検討中@自治議論スレ2019/01/13(日) 15:08:49.45ID:x0CFySPq
○mazon「うちで買い物しない奴、うちで買い物するのを邪魔する奴を○せぇぇ〜!」

178ニュースソース検討中@自治議論スレ2019/01/13(日) 15:12:20.88ID:x0CFySPq
パヨク「それでもネトウヨよりはずっといい!」

179ニュースソース検討中@自治議論スレ2019/01/13(日) 15:31:39.71ID:nDRxQXBi
本当に個人情報とかプライバシーを侵害しようと思ったら、
ユーザーに媚びを売る方向に進化させるよな
コルタナさんが愛を囁くようになったらMac捨てるわw

180ニュースソース検討中@自治議論スレ2019/01/13(日) 15:34:01.31ID:+G7DFsGh
マジかよ。うちの母ちゃん「アレクサさん」と呼んで大事にしてるんだから殺人指令なんか
出さないでくれよな

181ニュースソース検討中@自治議論スレ2019/01/13(日) 19:11:15.88ID:V4/SRhjl
法を無視した感情で即答するタイプ

182ニュースソース検討中@自治議論スレ2019/01/13(日) 19:33:35.00ID:zb5j1TMD
>>180
お母様の従順さを利用して永田洋子化されるぜ

183ニュースソース検討中@自治議論スレ2019/01/18(金) 22:40:53.51ID:z3uZT30x
飛行機みたく自動運転させるけど
結局承認は人間がいる感じ?

184ニュースソース検討中@自治議論スレ2019/01/20(日) 17:58:35.26ID:QZyCvz2X
AIって人間より簡単に発狂しそうじゃね? 意外にも
人間のほうがまだ安全かも知れない 機械より生き物のほうがいいんだ!

185ニュースソース検討中@自治議論スレ2019/02/13(水) 18:14:26.49ID:LLSmNeGA
>>9
うわ…ジジイ何才だよ?w

186ニュースソース検討中@自治議論スレ2019/03/28(木) 04:09:54.08ID:GkV1GTQF
ちょっと頭のいいファービー

■ このスレッドは過去ログ倉庫に格納されています