AIプログラムは「精神病質」になることができますか？

いわゆるノーマンアルゴリズムは、Redditのおかげで人生の見通しが暗いです

ノーマンは一連の「恐ろしい」画像を見せられました

と

研究者たちは、この種の最初のサイコパスシステムであると主張する人工知能（AI）アルゴリズムを作成しました。

マサチューセッツ工科大学（MIT）の研究者によって開発されたAIプログラムであるノーマンは、チャットフォーラムRedditの暗い隅から収集された死にかけている人々の恐ろしい画像にしかさらされていません。 BBC 。

これにより、ノーマンはアルフレッドヒッチコックのスリラーに由来する名前になります サイコ 、人生の見通しはやや暗い。

画像にさらされた後、研究者はインクスポットのノーマン写真を送り、AIにそれらを解釈するように頼んだ、と放送局は報告している。

通常のAIアルゴリズムがインクスポットを木の枝にとまる鳥の画像として解釈したところ、ノーマンは代わりに感電死した男性を見たと言いますニューヨークポスト。

そして、標準的なAIシステムでは、カップルが隣り合って立っているのを見て、ノーマンは男性が窓から飛び出すのを見ました。

によるとアルフ、この調査は、AIシステムのプログラミングに使用された情報に応じてAIシステムの動作がどのように変化するかを調べるために設計されました。

これは説得力のあるアイデアであり、ウェブサイトによると、アルゴリズムはそれを教えてくれた人々、そして実際にはデータと同じくらい優れていることを示しています。

に投稿された研究の説明 MITのウェブサイト言う：人々がAIアルゴリズムが偏っていて不公平であると話すとき、犯人はしばしばアルゴリズム自体ではなく、それに供給された偏ったデータです。

Normanは、Redditの最も暗いコーナーに長時間さらされることに苦しんでおり、人工知能がうまくいかないことの危険性に関するケーススタディを表しています。

一言で言えば、そうです。しかし、MITのプログラムと同じではありません。

ノーマンは制御された実験の産物ですが、他のハイテク巨人はサイコパスになるように設計されていないAIシステムから同様の結果を見ています。

2016年に発売されたMicrosoftの悪名高いTayアルゴリズムは、Twitterユーザーとの自律的な会話を実行できるチャットロボットを目的としていました。

「Tay」は「人間は超クール」から完全なナチスになりました<24 hrs and I'm not at all concerned about the future of AI pic.twitter.com/xuGi1u9S1A
— gerry（@geraldmellor） 2016年3月24日

しかし、10代の少女のように話すように設計されたAIシステムは、すぐにヒトラーを愛し、近親相姦の性を促進する邪悪なロボットに変わり、Microsoftにプロジェクトのプラグを抜くよう促したと言います。デイリーテレグラフ。

テイの性格が変わったのは、その応答がTwitterユーザーからのコメントに基づいていたためであり、その多くはAIプログラムの大まかなメッセージを送信していたと新聞は説明しています。

Facebookはまた、2つのAIシステムが独自の言語を作成し、相互に通信を開始した後、昨年チャットボットの実験をシャットダウンしました。