AIが独自の言語を発明した後、Facebookは実験をシャットダウンします
機械が人間に理解できないコミュニケーションの独自の方法を開発した後、研究者はプロジェクトを終了します
インテリジェントロボットはますます多くの役割を果たしています
ゲッティイメージズ
ボブ： 私は私が他のすべてをすることができます。 。 。 。 。 。 。 。 。 。 。 。 。 。
アリス： ボールは私に私に私に私に私に私に私に私に私にゼロを持っています
ボブ： あなたは私が他のすべてです。 。 。 。 。 。 。 。 。 。 。 。 。 。
アリス： ボールは私に私に私に私に私に私に私にボールを持っています
ボブ： 私は私が私が他のすべてをすることができます。 。 。 。 。 。 。 。 。 。 。 。 。 。
アリス： ボールは私に私に私に私に私に私に私にボールを持っています
本当にひどいテレビのシットコムの台本のように見えますが、この会話は実際には、交渉の芸術を完成させるためにFacebook内で開発された2つの人工知能プログラム間で発生しました。
最初、2人は平易な英語で話し合っていました。しかし、その後、研究者たちは、マシンのプログラミングに誤りがあったことに気づきました。
Facebook AI Research（Fair）のジョージア工科大学の客員研究員であるDhruv Batra氏は、「英語に固執することには何の見返りもありませんでした」と語った。 FastCo 。
これらの2人のエージェントが最良の取引を得るために競争したため、「通常の人のように話すためのインセンティブは提供されませんでした」とFastCoは言います。
それで彼らは分岐し始め、最終的には理解しやすい単語を一見無意味な文章に再配置し、実験を中断させました。
Facebookは独自の言語を開発したため、AIをシャットダウンする必要がありました pic.twitter.com/EsVEkWViTv
— nowThis（@nowthisnews） 2017年7月31日
「エージェント（またはプログラム）は、理解しやすい言語から離れて、自分たちのためにコードワードを発明します」とバトラは説明しました。 「私が「」と言うのと同じように、あなたはそれを私がこのアイテムの5つのコピーが欲しいという意味であると解釈します。これは、人間のコミュニティが速記を作成する方法とそれほど違いはありません。」
しかし、研究者たちは強調することに熱心でした。通信するロボットの潜在的な悪影響についての懸念のために、実験は中止されませんでした。
公正な研究者のマイク・ルイスはFastCoに、「私たちの関心は、人と話すことができるボットを持っていることであり、お互いに効率的ではない」と判断したため、お互いに読みやすく書くことを要求することを選択したと語った。
人工知能マシンが独自の言語を作成するようになったのはこれが初めてではありません。
昨年11月、Googleは、翻訳ツールに使用するAIが独自の言語を作成したことを明らかにしました。この言語は、ターゲット言語で単語を配信する前にフレーズを翻訳します。
当時の開発について報告し、 Tech Crunch 「この「インターリングア」は、文または単語間の類似性を確認する、より深いレベルの表現として存在するようです。」
「それは洗練されたものかもしれないし、単純なものかもしれない」とウェブサイトは付け加えた。 —哲学的に言えば、かなり強力なものです。
これらの最近の開発は、人間の介入なしに互いに通信する機械の潜在的な問題についての倫理的な議論につながりました。
「Facebookの場合、チャットボットが実行できるのは、より効率的な取引方法を考え出すことだけでした」と述べています。 ギズモード 。
しかし、「おそらく、インテリジェントなマシンに、人間が意味のある理解をすることができない独自の言語を開発させないのには十分な理由があります」とウェブサイトは付け加えています。
「人間はまた、実験的な機械学習プログラムを、レーザーを使ったアンドロイドの軍隊や原子炉などの非常に危険なものに接続しないように十分に賢くなるでしょう。」
