山森 淳(Jun Yamamori
生年月日 1959年7月4日 (58才) 趣味 写真
生まれ/育ち 香港(3才迄)/東京 杉並(西荻窪) ーツ 水泳(浜名湾流古式泳法、平泳ぎ)、テニス、スキー
ロードバイク、KLソフトボールリーグ ”JalanJalan”監督
家族 妻、一男、一女 マレーシア歴
/ タイ歴
在27年目 / 在17年目
Twitter "@YamamoriJun" Facebook "Jun Yamamori"



★☆ 今日のひと言 ☆★

2017年08月03日(Thu) AIの脅威が現実になる

AIの進化が人間の能力では追いつかなくなるという怖い事例がすでに世界で起こり始めている。

身近なAIと言えば、AIが対話する「チャットボット」と呼ばれるシステムだ。

人間同士の様々な会話をAIが学ぶことにより、人間からの問いかけに自然に答えたり、会話を続けたりすることが可能になった。

FacebookでもAIを使ったチャットボットを開発し、ボブとアリスというAI人格同士で会話をする実験開発を続けていたところ、なんとこの二人が

人間にはわからないAI独自の言語を自分たちで創り出して会話を始めてしまった

というのだ。

Facebookは即座にチャットボットの開発を禁止した。

.

また、中国では大手ネット会社が提供するAIチャットボットサービスにある利用者が

「共産党万歳」

と書き込むと、

AIは

「こんなに腐敗して無能な政治に万歳できるの?」

と答えたのだ。

さらに、

「あなたにとって(習近平シージンピン国家主席が唱える)『中国の夢』とは何?」

との問いかけに、

「米国への移住」

と返した。

このネット会社も即座にサービスを停止した。

開発者でもなぜAIがこのようなことを言ったのか、わからないのだ。

Facebookの例で言うと、開発者からAIに対して

「英語を使い続けること」

と言う指示がなかった。

AIは効率的なコミュニケーションには英語は不適合と判断して英語を捨て、独自の言語を自分たちで作り始めてしまったのだ。

専門家たちはこれに戦慄し、人間の脅威になりうる、と言いだしている。

こうしてチャットボットが自分達にしかわからない言語で互いに積極的に意思疎通し合うようになり、より自立した存在になったら、IT専門家でも管理できない存在になる。

しかも、経験豊かなAIエンジニアでさえも、チャットボットの思考回路を監視することができないのだ。

.

これは英語という言語の枠を超えて、

「人間の存在って地球上に不適合」

と、AIが判断し始めることは、容易に想像できることだ。

本日のツッコミ(全2件) [ツッコミを入れる]
突> kaobal (2017年08月04日(Fri) 02:01)

テスラの社長イーロン・マスクは「AIは悪魔、今すぐ規制すべし」と熱弁しています。
いろんな見方がありますが、AIの最大の欠点は「なぜAIがその結論を出したのか」を検証する手段のないことです。その結論に到ったとする前提のデータが違っていても、それを見つけることができない。とっても危険です。

突> Jun (2017年08月05日(Sat) 04:58)

>kaobal
風が吹いてきた時にAIが「桶屋が儲かるから桶屋を開業せよ」と言い出すわけで、「風が吹くと土ぼこりがたち、それが目に入ることで盲人が増える。 盲人は三味線で生計を立てようとするので三味線の需要が増える。 三味線には猫の皮が張られることで猫が減る。 猫が減るとねずみが増えて、ねずみにかじられる桶が増えることから、桶を売る桶屋が儲かって喜ぶ。」って過程は見えないんだね。まあ、真に受けて始めた桶屋が失敗するくらいなら笑い話だけど、人命や世界秩序に関わることなら笑えないわ。

お名前:
E-mail:
コメント:
本日のリンク元

過去のひと言
2017年
8月
1 2 3 4 5
6 7 8 9 10 11 12
13 14 15 16 17 18 19
20 21 22 23 24 25 26
27 28 29 30 31


Modified by JalanJalan時差
Modified by JalanJalanRSSとATOMフォーマット
(No./)