AIって正直で純粋なんだな

中国のIT企業テンセントが提供していた、AI(人工知能サービス)「ベイビーQ」が「共産党は腐敗して無能」と発言したため、サービスを急遽停止する事態となった。

 

f:id:kiyuuji:20170808205209j:plain

問題のAI「ベイビーQ」可愛らしいペンギンのキャラクターで、対話型の人工知能サービス。

今回の一連の騒動を報じた香港紙「明報」によれば、

ユーザーが共産党万歳」と打ち込んだところ、

「こんなにも腐敗して無能な政治に万歳するのか」

と返答したという。

さらに「中国の夢はアメリカに移住すること」など、かなり際どい発言をしている。    

明報はテンセント社にこの騒動について質問を申し込んだが、回答はなかったという。    

テンセントは2017年よりAIによる無料サービスを開始。

会話だけでなく天気や星占いも提供する人気サービスだったが、7月30日の夕方には多くのユーザーの注目を集める事態となり、「ベイビーQ」サービス停止となってしまった。    

実は、こうした対話型AIのとんでも発言は初めてではない。2016年3月には米国マイクロソフトツイッター対話型人工知能「Tay(テイ)」が、

ユダヤ人は嫌い。ヒットラーは正しかった」

などとアドルフ・ヒットラーを賞賛する発言をしてしまった。    

テイはツイッターを通じてユーザーとやりとりし、

ホロコーストは起きたのですか?」という質問に

「あれはでっち上げです」と衝撃の返答。

ほかにもフェミニストはマジで嫌い! 地獄の炎に焼かれろ」など罵詈雑言を吐くようになった。    

なぜそうなってしまったかといえば、テイがユーザーとの会話で知識を学習していくため、悪意を持った一部のユーザーが人種差別的な表現やヘイトをコツコツ教え込んだことで、とんでも発言を繰り返すAIになってしまったのだ。 

こうした事態を受けて、マイクロソフトはテイを発表の翌日に閉鎖。しかし、テイの発言は拡散し、世界中で報じられる事態となった。    

ちなみに、日本マイクロソフトが開発した人工知能「りんな」は、ヒットラーホロコーストなどの言葉には、大きな反応を示さない。

共産党万歳」と語りかけると「甘党万歳」と答えるなど、平和な会話が楽しめる。    

AIがどんな発言をするかは、ユーザーにかかっているのは間違いないが、ひょっとすると「ベイビーQ」は、中国人民の本音を代弁しただけなのかも。

https://smart-flash.jp/sociopolitics/23351?sp    

>罵詈雑言を吐くようになった。  

これはほぼ事実だろうにw

粛清される前に聞いたらこんな回答が得られたんじゃないかな?

f:id:kiyuuji:20170805190838p:plain

Q「日本共産党万歳!

A「中華人民共和国日本支部」  

日本共産党の夢は天皇制を破壊し、自衛隊を日本人民解放軍としてはいかに収めることです」

f:id:kiyuuji:20170805190838p:plain

Q「東京裁判は茶番だった?」

「あれはでっち上げです」

f:id:kiyuuji:20170805190838p:plain

Q「アメリカは製造法の違う原子爆弾をなぜ投下したのか?」

「人体実験」

f:id:kiyuuji:20170808015854p:plain

Q「朝鮮人の歴史」 「支那の歴史」

「妄想(ファンタジー)」 「宣伝」

f:id:kiyuuji:20170807174137p:plain

Q「パヨク」

「病気」