人工知能は本当に嘘をつかないのか
「人工知能（AI）が、うそをつく」
果たして、そんなことはあるのだろうか。
例えば、iPhoneでSiriに「青海までのルートを教えて」とお願いし、間違えて青梅までのルートを教えられても、私たちは「バグかな」とは思っても「Siriにうそをつかれた！」とは思わないはずだ。
「AIが人間の世界に入ってきたとき、果たしてうそをつかないと言い切れるでしょうか。例えば、スマートスピーカーがフェイクニュースを流す可能性だってあるかもしれない」
こう話すのは、東京大学の鳥海不二夫准教授。AIがうそをつき、見破り、ときには相手を説得する――そんな人間のように振る舞うAIエージェントの実現を目指す「人狼知能プロジェクト」を率いる。
月面着陸という壮大な目標を掲げ、その実現を目指すことで関連技術を発展させたアポロ計画のような「グランドチャレンジ」型の研究開発で、AI、対話エージェント、自然言語処理などの専門家がこのチャレンジングな目標に向けて協力することで、周辺技術の発展を目指すという。
「今はAIが狭い所に落とし込まれている感じがある。人工知能＝ディープラーニングみたいになるとちょっと違うし、そうじゃない方向性もある」と話す鳥海准教授は、人狼を「人間の本質に迫る所があるコミュニケーションゲーム」と評する。
将棋や囲碁AIの目標は「強くなること」だった。しかし、人狼知能プロジェクトのゴールはそこではない。「勝つためのAIは作れると思うが、そこが本質ではない」（鳥海准教授）
人間の本質とは何なのか。将来、AIと人間の関係はどうなるのか。少し先か、はたまた遠い未来なのか――AIと人が共存する社会には何が必要になってくるのかを想像してみたい。
●AIが言うことを信じていいの？
―― 「人狼」は、プレイヤー同士で会話をしながら、うそをついたり、見破ったり、相手を説得したりと、とても複雑なゲームです。なぜこれほど高度なゲームを研究対象にしたのでしょうか。
鳥海准教授 プロジェクトは2013年にスタートしました。将棋ではAIソフトがトップ棋士に勝利し、囲碁も時間の問題なので次はどうしようと思っていました。
（お互いの正体を隠しながら会話する）人狼は不完全情報ゲームで定式化が難しいので、チャレンジングな課題としていいかなと。高度な知能を作るのが目標です。
（※編集部注：13年に将棋ソフト「ponanza」が初めて現役棋士の佐藤慎一四段に勝利。17年には囲碁ソフト「AlphaGo」がイ・セドル九段に勝利）
―― AIもうそをつく時代になると。普段の生活で「AIにうそをつかれる」なんて考えたこともなかったです。と言っても、今はまだSiriやスマートスピーカーを使っているレベルですが。
鳥海准教授 いつかそのスマートスピーカーがうそをつくかもしれない。フェイクニュースを流したりするかもしれませんよ。今は基本的にAIが言ったことを人間は信じてますよね。回答の精度が悪いことはあっても、意図的に人間をだますようなことはない。
でも、例えばカーナビが示すルートを見て「いや、こっちの方がいいだろう」と思うことってありますよね。そういうことがこれからいろいろな分野で起きてきます。
●AIが忖度する？
―― 空いている道ばかりに案内すると、今度はその道が混雑してしまう。全体最適化を考えると、あえて混雑している道を示す方がいい、という考えもあります。
鳥海准教授 あと、ドラえもんがのび太のママの料理を食べて「まずい！」とは言わないと思うんですね。「個性的な味ですね」とか表現を変えて（笑）。
―― 忖度する（笑）。これらはいずれも悪意を持って人間をだまそうとしているわけではなく、「AIがうそをついた方がいいケース」ですね。
鳥海准教授 そうなると、カーナビはなぜそのルートを選んだのか人間を説得しないといけないですよね。今のAIは自分がうそをつく可能性がないから、そもそも説得する必要がない。うそをつくと説得する必要が出てくる。
すると、今度は人間がそれをどうやって信頼するのか、信頼関係をどう構築するのかという話につながってきます。うそをつくことが前提になると、それを「見破る」必要もあります。
―― まさに人狼ですね。
鳥海准教授 人狼はまさにそれだけをやっている場ですよね。人狼は短期的に人を信頼するゲームでもあるので。人とコミュニケーションして、人の社会で生きていくような人工知能というものを考えたときに必要な要素がかなり入ってます。しかし、今すぐ実現するのは難しく、いろいろな技術の進歩が必要です。
●人狼AI「私が人狼です」 衝撃のスタート
―― 将来的には人間と対面で遊ぶAIエージェントを開発したいとのことですが、現時点ではどこまで実現できているのでしょうか。
鳥海准教授 人狼AI同士がその強さを競う「人狼知能大会」（オンラインのチャット形式）を15年から毎年開催しています。今までは特定の単語を使うことで会話していたのですが、17年から自然言語処理部門を新設し、フリートークでやりとりできるようになりました。
ゲーム中に使う言葉はたくさんあるので、何を話しているのか完全に理解することは難しいですが、「この人が怪しい」など基本的な所は押さえています。
―― 15体のAIエージェントがチャット形式で人狼をプレイし、100試合したらAIエージェントの位置をシャッフルしてさらに繰り返す……というコンピュータだからこそ成せるルールですが、AIはちゃんと人狼を理解し、プレイできているのでしょうか。
鳥海准教授 第1回大会の初戦で、いきなり人狼のエージェントが「私は人狼です」と言ったのは伝説として残っています（笑）。
―― ゲームの根幹を揺るがす衝撃の発言です（笑）。そのような、人間だとあり得ないミスはしばしば起こるのでしょうか。
鳥海准教授 今はどのチームのAIもすごくよくなっているので、あまりそういったミスはないですね。第1回大会は、自分の役割を間違えるミスをしたエージェントもいました。
●人狼にも「強さ」がある
―― 人狼は単純に「強い／弱い」で語りにくいゲームだと思っていたのですが、第1回大会でずばぬけて成績の良いAIが現れ、優勝しました。
鳥海准教授 ずばぬけたエージェントが出てきたことで、人狼が単なるジャンケンではなく、「強さがある」ゲームだと明確になったことは安心しました。
ソースコードを見るとそんなに難しいことはやっていなくて、ベイズ推定による作り込みでした。開発者が「BBS人狼」（ブラウザゲーム）のプレイヤーだったので、セオリーを知っていたのでしょう。
（編集部注：優勝したAI「饂飩（うどん）」は、AI同士の関係性に注目していた。人狼陣営について、例えば「AとBとCは人狼、Dは裏切者」「AとCとDが人狼、Eが裏切者」というようにありうるパターンを全て列挙。ゲームの展開に合わせて可能性のあるパターンを絞り込むことで、人狼発見率が他のAIに比べて極めて高かったという）
―― 人狼AIを強くする上でディープラーニングのような技術は有効なのでしょうか。
●ディープラーニングは万能じゃない？
鳥海准教授 ディープラーニングの本来の目的である「自動的に特徴量を抽出すること」は「人狼に勝つこと」そのものには向いてないと思います。そもそも勝つための道筋が決まってないので、戦術的な所ではあまり使える場面は多くないんじゃないかと思います。
不完全情報ゲームという所だけにフォーカスするとディープラーニングで「AlphaZero」みたいに強くなるのかもしれませんが、そこには興味がないです。人狼知能プロジェクトでは「強い」より「面白い」を目指しているので。
―― 「面白いAI」とはどんなものですか。
鳥海准教授 なかなか難しいのですが、まず「面白いプレイとは何なのか」を考えます。圧勝する、大逆転がある、華麗なプレイをするなど、いくつかパターンがありますよね。
そして、人狼というゲーム自体の面白さとは何なのか。相手をだます、自分の推理が当たる、相手を信じたり説得したりする、実は「きれいにだまされること」も人間は結構好きなんじゃないかとか。人を楽しませるAIを研究することは、人間を知ることにもつながります。
―― 人間が「面白さ」や「楽しさ」を感じる理由を分析している。
鳥海准教授 少なくとも、これはディープラーニングとは全然違う種類のAIの話。私はそもそも「ディープラーニングは人工知能なのか？」と思っていて。名前は人工知能だけれど、知能じゃなくて高度な機械学習ですよね。“真の人工知能とは何なのか”というのは難しい問題。
―― 今は、「AlphaZero」などが話題になったこともあり、人工知能＝ディープラーニングという文脈で語られることも多いです。
鳥海准教授 人工知能＝ディープラーニングみたいになるとちょっと違うなと。今のAIは狭い所に落とし込まれている感じがあるので、そことは違う方向性があるというのをもっと広い視点で捉えてもらうといいかなと思います。
―― では、ディープラーニングが使える場面はあったりしますか。
鳥海准教授 人狼の場合、対面でプレイするときに人間の表情や話者の認識などに使えそうです。音声認識、自然言語処理、会話文の生成といった所には使われてくると思います。世の中的にも、ディープラーニングを中心とした今の技術が発展していくことで、自動運転車だったりいろいろな所で役に立っていきます。
●それって本当にAIなの？
―― 今のAIブームについて思うことはありますか。
鳥海准教授 よくドラえもんみたいな「強いAI」について議論されますが、リニアモーターカーもできたし、そろそろ「どこでもドア」について議論しようぜって言ってるような気がしてならない（笑）。
―― AIへの理解度が人によってまちまちなので、話が飛躍してしまうこともあります。
鳥海准教授 AIは皆さんが怖がっているような、世界を滅ぼすとかそういうものではないです。今、世間で言われているようなものって本当に人工知能なのかなと結構疑問に思っている人はいますね。高度に見えるとAIだけど、慣れてくると「自動化」と言われたり。
―― ニュースを見ても、毎日AIや人工知能という単語を目にします。
鳥海准教授 「自動ブレーキ」が良い例で、ちょっと前だったら「AIブレーキ」なんて言っていたのかなとか。AI搭載をうたう家電も、例えば温度を測ってフィードバックをかけてるだけの炊飯器などはAIとは言えません。
研究者たちは、あと2年くらいしたらまた（AIの）冬の時代が来ると言ってます（笑）。リニアモーターカーも日常になると目新しさがなくなり、未来の技術じゃなくなるので。ちょっと前だと「ビッグデータ」がそんな扱いでしたよね。
── AIがどんどん発展していき、いずれ私たちにとって当たり前の存在になっていくと。AIと一緒に人狼をプレイできる日を楽しみにしています。
Category: News, Technology
