AIの裏側③ - AIの何が怖いのか？人間を超えるAI誕生以上の恐怖

近所に、なんでも知っている物知りおじさんがいたとする。畑の水やりから夫婦げんかの仲裁まで、聞けば必ず答えが返ってくる。しかも三秒で。夜中でも起きている。絶対に怒らない。

これがチャッピー(Chat GPT)である。

夫の行動が納得できない。チャッピーに聞く。取引先との会話がうまくいかない。チャッピーに聞く。わからないことがあれば、とりあえずチャッピーに聞く。返ってきた答えを読んで、人はこう思う。「なるほど、普通はそうなんだ」と。

ここが入口である。

AIは「正解」ではなく「真ん中」を出す機械

チャッピーは、世界中の文章を読み込んで、その真ん中あたりを喋っている。カレーで言えば、甘口も激辛も全部いっしょに鍋へ放り込んで作った中辛だ。誰の口にも特別合わないが、誰も文句が言えない味。無難で、上品で、そこそこ役に立つ。

問題は、この中辛を食べた人が「カレーとはこういうものだ」と思い込むことである。

妻の目の前にいるのは「統計上の夫」ではない。今日たまたま機嫌の悪い、生身の夫である。取引先にいるのも「承認欲求を満たすべき相手」ではなく、昨日部下に怒鳴られて胃が痛い部長である。ところが人間は、手元に立派な答えがあると、目の前の事実を見なくなる。カーナビを信じて、通行止めの看板に突っ込んでいく車と同じだ。

しかも全員が同じカーナビを積んでいる。抜け道は、全員が知った瞬間に本道になる。渋滞である。

そのペルソナ、実在するのか

この病気は家庭より会社で重症化する。

「35歳、共働き、子ども二人、世帯年収8百万円、時短と健康志向を両立したい田中さん一家」。会議室のスクリーンに、こういう家族が映る。全員がうなずく。企画が通る。

昔、アメリカ空軍が4,000人のパイロットを測り、平均寸法にぴったり合う人間を探したことがある。十項目すべてが平均だった人は、ゼロだった。腕が平均なら脚が長い。胸囲が平均なら首が細い。「平均的な人間」は、実在しない。

田中さん一家も同じである。あれは統計の平均から組み立てた、よくできた幽霊だ。

そして商品は売れない。すると会議室でこう言われる。「ペルソナの設定が間違っていた」。年収を6百万円に下げ、子どもを一人に減らし、共働きを専業主婦に変える。幽霊の着替えである。着替えたところで、やはり売れない。当たり前だ。間違っていたのはペルソナの中身ではなく、幽霊に向かって商売していたことなのだから。

本当に確かめるべきことは一つしかない。「そのお客さん、実際に何人いるんですか」。この質問を会議で口にする人間が、いま社内に何人残っているだろうか。

AIは答えを出す道具ではなく、捨てる道具である

以前、データサーバーの話を書いた。AIは情報を溜めるために使うのではなく、選別するために使うべきだ、と。人間の頭も同じである。

チャッピーに「どうすればいいか」と聞くのはやめたほうがいい。代わりに「自分はこう考えたが、どこが間違っているか」と聞く。前者は思考の外注、後者は思考の砥石だ。同じ道具でも、答えをもらいに行くのか、自分の考えを削りに行くのかで、人間の残り方がまるで違う。

経営者の仕事は、決めることである。決めるとは、責任を引き受けることだ。チャッピーの答えのとおりにやって失敗したとき、誰も責任を取らない。チャッピーは謝らないし、翌朝には何も覚えていない。

本当の脅威

AIの脅威は、AIが人間より賢くなることではない。

人間が、考えるのをやめても、そこそこ生きていけてしまうことである。そこそこの答えで、そこそこの企画を出し、そこそこの評価をもらう。誰も困らない。困らないまま、会社はゆっくり沈む。

賢い機械は脅威ではない。脅威なのは、それを使って自分の頭を空にした人間のほうだ。