ＡＩを「使える人」がいない会社にＡＩを導入すると危険

気になるニュースがありました。

離職を防げ、勝負は入社1年目　AIがリスク分析 https://t.co/aBBdsXvNS1
— 日本経済新聞 電子版 (@nikkei) August 7, 2019

これを入れれば離職率を抑えられる！と思うかもしれませんが、使い方を誤れば逆に離職率が上がってしまうことも起こり得ます。

「ＡＩ人材」にも色々いる

まず前提の整理ですが、「ＡＩ人材」と一口に言っても色々な定義があります。個人的には以下のように考えています。今回は下記のうち「ＡＩを『使える人』」が社内（現場）に居ないのにＡＩを導入するリスクをご紹介します。

プログラマだと思ってもらえば良いです。専門家なので自社で確保するよりは外部に委託する方が多いと思います。

「こういった判断を下せるＡＩが必要」など、簡単に言えば設計を考えられる人です。自社の課題を解消出来るＡＩを検討する上では自社にこの人材が居てくれるにこしたことはないですが、実態はＳＩｅｒなどに任せているケースが多いかと思われます。

ＡＩを運用出来る人です。ＡＩがわかるように指示を出し、ＡＩからの納品物等を正しく理解出来るスキルがある方となります。基本的に現場に常駐することになるため自社人材となります。

コード等の知識は無くても良いですが、どういう内容のデータがどの程度入っていて、どういうアウトプットが出るのかといったデータの流れや質を把握している必要があります。

青線はＡＩの判断、赤線は人間の判断です

冒頭のケースであれば「この人の退職リスクが高いです」とＡＩから通知が出るわけですが、だからといって「辞めそうなんだ」とすぐに思ってしまってはいけません。

注意深く見た方が良いよ、と言っているわけであって、この社員が退職を考えている社員なんだと決めつけてしまうと軋轢が生じてしまいます。

ともすれば、本当は辞める気もなかったのにこれが原因で辞めてしまうことにもつながるわけです。

ＡＩはデータと結果から予測しているだけなので、「なぜ」までは考えていません。

変な話、「女性は休職リスクが高い」とＡＩが予測した場合、単に出産に伴う休職が多いだけの可能性もありますし、「女性は退職リスクが高い」というのも、会社が産休・育休の制度を整備していないことに原因がある可能性もあります。

導入しているＡＩの設計思想にもよりますが、ミクロの視点で判断するケースが多いため判断を鵜呑みにしてしまうと大局を見誤ることになります。

先ほどの例で言うと、ＡＩの判断を鵜呑みにすると「女性の採用を減らす」などといった時代錯誤甚だしい結論を招きかねませんが、本来必要なのは産休や育休の制度を整備するなどして「女性が働きやすい環境を作る」ことなのです。

ここまではＡＩの判断が正しい前提で書きましたが、正しいとは限りません。特に今回のケースのような、人間が判断しづらいことまで判断させる場合なおさらです。

データが増えれば増えるほど精緻な予測が出来るようになるとは思われますが、まだ発展途上です。導入したてのＡＩに会社の判断の全てを任せて良いはずはありません。

あくまで補助的な利用に留め、「ＡＩがこう判断したから」といって人間が思考停止してしまうことの無いようにすることが必要です。結局会社を動かすのは「人」であることは変わりません。