薫さんのひとりごと

人工知能に関したお話をいくつかしておりますが、本日見たテレビ番組『NHKスペシャル』が人工知能を題材にした内容でございました。将棋の対戦の他、株式のトレード、流しのタクシーの集客ポイントへの誘導、退職者の多い職種でのヘルスケアなどを紹介しておりました。

それらの人工知能の利用で共通するのが、「教師データ」というものの存在。今の人工知能は、膨大な過去のデータを入力し、そこから何かしらの因果関係や傾向を見いだし、それを新しく入力されたデータに当てはめるという手法を取っております。

ただ、面白かったのは、人工知能をプログラミンしたプログラマー自身が「人工知能の中で何が起きているのか分からない」と答えていること。コンピュータが膨大なデータから導き出した因果関係や傾向は、人間の先入観や常識では気づけなかった思いがけない結果を出力してくるからでございます。

ここでね、ちょっと心配になったのは、人間がその人工知能の結果に振り回されてしまうのではないかということ。番組では、退職率の非常に高い医療事務という職業で、その従事者へのカウンセリングに人工知能を利用する例を紹介しておりました。カウンセリングでの受け答えの内容で、その人の退職願望を人工知能で推測するというものでございます。

ここでね、人工知能が「この人は大丈夫！」とか「この人は、なんか退職したがっている」なんて結果を出すわけでございます。それを見て、カウンセラーがケアを厚くしたりするわけでございます。心配なのは、心理学における「認知バイアス」とか「ピグマリオン効果」なんてのがカウンセラー側に発生しそうなことでございます。

認知バイアスというのは、まぁ「先入観」と同じと思っていただければよろしいかと。特にピグマリオン効果というのは、教師が生徒に期待を持つとその生徒の成績が上がりやすいという効果。逆に、「この子はダメだ」と教師が思ってしまうと、その子の成長を阻害してしまうことがあるということも。

ピグマリオン効果に関しては賛否両論あるのですが、認知バイアスというのは広く心理学や行動経済学で知られていること。人間というのはですねぇ、先入観を持ってしまうと、ついつい、自分に都合のいいように考え、自分に都合のいいように行動してしまうのでございます。

人工知能がボードゲームで対戦しているくらいならいいのですが、こと人間の管理に使われると、これは恐いですよ。管理ということは、「管理者」がいるということ。管理者は人間ですから、当然、認知バイアスが働いてしまう。人工知能の出す結果を見て、管理される人への対応が変わってしまうことも。

人工知能に「この人は出世の可能性ゼロ」と判断され、訳も分からず冷遇される社員が出てくる可能性もあるのでございます。じゃぁ「認知バイアスの働かないコンピュータに管理まで任せてしまえばいい」なんてぇ考えに至りますと、管理職は社長も含めて全てコンピュータ、人間は現場で働き蟻のように動き続けるだけなんてSFのような世界にもなりかねません。

これがまんざらではないのが、お隣韓国でのお話。汚職・癒着の絶えない韓国では、国会議員も人工知能にやらせようという考えがあるそうでございます。いやぁ、怖ろしや。そういえば、アメリカの新しい大統領も、アメリカファーストでズケズケとした物言い。あの人はすでに人工知能の入ったロボットだったりして...

SFのようなコンピュータに管理される未来社会というのは勘弁願いたいと思うのですが、すでに人工知能は生活の多くの部分に取り込まれて埋没し始めております。「気がついたら、いつの間にかコンピュータに振り回されていた」なんて世の中になってしまうのでしょうか？

そしてさらに、人間の営みを「教師データ」として入力している人工知能は、その内、人間しか持たない「思い込み」「先入観」なんてものまで持ち始めるのでは？　あるいは「気まぐれ」なんていう実に人間らしい行動まで模倣し始めると、これは手に負えない。人間よりもタチが悪い(笑)。

まぁ、そんな人間っぽい人工知能も見てみたい気がしますけどね。では、では。