【参照】
①数字のカラクリを見抜け！ 学校では教わらなかったデータ分析術
データとアルゴリズムに踊らされないための「見抜く力」と「良い付き合い方」
毎日、たくさんのデータと、高度なアルゴリズムのなかで生活をしている。ネットショッピングのレコメンド、ニュースの閲覧、SNSのタイムラインなど、身の回りのあらゆる場面でアルゴリズムが働き、無意識のうちに自分の意思決定に影響を与えている。「人は操作されていることに気づかないと、あたらしい考え方を自ら選択したものだと思いこむ傾向にある」*1。
無意識のうちにシステムの意図通りに動かされないためにどうすべきか。
グラフの「錯覚」に気づき、発信者の意図を疑う
テレビ番組やニュース記事、あるいはビジネスのプレゼン資料などで毎日様々なグラフを目にするが、グラフは必ずと言っていいほど、何らかの錯覚を引き起こす性質を持っている*2。
安易にグラフに頼らず、表を見る。グラフの視覚的なインパクトに騙されるのを避ける確実な方法は、大まかな数値を読み取って「表」にし、必要に応じて自分自身で変化率を計算すること。また、データを見る際は「期間」を強く意識するだけで、数字を読み解く力はおおきく上昇する。
主張に都合の良いように期間や基準年が設定され、大きな錯覚をもたらすグラフが作られることは多々ある*3。
さらにグラフを目にした時は、まず「そのグラフを登場させた人たちは、どんなプロフィールの人たちなのか」を考える。読み手がどう反応するかによって利益を得る人がいる場合、そこには意図的な誘導が隠されている可能性が高い*4。
そして、本当に「数字に強い人」になるための第一条件は、決して自分の感覚を過信せず、計算ミスを徹底して避ける工夫をする。ビジネスや投資など、確率計算が重要な場面で曖昧な直感に頼ることは、他人のカモにされる危険性を高める*5。
アルゴリズムを「全能の神」でも「がらくた」でもないツールとして客観視する
企業は購買履歴やネットの閲覧履歴などから、個人のライフスタイルや性格、さらには本人も気づいていないようなプライベートな事柄まで予測するアルゴリズムを活用している。自分は簡単には心を操られないと思っていても、ターゲット広告などによって無意識に誘導されていることは少なくない*6。
だからといって、アルゴリズムを完全に拒絶するのも正解ではない。医療分野では、アルゴリズムは医学的なパターン認識や分類でずば抜けた能力を発揮し、初期の病気の発見などに大きく貢献する*7。また、警察の予測警備（プレッドポル）のように、過去の犯罪データから未来の犯罪リスクが高い場所を予測するシステムは、高い精度をもっている*8。
「アルゴリズムは完璧ではない」という事実を受け入れる。人間が作るものである以上、どんなアルゴリズムにも見逃しや誤検知といったエラーがつきものであり、隠れた偏り（バイアス）が存在する*9。アルゴリズムが出す答えを権威のように盲信せず、「間違いを犯すもの」として認識しておくことが、機械の言いなりになるのを防ぐ*10。
人と機械がタッグを組む「ケンタウロス」の姿勢を持つ
実生活でアルゴリズムとどう向き合うか。理想的なモデルは、「ケンタウロス・チェス」の考え方。人間とアルゴリズムがタッグを組んでチェスの試合に臨むスタイル。アルゴリズムが先の展開を予測して致命的なミスを防ぐ役割を担い、人間がゲーム全体の主導権を握って戦略を練ることに専念する*11。この方法により、人間の創造力は何倍にも引き上げられ、最高のパフォーマンスを発揮できる。
医療の現場でも同様である。病理学的なデータ分析はアルゴリズムに任せつつ、患者への共感や社会的・精神的なサポートといった人間ならではの役割は医師が担う*12。
自分が日々の生活や仕事でデータやアルゴリズムを利用する際にも、この「サポートとして使い、最終決定は人間（自分自身）が下す」という姿勢が重要。機械が出した結果をただ鵜呑みにするのではなく、その結果に至った理由を理解しようと努め、あらゆる段階で人が介入できる余地を残しておくことが最良の付き合い方だと考える。
まとめ
- グラフの視覚的なインパクトや期間設定による錯覚に騙されず、発信者の意図を疑って表から数値を読み解く
- 確率計算が重要な場面で直感に頼るのは危険であり、自分の感覚を過信せずに徹底して計算ミスを避ける
- 企業による無意識の誘導を警戒しつつ、アルゴリズムを全能の神やがらくたと決めつけずに客観視し活用する
- どんなアルゴリズムにも見逃しや偏りといったエラーはつきものであるという不完全さを理解して盲信を防ぐ
- アルゴリズムをサポートとして使い最終決定は人間が下すという、人と機械がタッグを組む姿勢を大切にする
*1:エプスタインの論文には、〝人は操作されていることに気づかないと、新たな考え方を自ら選択したものだと思いこむ傾向にある〟と書かれている（ 20）。 — ②location: 329
*2:グラフ〟は、必ずといっていいほど、なんらかの錯覚を引き起こします。 だから、その錯覚を避けて数字を読みたいなら、〝表〟の状態で、必要に応じて「変化率」や「変化率の変化」などの数字も計算して、表に追加してから読むべきです。 — ①location: 561
*3:いいかげんに期間を設定し、適当に基準の年を選んで、大きな錯覚をもたらすグラフを書いちゃう人が多いことのほうが、深刻な問題 — ①location: 721
*4:広告、新聞・雑誌の記事、テレビ番組などで、たまたま目にしたグラフを読むときには、まずはグラフをまったくみずに、そのグラフをそこに登場させた人たちは、どんなプロフィールの人たちなのかをよく考えるべきです。 読み手がそのグラフをどう読むかによって、そのグラフを登場させた人たちがなんらかのビジネスに成功して利益を得る可能性がある場合、よほど用心してグラフをみないと、意図的な誘導に引っかかってしまいやすいでしょう。そんなグラフは、無視したほうが無難です。 —① location: 1076
*5:どんなビジネスにもギャンブル的な要素があったりしますから、確率の計算に弱いのに、確率計算が重要な交渉をおこなうのは、カモにされる危険性が高いと考えるべきでしょう。 — ①location: 1548
*6:人がよく買うものからそんな予測ができるなら、さらに大量のデータを手に入れたら、どれだけのことが予測できるか想像してみてほしい。インターネットの閲覧履歴があれば、その人について多くの予測が立てられるのはまちがいない。 — ②location: 600
*7:パターンを見つけ、症状を分類して、観察結果を用いて患者の病気の今後の展開を予測することで医学が進歩してきたのはまちがいない。 — ②location: 1439
*8:すべては犯人の気持ちの問題ではなかった。犯罪は行き当たりばったりに起きるわけではない。人の行動は予測できるのだ。 — ②location: 2551
*9:私は長いあいだじっくり考えて、公平なアルゴリズムを見つけようとしたが、そんなものはなかった。飛行機の自動操縦やがんを診断するニューラルネットワークなど、一見、問題なさそう思えるアルゴリズムにも、実は問題が隠れている。５章「車とアルゴリズム」で取りあげたとおり、自動操縦のせいで、そのシステムのもとで訓練を受けるパイロットは、実際に操縦する際に大きなハンディを負わされる。４章「医療とアルゴリズム」で取りあげた高性能の腫瘍発見アルゴリズムは、人種によってその精度が変わる。だが、アルゴリズムが使われていなくても、完璧に公平なシステムというものはない。どんな分野のどこに目を向けても、システムをしっかり確認すれば、何かしら偏りが見つかるものなのだ。 — ②location: 3506
*10:完璧なものは存在しないことを受け入れてはどうだろうか？ アルゴリズムはミスを犯す。アルゴリズムは不公平だ。だからといって、より正確で偏りがないアルゴリズムを作る努力を怠るわけではない。それでも、人間同様、アルゴリズムも完璧ではないことを頭に入れておけば、アルゴリズムの言いなりになるのを防げるはずだ。 完璧に公平なアルゴリズムを作るという不可能なことに固執するよりも、アルゴリズムがミスを犯したときに、簡単に矯正できるように設計してはどうだろう？ アルゴリズムは簡単に使えるが、それと同じくらい簡単にエラーを正せるようにしておくことに、時間と労力を費やすのだ。解決策は、最初からまちがいを正せるようにアルゴリズムを設計しておくことかもしれない。人に指示するのではなく、人が下す判断をサポートするように設計したらどうだろう？ ただ結果を人に教えるのではなく、その結果にいたった理由がわかるようにしておくのだ。 あらゆる段階で人が介入できるのが最良のアルゴリズムだと、私は思う。機械が出した答えを鵜呑みにしがちな人間の癖を理解していて、なおかつ、アルゴリズム自身の欠点を受け入れて、エラーを隠そうとしないアルゴリズムだ。 —② location: 3513
*11:カスパロフはこんなふうに言っている。「コンピュータの助けを借りてチェスをすれば、予測に長い時間を費やす必要がなく、戦略を練ることに専念できる。すると、人の創造力は何倍にもなる（２）」。その結果、これまでになくハイレベルの対戦が実現する。戦術的に駒を動かし、理にかなった美しい戦法が取れる。人とアルゴリズムそれぞれの長所が生かせるのだ。 —②location: 3538
*12:医師の仕事には、この先もアルゴリズムでは代用がきかない多くの要素がある。たとえば共感だ。また、社会的にも精神的にも、ときには経済的にも患者を支える能力も必要だ。それでも、ある部分ではアルゴリズムが役に立つ。とりわけ、医学的なパターン認識──もっとも基本的な形の発見と分類と予測──では、アルゴリズムはずば抜けている。特に、病理学のような分野では大きな力を発揮する。 — ②location: 1454
