ベルリンのITスタートアップで働くジャバ・ザ・ハットリの日記

日本→シンガポール→ベルリンへと流れ着いたソフトウェアエンジニアのブログ

読んだら最後、試さずにはいられなくなる『ビッグデータの正体』が明かす事例

このところ何冊も購入して読んでいるビッグデータ関連の本の中で群を抜いて読み応えがあったのが2冊ある。ひとつは以前のブログで書評を書いたThe numbers gameで、もうひとつが『ビッグデータの正体』だ。

ビッグデータの正体 情報の産業革命が世界のすべてを変える

ビッグデータの正体 情報の産業革命が世界のすべてを変える

  • 作者: ビクター・マイヤー=ショーンベルガー,ケネス・クキエ
  • 出版社/メーカー: 講談社
  • 発売日: 2013/07/05
  • メディア: Kindle版
  • この商品を含むブログを見る


実は本ブログでエンジニア向けのパズルを公開しているが、そこでとっているログはもろに本書の影響を受けている。

パズルではコメントが入力できる形式で「カンタンだった」とか「難しいぞコラ!」とユーザーの皆様からのフィードバックを受けている。だが難易度調整に関してそういったコメントはあまり気にしていない。なぜならデータの方がはるかに雄弁に難易度を語ってくれているからだ。

本書にある「データによる物事の判断は、人間の判断を補完し、時に上回ることもある。」をもろに実感しているところだ。
「お前のそんなパズルでとったログごときがビッグデータと言えるのか?」というツッコミは置いておく。ただ取れるものは全て取っておくというビッグデータの発想はいただいた。本書も言うように量は質を凌駕するのだ。データは細部の細部までとれるだけとっておいて、理由とかどーでもいいから、データからいっきに結論を導き出す、という発想だ。

例えば本書で紹介されていた事例として文法チェック機能を開発していたマイクロソフト社の例があった。マイクロソフトは言葉の使われ方を蓄積したデータ数を、 100万語から10億語に増やした。ただ増やしただけだ。するとその文法チェックの精度が飛躍的に向上した、という。

人間には、たとえ原因などなくても、原因があるはずだと思い込む習性がある。しかし、ビッグデータの発想においては因果関係はそこまで重要ではない。
重要なのは、相関を使って「理由」よりも「答え」を発見することだ、と。

理由よりも答えに関する興味深い事例として中古車の例があった。

中古車ディーラーのデータをもとに、相関分析アルゴリズムで問題のある車を抽出すると「オレンジ色のクルマは欠陥が大幅に少ない」ことが分かった。しかし「オレンジ色の塗装」と「中古車の状態の良さ」の間にあるかもしれない因果関係を見つけるのはなかなか困難だ。この場合、因果関係を気にせず、データから判明した相関関係だけに注目した方が有意義な結果を残すことができる、というのが本書の主張だ。

これはビッグデータを目の前にした際のエンジニアの心構えとして非常に参考になった。

このように本書ではビッグデータを活用した様々な興味深い事例が紹介されている。

私は「何か参考になる例は無いかな」と探す中で本書を手に取って読んだのではない。単にビッグデータに興味があって読んだだけだ。でも一度本書を読むと何かに応用して本書で紹介されている発想を使ってみたくてしょうがなくなってくる。人をそんな気にさせてしまうのが本書の特徴だ。

もし普段の仕事かなにかで多少なりともデータベースに携わっている方は気をつけた方がいい。本書を読むと必ず仕事に影響するはずだ。こんな面白い事例を知ってしまえば、使ってみたくなるのが人間というものだ。

iPad発売に際しスティーブ・ジョブズは市場調査を実施しなかった。
何が欲しいのかを消費者に言わせるようではダメだ、と。

ヘンリー・フォードは「車がない時代に、『欲しいものは何か』と人々に尋ねたら『もっと速い馬がほしい』と答えただろう」と言った。もしフォードが消費者の欲しいものをビッグデータのアルゴリズムで調べたとしても、きっと「速い馬」という答えが返ってきたはずだ、と。

ビッグデータの世界であろうと、独創性、直感、
知的好奇心といった最も人間らしい特質を育むことが
大切なのである。

ビッグデータは私も含めて知らない間にデータを取られて使われてしまっている側の人が大多数だ。大多数というよりほぼ全員がそうだ。本書を読んでちょっと要領を掴めば案外誰でも使う側にもなれるものだな、と感じた。

たくさんあふれるビッグデータ本だが玉石混交なのが実態だ。まずは本書のような良書をオススメする。

ビッグデータの正体 情報の産業革命が世界のすべてを変える

ビッグデータの正体 情報の産業革命が世界のすべてを変える

  • 作者: ビクター・マイヤー=ショーンベルガー,ケネス・クキエ
  • 出版社/メーカー: 講談社
  • 発売日: 2013/07/05
  • メディア: Kindle版
  • この商品を含むブログを見る

Big Data: A Revolution That Will Transform How We Live, Work and Think (English Edition)

Big Data: A Revolution That Will Transform How We Live, Work and Think (English Edition)

tango-ruby.hatenablog.com

tango-ruby.hatenablog.com