百冊028：GENIUS MAKERS ジーニアスメーカーズ
ケイド・メッツ著「GENIUS MAKERS ジーニアスメーカーズ」
Google、Facebook、そして世界にAIをもたらした信念と情熱の物語」。
2021年10月：日本で出版されましたが、私はこの本に気がつきませんでした。
2022年12月：ChatGPTがリリースされ、生成AIが話題になった時も気がつきませんでした。
2024年10月：ジェフリー・ヒントンが、ノーベル物理学賞に選ばれた時も気がつきませんでした。
2025年2月：本を読み始めて、最初のオークションの意味がよくわからなくて、一度中断しました。100ページほど読んだところで、この本がディープラーニングの歴史だとやっと気がついたのです。
2013年3月12日が世界の転機だった。
2013年5月28日に「Wired」にこんな記事が掲載されていました。
この記事の中で、2013年3月にヒントンの会社がGoogleに4400万ドルで買収されたことが書かれています。
本書の冒頭で、従業員がたった3人のヒントンの会社がオークションにかけられ、Google、Microsoft、百度（Baidu）の奪い合う様が描かれていました。
読み始めた時は、何か唐突な始まり方だと思い、その意味にまったく気が付きませんでした。しかし、100ページほど読んで、突然気がついたのです。
「2013年3月12日に、ヒントンのDNNresearch社がGoogleに買収されたのは、世界の転機だった。」と
なぜGoogleに買収されたのか（買収前1958年～2013年）
ディープラーニングの前にニューラルネットワークの歴史があります。
1958年 フランク・ローゼンブラットが以下の論文を発表しました。
「パーセプトロン：脳における情報記憶と組織化のための確率モデル」
1968年 「ニューロン機械としての小脳」という論文の影響で、パーセプトロンがブームとなります。
1970年 マービン・ミンスキーとシーモア・パパート著『パーセプトロン』で単純パーセプトロンの限界を指摘し、ブームが終焉しました。
70年代～90年代 再帰型ニューラルネットワーク、ボルツマンマシン、誤差逆伝播法の再発見、多層の畳み込みニューラルネットワークなどの進展がありましたが、実用化は難しいと考えられていました。
「パーセプトロン」が発表されてからおよそ50年。脳の学習機能が解明されてきましたが、精度を上げるために計算量が膨大でした。
その停滞に光が射したのが、2006年に発表された、ヒントンが提唱する「ディープラーニング」でした。
2006年 ヒントンの論文
「A fast learning algorithm for deep belief nets」
「Reducing the Dimensionality of Data with Neural Networks」
上記2つの論文がきっかけとなり、ディープラーニングが注目を浴びるようになりました。
2007年7月17日 Nvidia社がCUDA 1.0をリリース。
GPU向けの汎用並列プラットフォームが提供され、ディープラーニングの計算に使われるようになりました。
2009年 Microsoftで音声認識の認識率向上
ヒントンが協力し、GPUプラットフォームを利用して、音声認識にディープラーニングを適用しました。
2012年 ImageNetでAlexNetが優勝、画像認識の精度向上
アレックス・クリジェフスキー、イリヤ・サツケバー、ジェフリー・ヒントンが開発したAlexNetが優勝しました。GPUで高速化した畳み込みニューラルネットワークは既に使われていましたが、AlexNetのネットワーク構造が認識率の向上に大きく寄与しました。
このような状況の中で、GoogleがヒントンのDNNResearch社を4400万ドル（44億円-ドル100円換算）で買収しました。
Googleによる開発の加速（買収後2013年～）
ヒントンのチームがGoogleに入り、ディープラーニングの開発が加速していきます。
2014年1月16日 GoogleがDeepMind社を6億2500万ドル（625億円-ドル100円換算）で買収。
2016年3月15日 DeepMind社が開発したAlphaGoが、イ・セドルに4勝１敗で勝利。
2017年2月15日 GoogleがTensorFlow 1.0リリース。
TensorFlowは、オープンソースの機械学習用ソフトウェアライブラリ。
2017年6月12日 GoogleがTransformer（機械学習モデル）を発表。
Transformerは、主に自然言語処理分野で使われるディープラーニングモデル。
2019年 ジェフリー・ヒントン、ヤン・ルカン、ヨシュア・ベンジオがチューリング賞を受賞。
上記の履歴を経て、2025年現在は生成AIの時代に入っています。
私のように、ディープラーニングにほとんど注目していなかった人には、歴史を知るために良い本だと思います。
関連記事
This site uses Akismet to reduce spam. Learn how your comment data is processed.
コメントを残す