Learn or Die 死ぬ気で学べ

PFN Values

  • Motivation-Driven: 熱意を元に
  • Learn or Die: 死ぬ気で学べ
  • Proud, but Humble: 誇りを持って,しかし謙虚に
  • Boldly do what no one has done before: 誰もしたことがないことを大胆に為せ


はじめに

コンピュータの力で実世界の課題を解決する

  • Chapter1: PFNの取り組みの概要 / 今どんな事業を進めているか / AIの現状について
  • Chapter2 & Chapter3: 企業から今日までの経緯
  • Chapter4: PFNが重視している行動規範について
  • Chapter5: 深層学習技術の面白さについて / 深層学習技術の研究状況,課題
  • Chapter6: スタートアップならではの人事や採用,組織運営の方針について
  • Chapter7: 資本政策について
  • Chapter8: PFNが目指す未来

我々自身の取り組みが成功するかどうかはわからない.

なぜなら,「絶対に成功する」とわかっているような取り組みには興味がないからだ.

PFNは失敗を推奨し,成功率10%以下の課題に挑み続ける.


Chapter.1【存在意義】PFNとは何か

ソフトウェアとハードウェアが融合する時代

  • 今の日本は,ソフトウェアで負けている.
    • だがこれからはソフトウェアとハードウェアの境界が曖昧になり,融合していき,新たな分野が生まれていく.そこでは我々が勝てると考えている.
  • 機械学習や深層学習などのAI技術は,目的のための手段でしかない.

挑戦するための「四つのバリュー」

私はよく「エンジニアはマグロのようなものだ」というたとえ話をしている.

マグロは泳ぐのをやめてしまうと酸素を取り込めなくなり,やがて死んでしまうと言われている.だからマグロは海の中で常に泳ぎ続けている.

マグロと同じように,エンジニアも新技術を常に取り入れ続けなければ死んでしまう.

だからエンジニアはマグロのようなものなのだ.常に学び続けなければならない.

拡大する深層学習の産業応用

  • PFNでは機械学習の中でも特に深層学習の技術を「実世界の問題」に適応していくことを重視している.
    • 具体的には,交通システム(自動運転,コネクテッドカー),製造業,バイオヘルスケアの三つを最初の重点領域として,そこからさらに新規事業へと技術応用を拡大している.
    • 自動運転においては,車の「目」となる,リアルタイムで電力消費の少ない効率の良い画像認識技術が重要になる.
      • 認識技術は他分野にも応用できるので特に力を注いでいる.
    • 製造業においては,物体認識・制御・異常検知・最適化技術の研究開発を行っている.
    • バイオヘルスケア領域は,医用画像の解析,がんの早期診断技術の研究開発を行っている.

試行錯誤の高速化──開発フレームワークを公開する理由

  • 深層学習の研究開発は試行錯誤をいかに速く繰り返すかが勝負の分かれ目.
  • 「Optuna」は,機械学習アルゴリズムの挙動を制御する細かいパラメータや,最適化問題のパラメータのチューニングを自動化するフレームワーク
    • 優れた性能を発揮するハイパーパラメータの値を自動的に発見し最適化することができる.
    • このようなソフトウェアの提供で「試行錯誤の高速化」に挑んでいる.

パーソナルロボットに焦点をあてる

  • 小さなスタートアップが成長を加速するために,大手企業と連携して共同研究するというビジネスモデルを取ってきた.
  • 今は,ロボット,中でも「パーソナルロボット」にフォーカスしようとしている.
    • ロボットが吐き出し続ける大量のデータがあれば,深層学習技術を活用して,ロボットを高度化できる.
    • ロボットを導入する上で大きなコストとなっているのがロボットをどう動かすかをプログラムする「ティーチング」.
    • このように自動的に学習してタスクをこなせる手法を確立することができれば,ロボットを使う機会がどんどん増えてくることは間違いない.
  • 既知の状況や決められたルールにしか対応できない従来の技術に対して,深層学習は,高い汎化性能,すなわち一般化する性能を持っている.
    • それによって見たことがない物体でも柔軟に扱うことができる.
    • 物体の種類がたくさんあったとしても,そのような多様性に対して柔軟に対応することができる.
    • かっちりルールを決めなくてもある程度自律的に自判断できる.それが深層学習の力.

「ロボットの一般化」を目指して

  • 話し言葉」を理解して動くロボット技術の開発も行っている.
    • 物体の認識の多様性に対応するだけでなく,人が物体を捉えるときの多様性に対応するためにも深層学習は適用できる.
    • このような深層学習の汎化性能を用いて,ロボットをもっと一般化できると考えている.

深層学習が実現する「環境の抽象化」

  • パソコンが普及した理由の一つは「デバイスの抽象化」にあったという仮説を立てている.
    • パソコンはOSと組み合わせてさまざまなデバイスを抽象化することで,一度書いたプログラムを別のコンピュータで同じように動かすことができるようになった.
    • それまでのコンピュータはハードウェアごとにプログラムを書き直す必要があった.
    • だがハードウェアを抽象化することによって,一度書くと色々な機種で動かすことができた.
    • それによってプログラムを書く人のモチベーションも上がり,機種や周辺機器が違っても各種デバイスが動かせるようになった.
  • では,ロボットにとって同様のものは何か.我々は「実世界の環境の抽象化」ではないかと考えている.
    • 現実世界とのインタラクションを起こすロボットにとっては環境の認識が重要であり,環境によってできることが左右される.
    • そこで仮想世界と現実世界の違いを吸収することが必要であり,そこで重要な役割を果たすのが深層学習だと考えている.
    • 深層学習は多様性に強い.その力を環境の多様性に対応するために使う.
    • 深層学習によってロボットは様々な環境に適応することができるようになり,色々な産業に適応することができるようになる.


Chapter.2【理想】チームで成果を最大化する

技術者にもコミュニケーション能力が必要に

  • 技術者としての強みとコミュニケーションの能力には関係があると私たちは考えている.
    • わかりやすく技術を交換し合うことは,技術者として極めて重要.
    • なぜなら,コンピュータサイエンスだけをとっても,分野の広がりはものすごく大きい.分野全部を1人が理解するのはほぼ不可能に近い.
    • これからはチームとして自立しつつ強調できないと技術者としての先はない.

自社のことながら,我が社には様々なことにアンテナを持っている人が多いと感じている.

様々なアンテナを持っている人は,技術者としてもキャッチアップする能力が高い.

キャッチアップが早いだけではなく,そこから次のことを生み出すのも早い.スタートアップにとっては重要なことだ.


Chapter.4【価値基準】常にラーニングゾーンに身を置くために

Motivation-Driven(熱意を元に)

  • 仕事は熱意を元に熱中してできるタスクを,自分たちが自ら選び,成果と真剣に向き合うという意味.
    • 自分たちが「これが大事だ」と思えることで目標を達成する.そういう気持ちを持てるような仕事をしようという意味でもある.
    • 外部から「これをやってください」と言われてこなすようでは,期待を超える成果は出せない.
    • 熱中して夢中になれるのであれば仕事していても楽しいし,学びも多い.
  • 取っ掛かりがないような難しい問題は,解けそうな部分問題に分解して,難易度も簡単にして,現実的に取り組めるような課題に落とす必要がある.

Learn or Die(死ぬ気で学べ)

  • 技術の世界は新しいことを常に学んでいかないと,あっという間に取り残されてしまう.
    • 新しいことを常に取り込み続けていかないと,技術者としても技術としても死んでいる状態になってしまう.
    • 複数の分野を跨いだ知識を持つことを重視している.
  • 情報がほぼコストゼロで流通するような時代が当たり前になったにもかかわらず,物理的な物や人の移動や変化は従来どおりでそれがボトルネックになっている.
    • 今まだ直接顔を合わせる必要があるのは,言語やテキストだけでは伝わらない情報量がかなり多くあるから.

Boldly do what no one has done before(誰もしたことがないことを大胆に為せ)

  • 顧客や現場の人たちが「こうしたら解けるだろう」と思っていることを,そのとおりにやることは最適ではない場合が多い.
    • 「こうしたい」という現場ニーズを踏まえつつ,技術者は現場の人たちが想像もしていなかったような解き方を見つけられないかを考える.

多くの可能性があり,やり方もたくさんある.王道はない.努力すれば解ける問題でもない.

「この作業をこなしていけば成果が出る」というわけでもなく,解けるかどうかわからない.

そんな問題を解く場合は,いくつかのアプローチを試してみるしかない.それで,どこか一つのアプローチがうまくいきそうだとなることもある.

研究フェーズはそういうものだ.


Chapter.5【技術革新】深層学習の面白さ

深層学習とは何か

  • 機械学習,すなわち解き方を教えるのではなく,正解の事例を大量に見せることによって,コンピュータ自身にパターンを見つけさせる手法.

深層学習の汎化能力の高さの謎

  • 深層学習は機械学習の一種だが,これだけ成功している理由は汎化性能が高いから.
    • 訓練データから知識や予測モデルを獲得するのは,具体的な事象を一般化する帰納的なプロセスだが,このプロセスにおいて,なんらかの"癖"があり,それを帰納バイアスと呼ぶ.
    • それが汎化能力の高さに貢献していると考えられる.
    • 汎化するためには,猫の画像をより抽象度の高い情報で表現したり,問題を解くために不要な情報を捨てる(何が本質的な情報なのかを見極める)作業が必要.
  • パラメータ調整で使われる「確率的勾配降下法」は,完璧にうまく調整するのではなく,ちょっとした間違いが発生して,間違い(ノイズ)を含んだ上でアップデートを行う.
    • 実はその「適当なノイズ」が,汎化を達成するために重要な役割を果たしていることがわかってきた.
    • つまり,たまたまうまくいくということが実験的・発見的にわかり,後から説明を探している.
    • 説明が見つかるまでは「たまたまうまくいったのだろう」と思われていたことが,後々になって理論的な裏付けが可能になるという事例が,深層学習には多い.


Chapter.6【組織開発】「何をやるか」と同じだけ重要な「誰とやるか」

研究開発の「手段」としてのビジネス

  • 自社製品を作ることで研究開発の自由度も上がる.そのためにも新しい製品をどんどん作っていかなければならない.
    • いかに他の会社ではできない研究開発成果を達成していくのか,それによって新しいイノベーションを起こせるのか,新しい技術を生み出せるのか.
    • 少なくともどこかの領域でトップを取れなければ,製品のコアもできない.
    • 最も重要なことは,他社にはできない,自分たちにしか作れない技術を作ること.
  • 常に新しい技術をスポンジのように受け入れ続ける.
    • そういった謙虚さが必要であり,謙虚さを皆が持っているからこそ,お互いがお互いのことを理解し合えて,力を重ね合わせることができる.


Chapter.7【資本政策】9割に及ぶ失敗を「推奨」するために

  • 物を作っているからこそ,できることがたくさんある.
    • つまり,深層学習や強化学習がうまく機能するようにハードウェアを設計することができる.これはものすごく重要.


Chapter.8【未来】AIとロボット,我々が見据える未来予想図

ロボットが次のコンピュータのかたちとなる

  • 自動運転は,実現を目指していく過程で得られる技術が多いので,研究するだけでもメリットがある.
    • ビジョン技術でも,今一番進化している分野は自動運転.
    • 自動運転はロボットの「目」を作っているようなものなので,最強の目を作れるかどうかに関わってくる.

今後は製品開発能力を引き上げていく

  • トップカンファレンスに論文を出せるようにならないと深層学習技術で世界と戦える製品・サービスを作れないと考えている.

 産業用ロボットの領域ではなく,パーソナルロボットに取り組む理由は,我々が産業用ロボットを作ることはできないからだ.産業用ロボット分野はすでにプレイヤーが確立して,それぞれシェアも持っている.

 本気でロボットに取り組もうと思ったら,自分たちで自由にコントロールできるロボット分野を持っておかないといけない,それがパーソナルロボット分野に取り組み始めた理由だ.

技術での圧倒的な差別化が必要

  • 潰されないためには,大企業が簡単には追いつけないような技術を確立した上で製品にしないと難しい.
    • だから我々は,ファナックとも対等に協業して,資金も確保して代替されない技術の確立を最優先で行おうとしている.

ロボットのコストを劇的に下げる

  • 一般の人でも日常の細かいタスクをプログラミング可能にしなければ,ロボットの普及はない.

世界を変える自社製品を出す

  • 今のPFNはまだR&Dが主体.
    • 次のイノベーションに繋がるようなシーズを常に探し続けている段階だが,会社を飛躍させるためにはどこかのタイミングで自分たちのプロダクトを展開していく必要がある.

AIやロボットも本当に社会に普及すれば,「自然にそこにあるもの」になる.そしてAIやロボットが存在しない世界が考えられないくらい不可逆的な変化が社会に起きる.

我々は,そんな変化の中心の一つになりたい.

我々が作る製品や技術が,世界が変わったときの中核の一つとなり,誰もがその恩恵を受けている──そんな世界を実現したい.


おわりに

巷で言われていることを疑い,可能性の抜け穴を探せ

  • 「できるかできないか」を問うのではなく,「どこかに実現できる穴があるんじゃないか」と考えるべき.そこにチャンスがある.
    • 順当にできることはGoogle, Facebook, Amazonのような大手がやる.
    • だから「穴」を突かないといけない.「当たり前だ」と思っているようなところに私たちが勝てる解はない.
    • だから皆が今までの経験上「できるわけがない」と思っているところにこそ解を探していくしかない.


関連記事

tom0930.hatenablog.com