10 Tips for Research and a PhD

Article(2500 words)

ruder.io

Overview

  • このアドバイスは,機械学習(ML)や自然言語処理(NLP)を研究している人に最も関連している.
  • とはいえ,単に学びたいと考えている人にも,このアドバイスのほとんどが当てはまるだろう.
  • すべてを取り入れるのではなく,あなたの状況に合わせて,取捨選択をすることが大事.

1) Read broadly.

  • 異なる分野間のつながりを引き出す論文というものは,しばしば洞察に満ちている.
  • インスピレーションを得るための豊かなレパートリーを持つために,多様な興味を養うようにしましょう.
    • 1本の論文を深く読むより,10本の論文を表面的に読む.
  • 自分が興味のある分野を把握するために,早い段階で様々な分野に手を出してみるのも良いでしょう.

Words

  • delve deep into a specific topic: 特定のテーマを深く探求する
  • cultivate diverse interests: 多様な興味を育む/養う
  • read superficially: 表面的に読む(深読みせずにさらっと読む)
  • dabble in different areas: 様々な分野に手を出す
  • get a sense for what interests you: 自分の興味のある分野を把握する

2) Work on two things.

  • 一つのプロジェクトのみに絞って取り組むことは危険である.
    • もしそのプロジェクトがうまくいかなかった場合にモチベーションが損なわれてしまう.
  • 二つのプロジェクトを同時並行で取り組むことが望ましい.
    • 一つのプロジェクトが壁にぶつかったとしても,もう一つのプロジェクトに時間を割くことができる.
    • そうすることで,精神的に楽になり,新しい視点を得ることができ,問題の解決に役立つかもしれない.
    • 文脈の切り替え(頭の切り替え)を最小限にするために,一日に二つのプロジェクトには取り組まないようにする.

Words

  • working on a single project has downsides: 単一のプロジェクトでの作業には欠点がある
  • you can do nothing but grind until you resolve it: それを解決するまで何もできない
  • I've found it useful to ~: ~ことが有用であることに気づく

3) Be ambitious.

  • 同時に二つのプロジェクトに取り組むことには,もう一つ利点がある.
    • 比較的安全なプロジェクトに加えて,リスクの高いプロジェクトに取り組むことができる.
    • 安全なプロジェクトは最低限のことを保証してくれるし,リスクの高いプロジェクトによって,より大きなインパクトを与えることができるかもしれない.

4) Collaborate.

  • 共同作業ができるということは重要なスキルである.
    • AlphaGoやOpenAIなど,MLやNLPで大きなインパクトを与えているプロジェクトの多くは,チームで開発されている.
    • 共同作業とは,信頼と相互尊重を築くこと.

5) Be proactive.

  • 人に手を差し伸べましょう.これはおそらく最も重要なアドバイスです.
    • アドバイスだけでなく,人脈は,仕事のオファー,共同作業,メンターシップなど,他の機会にもつながるかもしれません.
    • 重要なことは,それらがお互いの興味と尊敬に基づいているということです.
  • 積極的であることは,あなたが自分の研究についてどのように捉えて,どのように話しているかにも関係する:
    • 自分のウェブサイトで自分の研究を強調したり,ブログを書いたりして,他の人が自分の研究を見つけやすいようにしましょう.

Words

  • Reach out to people: 人に手を差し伸べる

6) Write a blog.

  • ブログを書くことで,物事を明確に伝え,説明をする練習をすることができる.
    • 両者とも,最高の論文と平凡な論文を分ける資質です.
    • 実際,明確な文章は,論文を認めてもらうためにも,インパクトのあるものにするためにも重要となる.
    • 研究論文のような超コンパクトなフォーマットとは対照的に,ブログでは実験を行い,自分が思っていることを見つけることができる.
  • ブログはまた,あなたの作品を発表し,共有するための素晴らしい媒体にもなります.
    • 論文に関する優れたブログ記事は,その論文を補完するものとなる.
    • ブログは論文よりもはるかに柔軟性がある:
      • 興味深い関連性の強調
      • 背景となる文献や今後の方向性についての幅広い概要の提供
      • 例を挙げた説明
      • コードスニペットや定性的な例の強調
      • インタラクティブな可視化の表示
      • 詳細なエラー分析
  • ブログを始めるもう一つの素晴らしい方法は,自分が知識を得たばかりのことを議論することです.
    • 「あなたは自分の一歩後ろの人を助けるのに最適な立場にいる」
    • もしあなたが専門分野を掘り下げたばかりなら,他の人の時間を節約して,その仕事とあなたの洞察をまとめてみてはいかがでしょうか.

Words

  • excruciating process: 耐え難いプロセス

7) Keep a source of positive energy.

  • 論文受理などの外部報酬は運要素が強いので,本質的な報酬を活用することが必要になることが多い.
    • 研究でポジティブで活力を保つ最も自然な方法は,自分がワクワクするようなことに取り組み,好奇心に従うことです.
  • 物事が計画通りに進まないときに,ポジティブなエネルギーを与えてくれる活動を見つけましょう.
    • それは,共同作業,サイドプロジェクト,趣味,運動,瞑想,または何か他のもの.
  • 結局のところ,最も重要なリソースは,あなたの計算量ではなく,あなたの個人的な幸福感なのです.
    • クラッシュしたGPUは再起動することができますが,燃え尽きたGPUは直せません.

Words

  • intrinsic: 本来備わっている/本質的な

8) Play to your strengths.

  • MLやNLPへの関心が高まる中で,実りのある研究テーマを見つけることは困難なことです.
    • 良い戦略は,自分が最も得意とする研究テーマに取り組むことです.
    • 理想的な研究テーマは,インパクトのある仕事,情熱を持って取り組んでいる仕事,そしてあなたにしかできない仕事の交差点に位置しています.
  • もう一つの強みは,あなたのネットワークと,あなたがアクセスできる視点の多様性です.
    • アドバイザー,メンター,協力者など,自分の強みを補完してくれる人を探しましょう.

Words

  • Play to your strengths: あなたの強みを発揮する
  • a fruitful undisturbed research topic: 実りのある平静な研究テーマ
  • sits at the intersection of ~: ~の交差点に位置している

9) Intern or visit a university.

  • インターンシップや研究訪問は,才能のある人たちと日常的に肩を並べて仕事をすることができるので,人脈を広げる絶好の機会です.
  • 新しい技術スタックや新しい研究分野に慣れる必要があるため,素晴らしい学習経験となります.
    • 指導教員とは異なる知識豊富なメンターの指導を受けることで,個人の成長のさまざまな側面に焦点を当てることができるようになります.

10) Play the long game.

  • 大きな機関にいると,最初のネットワークにアクセスできますが,長期的には,一緒に仕事ができる賢い人たちとのネットワークを構築したいものです.
    • ネットワークを構築するための最良の方法の一つは,積極的に行動し,できる限り人助けをすることです.
    • これは,ブログ記事やライブラリを書いたり,チュートリアルやコースを公開したり,モデルの再実装をしたり,オープンソースのソフトウェアを手伝ったりすることです.
    • このようなことを一貫して行えば,あなたは勤勉で親切であるという評判が高まり,人々はあなたと一緒に仕事をしたいと思うようになるでしょう.
  • 体を大切にしましょう.
    • 仕事に励み,十分な睡眠と運動をとる.
    • 時間をかけて新しいことを学ぶ.苦手なことにも取り組んでください.