表現論のひとつの目標としては代数系を固定して適切な条件を満たすベクトル空間の同型類を分類・構成するというものが挙げられます。この代数系の選択としてありがちなものは、有限次元環、リー群(位相群)、代数群、量子群、ヘッケ環、頂点作用素代数、作用素環などがあり、各々かなり研究手法が異なります。研究手法以前に分野の核についての認識についても差異もあり、よくある立場として次の4つが挙げられます:

1. シンプレクティック(もしくは)ポワソン多様体としての幾何学的構造の量子化が表現論であるとするいわゆる軌道法
2. 簡約代数群の重要な表現は対応する体のガロア群の表現から得られるといういわゆるLanglands対応
3. 代数系の包含関係をもとに誘導及び制限によって表現論が形づくられるというHarish-Chandra誘導
4. 対称性とは適切な意味でのテンソル圏、もしくは適切な意味での位相的場の理論など、とにかくnaiveな意味では代数でないものであり、それを実現するような代数系を構成する分野が表現論だという考え方

これらはある意味で立場のpure stateであり、その任意の混合も立場となります。1.に属する考え方としては古典的なものとしてはKirillovの軌道法、幾何学的量子化、新しい話だとconical symplectic singularityの量子化や(量子)Coulomb枝などがあると思います。2.についてはLanglands対応とその変種(p進, mod p, 幾何学的など)が主な例です。また、Lie型有限群(有限体の上の単純代数群)の既約表現のLusztigによる分類のように"表現論の構造の骨格はルート系以外にあまり依存しない(はず)"といういわゆるLefschetz原理と組み合わせて考えると多くの変種があります。3.はメジャーな研究手法で、古典的なものとしてFrobenius相互律及びMackey machine、そしていわゆるLanglands分類などがここに属します。量子群の表現の圏化などの話は誘導及び制限の理論がただ単に綺麗であるという以上の意味を持っているということを主張しています。4.は漠然としていて、いわくいいづらい面もありますが、例えば頂点作用素代数や量子群の導出などはここに属します。これらの代数系を導出する背景となった共型場理論や可解格子模型などもここに含めたいです。

なお、上のような立場だと有限次元代数、cluster代数、作用素環論などは良い代数系を包括するさらに大きい枠組みと捉えられるのではないかと思います。

複数の状況があると思います。まず、幾何学的表現論をやりたいという場合。この場合は入学前に

1. 単純リー代数とその複素数体上の有限次元表現の分類、構成、その指標
2. リー群、もしくはアフィン代数群を含む微分幾何学または代数幾何学の基礎的な知識
3. 層の理論とホモロジー群

のうちの少なくとも1項目については教科書1冊ぶんくらいしっかりと習得して、できればもう1項目くらい教科書の半分くらいはしっかり習得したという形にして欲しいです。1.については量子群もついでに学べる「リー代数と量子群」、1.2.両方についてまとまっているものとしては「線形代数群の基礎」や「リー群と表現論」、3.については「層とホモロジー代数」や「層のコホモロジー」などが参考書として挙げられます(そのかわりにもう少し実践的に特性類などの勉強を「Bott-Tu, 微分形式と代数トポロジー」や「代数幾何における位相的方法」あたりでしても良いかも知れません)。

普通は知識があればそれだけ面白いことを考える余地が増えますので上の3項目が全て大丈夫という人は(もう一つの場合の参考書などに加えて)さらに進んだ話として「Representation theory and complex geometry」、「D-Modules, Perverse Sheaves, and Representation Theory」、「Vertex Algebras and Algebraic Curves」、「Lectures on Hilbert Schemes of Points on Surfaces」、「Lectures on Hall algebras」、「The Langlands Classification and Irreducible Characters for Real Reductive Groups」あたりを適当に参考文献を遡りつつひとつふたつ眺めておくといろいろと捗るかもしれません。ただし、このであげた本たちは総体として横方向に広がっています。ですのでこれらの本全てを学部生時代に読破するなどということは絶対に試みないでください。そういう自信のある人は悪いこと言わないのでとりあえずGrothendieckというかEGAとかSGA, 柏原-Schapira, Gaitsgory, Lurie, Costello, Scholze, 深谷賢治のように長くて深い重要な本を書く人たちの著作を追ってください。一部分でもちゃんと理解できれば研究上で大きな力となるはずです。

なお、幾何学的表現論において頻出する代数系の典型例としては半単純リー代数(の無限次元最高ウェイト表現論)、量子群、箙ヘッケ代数、頂点作用素代数などがあり、その基本的な表現論的パターンが学べる教科書は「Representations of Semisimple Lie Algebras in the BGG Category O」、「Khovanov–Lauda–Rouquier 代数とCategorification」、「Introduction to Soergel bimodules」、「Representations of p-adic groups」などがあります(これも上と同様学部生時代に全部読もうとするのはお薦めしません)。

幾何学的でない表現論、もしくは表現論と関連する他分野をやりたいという場合。この場合は入学前にやりたいことに関する予備的な知識に加えて

1. 圏論の一般論
2. ホモロジー代数
3. テンソル圏や位相的場の理論

のうちのどれかひとつについては教科書の半分くらいしっかりと習得しておいて欲しいと思います。1.については「ベーシック圏論」もしくは「圏論の基礎」、2.については「ホモロジー代数入門」もしくは「環と加群のホモロジー代数的理論」、3.については「Frobenius Algebras and 2-D Topological Quantum Field Theories」や「Monoidal Categories and Topological Field Theory」あたりを挙げておきます。

上記どちらの場合でもやみくもに本をたくさん読めば良いというわけではなく、４年生セミナーなどでやったものも含めて(上記の、あるいは同等のレベルの)本の１冊分〜２冊分が(使用法、証明の概略、そして背景となる考え方を含めて)大学院入学時までにしっかりと身についていることが重要です(具体的にはタイトルを見て興味を持った本の目次やイントロ、そして展望などの部分を５〜６冊くらいさらって読めそうでかつ面白そうなものを選ぶことをお薦めします)。あとは修士以降に徐々に学んでゆけば良いと思います(そもそもここに挙げた全ての教科書の内容が完璧に頭に入っている人は研究者でもあんまりいないと思います; もちろんそのかわりにいくつかの項目についてはここに挙げている本などよりもっとずっと深い知識がある訳ですが)。ただ、一般的な話として数学者になることを目指す場合は博士過程で２番目の論文を投稿するころにはご自身のトピックについて自分は指導教員より詳しいと思える感じでないと最終的に生き残るのは簡単でないように思います。

なお、私が現在までに指導教員として博士課程で受け入れた学生は全部で8人、そのうち4人が学位を取得、1人は一般企業に就職、3人は現在在学中です。