削除したい要素のインデックスを指定してListに格納されている要素を削除するにはRemoveAtメソッドを使います。

RemoveAtメソッドを使って指定された位置にあるList内の要素を削除する
using System;
using System.Collections.Generic;

class Sample {
  static void Main()
  {
    var list = new List<int>() {0, 1, 2, 3, 4};

    Print(list);

    // インデックス1の要素を削除する
    // ({0, 1, 2, 3, 4}の1が削除される)
    list.RemoveAt(1);

    Print(list);

    // インデックス2の要素を削除する
    // ({0, 2, 3, 4}の3が削除される)
    list.RemoveAt(2);

    Print(list);
  }

  static void Print(List<int> list)
  {
    foreach (var e in list) {
      Console.Write("{0}, ", e);
    }

    Console.WriteLine();
  }
}
実行結果
0, 1, 2, 3, 4, 
0, 2, 3, 4, 
0, 2, 4,

RemoveAtメソッドでは削除したい要素のインデックスを指定します。　削除したい値を指定して要素を削除したい場合はRemoveメソッドメソッドを使うことができます。　また、削除したい要素の範囲を指定して要素を削除したい場合はRemoveRangeメソッドを使うことができます。