第二师团始建于1873年（明治6年），是日本帝国最早设立的六个镇台之一，称为仙台镇台，1886年改名为第二师团，因其征兵地位于仙台，也被称为仙台师团。第二师团主要下辖第4，16，29，30四个联队（1937年第30联队调出）。曾参与过西南战争、中日甲午战争（日清战争）、日俄战争、九一八事变、侵华战争（中国抗日战争）、太平洋战争等多次战争，是日军中最有战斗力的师团之一。1945年于越南西贡（胡志明市）向盟军投降。1950年陆上自卫队前身，日本警察预备队成立。同时，第二师团的前身，第2管区总监部也建立了。1962年1月18日，日本陆上自卫队第2师团重建，属于机械化步兵师，早期全师团约8100人（现...