新四军第二师的成立，源于1941年1月皖南事变后的一次重要重组。它由江北指挥部下属的两个支队以及江北游击纵队整编而成。最初的第二师师长由新四军副军长张云逸兼任，这位老兵，肩负起了这一重要职务。

张云逸是一位有着丰富革命经历的老前辈，他的军事生涯几乎贯穿了整个近现代历史。从黄花岗起义到辛亥革命，再到护国战争和北伐战争，张云逸始终活跃在中国革命的最前线。1926年，他加入中国共产党，随后参与了南昌起义和百色起义，是红七军的首任军长。在随后的岁月中，他不断担任重要职务，包括中革军委副参谋长兼作战局局长、粤赣军区司令员等。抗日战争全面爆发后，张云逸成为了新四军的核心人物之一，先后担任新四军参谋长兼第3支队司令员，在皖中指挥部担任指挥职务。皖南事变发生后，他被任命为新四军副军长兼第二师师长。1942年3月，张云逸调任新四军专职副军长，主持新四军的军事工作。

大家都知道，1955年，张云逸被授予了大将军衔。但在他调任专职副军长之后，第二师的领导权交到了谁的手中呢？这个重要的位置，由毛主席亲自赞誉为在滇军中是革命的、战争经验丰富、有军事才能、很会打仗的罗炳辉担任。

罗炳辉，云南彝良人，1897年出生，自年轻时便投身于军旅，成为滇军的一员。他因战斗英勇，很快晋升为营长，并成为了云南军阀唐继尧的亲信副官。罗炳辉参与了讨袁护国战争、东征及北伐战争等历史性战役。1929年，受朱老总的影响，他加入了中国共产党，并发动了吉安起义，成为红军江西独立第五团的团长。此后，他先后担任红十二军军长、红九军团军团长，带领部队参加了艰苦卓绝的长征。

抗战全面爆发后，罗炳辉毅然告别延安，奔赴华中抗日前线。他先后担任新四军第一支队副司令员、第五支队司令员、江北指挥部副指挥、第二师副师长等职务，逐渐成为了新四军的重要领导之一。张云逸调任专职副军长后，罗炳辉接任了第二师师长这一位置。

作为一名军事指挥员，罗炳辉极为注重战术的创新与灵活应用。早在土地革命时期，他便创造了具有革命性的麻雀战和跳梁阵战术，这些游击战术在当时具有独特的战略价值。在抗战期间，罗炳辉根据皖东和洪泽湖地区的特殊地形，又创造了一套更为精妙的游击战术，内容包括诱敌、迷敌、扰敌、奇袭、反击、歼灭等一系列战法，具体的战术如火烧野牛、四两拨千斤和梅花战术等等，这些都彰显了他卓越的军事才能。正因为如此，毛主席才曾高度评价他，称他很会打仗。然而，令人惋惜的是，罗炳辉身患高血压，由于战事繁忙，他始终未能得到有效的治疗和休养，这也为他未来的悲剧埋下了伏笔。

1946年6月21日，年仅49岁的罗炳辉因脑溢血去世，时任山东军区第二副司令兼新四军第二副军长的他，未能看到共和国的胜利曙光。罗炳辉的去世，不仅是中国革命历史上的一大损失，更令广大人民为之感伤。尽管如此，党和人民永远不会忘记他所做出的巨大贡献。1989年，罗炳辉被追授为中国著名的36位军事家之一，这份荣誉使他成为永世敬仰的革命英雄。