1939年秋，罗炳辉率领新四军第五支队（后编入新四军第二师）进驻安徽省来安县，以该县的半塔集为中心，建立起了一个抗日游击根据地，与日伪军进行顽强不屈的斗争。

在新四军的众多部队中，罗炳辉所领导的五支队有一个鲜明的特色，那就是每个战士都配发了一件冷兵器——大刀。这是罗炳辉在新四军中的首先开创的一种潮流。

众所周知，大刀作为一种冷兵器，其杀伤力是远远无法与能发射子弹的钢枪相提并论的。那么，罗炳辉为什么要给战士配大刀？大刀能对付鬼子吗？

那是在1939年5月，罗炳辉被任命为五支队司令员。上任伊始，他就注意到一个迫在眉睫的问题，那就是当时五支队的枪支弹药不足，必须尽快想办法予以解决，否则根本难以与装备精良的敌人对抗。

当时五支队的枪支弹药匮乏到了什么程度呢？每个新四军战士只配发了三发子弹，有的战士为了不让子弹袋看起来瘪塌塌的，便想了个办法，把树枝折成子弹长短装进去伪装成子弹。

可是罗炳辉心里知道，这样的伪装解决不了实际问题，要是真上了战场新四军还是会吃大亏。可当时五支队只是新四军的“编外”机构，国民党政府既不发军饷，也不供应补给。

更让战士们气愤的是，国民党来安县保安团虽然一听到日军的风声就吓得屁滚尿流，却嘲笑缺枪少弹的新四军五支队是一支“叫花子部队”。

面对着国民党部队的冷嘲热讽，面对着每人仅有三发子弹的现状和处于敌伪中心的困境，身为五支队司令员的罗炳辉开出了三帖药：单兵训练、战术训练和大刀。

因为只有近战可有一拼，而劈刀是近战的有力武器。由于新四军枪支杂，在与鬼子拼刺刀的时候常常吃亏。于是，根据地的军民用扒下来的铁轨制作大刀，铁轨坚硬，制造的大刀锋利无比，威震敌胆。曾经有鬼子向新四军二师阵地扑来，只见前沿阵地上空无一人，唯独数十把大刀齐刷刷地插在地上，刀把上的红布迎风呼呼飘动，敌人胆寒而自退。

罗炳辉还根据实战需要和旧军队的刀法，改编了一套40多个动作的“大刀操”。起初罗炳辉亲自教授大刀操，后来，请来了一位冯玉祥部队的教官教授大刀操。

除此之外，罗炳辉还组织了大刀队。大刀队的成员都是罗炳辉精心挑选、严格训练的骨干，他们均为20岁上下、身强力壮的小伙子，计有180人，名为“学兵连”。

大刀队的队员除1支步枪、4个手榴弹外，还多了一把大刀。战士们所用的大刀种类繁多，有关云长用的那种青龙偃月长柄大刀，也有单面鬼头刀（又叫“一块肉”大刀），还有双面阴阳刀。刀柄子上都系有二三尺长的红洋布。

当时学兵连的劈刀经常到新四军二师四、五、六三个旅巡回比武，最激动人心的是罗炳辉亲自做示范动作。

只见罗炳辉挺立的英姿，犹如一座高塔，粗壮的臂膀，挥刀旋转，如银蛇飞舞，刀光闪闪，真有点滴水不进的功夫。罗炳辉还将十个铜板摞起，一刀劈下，两瓣纷飞。有时，罗炳辉用雷鸣般的口令声，和全连战士一起列队布阵，劈刀对刺，那翻腾跳跃、杀声震天的英雄气概，真有点山不可挡、水不能阻的气势。谁看到这惊心动魄的场景，都深信劈刀是近战慑敌的法宝。

不久，在金牛山破袭战中，新四军大刀队毙伤日伪军800余人，其中用大刀砍死、砍伤的近半数。接着又在桂子山肉搏战中，毙伤日伪军300余人，其中，用大刀砍死、砍伤的敌人约占三分之二。后来，大刀队又在龙王山与敌遭遇，毙伤日伪军二百余人，大部分是用大刀砍死砍伤的。

这几次战斗下来，罗炳辉的大刀队威震淮南。以后的战斗也证明，大刀队的训练是很有效果的。

有一次，新四军部队的一个排，在夜间插入敌人的驻地，神出鬼没地接近敌人所驻的小围子。敌人的哨兵来不及叫喊，就被大刀队砍倒了。与此同时，一排人翻进了围子，冲入敌人住房。敌人还在睡觉，有的起来格斗，但枪不能打，结果被大刀队解决了。

还有一次，大刀队一个连守住一个山头。敌人冲锋三次都被大刀队打退了，他们又组织第四次冲锋。连长说：“不打枪了，准备大刀！等他来！”这一声令下，从山头到山脚一线，每个战士把亮闪闪的大刀从背上抽出，竖插在战壕前面，刀柄上的红布飘动，大刀被太阳映着，亮得炫目。敌人弄不清我方有多少兵力就掉头溃退了。

后来罗炳辉发现大刀太短，在白昼战斗时，敌人枪上加刺刀比大刀长，于是又加上梭镖（这是野战中肉搏的利器），成立梭镖突击队。

1940年1月，卖国贼汪精卫的一个警卫营从江北的程家桥到六合城，受到新四军部队的伏击。敌伪依靠猛力炮火，占守马鞍山山头待援。新四军集中火力掩护梭镖突击队抢上山腰，梭镖突击队冲上去，把敌人完全解决了。

大刀这种冷兵器成了罗炳辉他们战胜日伪军的重要武器，这一点也让国民党部队非常惊讶。后来，来安县保安团团长程建元被日军袭击，正是被罗炳辉率大刀队救了一命。程建元在感激涕零之余，对罗炳辉说了一句大实话：“罗司令，你们用大刀也能经常打败日军，这一点我们真是心服口服、望尘莫及啊！”