后人有诗可证：“偏仄旁山行，溪流咽不呜。何年留古砦，犹复说开平。”
勇猛敢战，这是常遇春戎马生涯的最大特点，并且贯穿于历次重大战役。
至正十五年{1355年｝六月，常遇春投奔朱元璋不久，朱元璋即率军渡江南下。
在著名的采石矶{在今马鞍山市之南、长江东岸｝战役中，面对着元朝水军元帅康茂才的严密防守，常遇春乘一小船，在激流中冒着乱箭挥戈勇进，纵身登岸，冲入敌阵，左右冲突如入无人之境。朱元璋即挥军登岸，元军纷纷溃退，缘江堡垒纷纷归附。
朱元璋乘胜率军，攻占太平。次年三月，又攻占集庆，改为应天府。集庆及其周围地区的占领，使朱元璋获得一块财富之区，为在江南的继续开拓和壮大，奠定了基础。
这一阶段的战斗，常遇春锋芒初露，立了头功。
他开始受到朱元璋的信任，由渡江时的先锋升至元帅。
据史料记载，元至正二十年{1360年｝初，朱元璋令常遇春与另一名大将徐达，率重兵镇守池州防备。陈友谅统其兵众，部署袭取池州。
徐达侦悉陈友谅的行动，令常遇春率精兵万人，设伏于六泉口。
陈友谅兵至，全力猛攻池州城。徐达率领守军开城出击，常遇春伏兵掩其后，大破陈友谅军，斩首万余，擒捉三千，使得陈友谅败走江州{九江｝。
西征陈友谅，常遇春再立大功。
当时陈友谅占据上游，精兵大舰，雄心勃勃，是朱元璋开拓事业的主要威胁。
至正二十年{1360年｝五月，陈友谅率水军数十万，直取应天，在南京城西北的龙湾与朱元璋军展开一场恶战。
朱元璋以弱御强，设计用伏，诱敌深入。
常遇春奉命与冯国胜率帐前五翼军三万人设伏，为全军主力。经过一场鏖战，在龙湾登陆的陈友谅兵，遭到常遇春、冯国胜伏兵的冲杀，死伤惨重，溃不成军。
正值江水落潮，龙湾水浅，陈友谅一百多艘巨舰全部搁浅。朱元璋挥水陆军并进，陈友谅大败而逃。龙湾大捷，朱元璋转危为安，并壮大了力量。
常遇春大破敌阵，战功卓著，不久就升行省参知政事。
龙湾战后的第三年{1363年｝，陈友谅以号称六十万大军倾巢来攻，在鄱阳湖与朱元璋军进行了一场持续三十六天的决定生死存亡的水上大决战。
朱元璋先是派兵封锁敌人的归路。交战中，陈友谅军船大、坚固，但速度慢，朱元璋军船小、速度快，操作灵活，两军相持，难解难分。
有一次，朱元璋的座船搁浅，陈友谅的大将张定边率船队来围攻，情况危急。
常遇春奋勇当先，射伤张定边，又用自己的战船撞击朱元璋的座船，使其脱离浅滩。
战斗中常遇春奉命积极组织火攻，发挥小船的优势，乘风纵火。陈友谅的舰队被烧得烈焰冲天，兵将损失过半，湖水尽赤。
陈友谅率残舰撤往湖口，又受到朱元璋诸将的追击，以及常遇春的迎头堵截。
陈友谅在混战中，被流矢射中死去。这场决战扭转了双方力量的对比，陈友谅覆灭，使得朱元璋成为群雄中之强者。常遇春因功受赏，得金帛田地甚厚。不久，升为平章政事。
这次战役，不仅恢复了皖南军事要地太平县，也使汉军龟缩于武汉不敢再犯。
论功行赏，常遇春功劳最大。朱元璋夸赞他说：“当百万众，摧锋陷坚，莫如副将军。”
常遇春当年设伏的地方，就在今天九华山的大古岭、凤凰岭一带，并且在百丈潭前留有诗文：“赤汗透征袍，何如孝隐高。结庐亲冢侧，只为报劬劳。”
至正二十四年{1364年｝七月，常遇春先是随徐达率军攻占庐州。接着，又与邓愈会合，征服江西的新淦、吉安、赣州、南安等郡县，岭南韶州、南雄等地，望风降附。
第二年五月，常遇春又奉命与邓愈率军，攻取湖北的安陆、襄阳。
十一月，常遇春与徐达率军攻占了泰州。
至正二十六年{1366年｝八月，朱元璋以徐达为大将军，常遇春为副将军，率兵二十万东征张士诚。按照朱元璋的部署，徐达、常遇春的军队，先攻取湖州和杭州等地，翦除了张士诚的羽翼，使得平江{今苏州｝孤立无援。经过长达十个月的围攻，平江城破，张士诚败死。
常遇春以功进封为鄂国公。
至正二十七年{1367年｝十月，朱元璋以徐达为征虏大将军，常遇春为征虏副将军，率二十五万大军出师北伐。
当时，北方元朝的军事力量已经大大削弱，所以徐达、常遇春出师三个多月，就已平定山东。
洪武元年四月，明军在洛阳的塔儿湾与元军相遇。常遇春单骑突入敌阵，麾下壮士从之，勇猛冲杀，在洛水之北击溃元军五万，俘获无算，史称塔儿湾大捷。
这一仗，占领了河南和潼关，夺取了陕西的门槛，为攻取元大都创造了极为有利的形势。
洪武元年闰七月，徐达、常遇春率马步舟师，由临清沿运河北上，连下德州、通州。
元顺帝携后妃、太子等人，逃奔上都开平{在今内蒙古正蓝旗东｝。
八月二日，徐达、常遇春一举攻占大都，改为北平府。稍事休整，即又挥军西进，攻取山西。
他们与精锐的扩廓帖木儿军，进行了艰苦的搏战，平定山西。