嘉庆十二年(1807年)十二月罗泽南生于湖南省双峰县，从小聪明敏慧，四岁始识字，六岁入私塾，过目成诵，但家境贫困，四壁萧然，一家人经常吃了上顿没下顿。二十九岁那年，他从县城考秀才回来，徒步赶路，半夜才回到家，还没进家门，就听到妻子的哭声，原来因为大旱无粮，他的三个儿子都饿死了。十年之间，他先后失去了包括兄嫂、祖父和三个儿子在内的9位亲人。妻子因为接连丧子，悲伤过度，两只眼睛全都失明，耳朵也重听，疾病缠身。 罗泽南自己也多有疾病，腰背酸痛不休，由于家贫，又不能买药给自己治病。
然而不论生活多么穷苦，罗泽南从不以个人穷达为忧，专心理学，以经世致用为志。
咸丰二年(1852年)，太平军进犯长沙，湖南地区的士绅对此深感不安， 在此危急情况之下，45岁的罗泽南以在籍生员的身份倡办团练。
咸丰三年(1853年)，罗泽南与曾国藩共同募兵成立湘军。江忠源率兵援救江西，向曾国藩求援，曾国藩命罗泽南率兵前去。他的部下大多是湖南的书生，他们初临战阵，在南昌城下与太平军恶战，战死多人。曾国藩听说之后非常高兴得说:"编练的湘军果然可用。"南昌解围之后，又去围剿了安福的土匪，以三百人击破数千太平军，被提拔为直隶州同知。回到湖南后，又围剿了永兴的土匪，所部增至千余人。与曾国藩完善了湘军营制，训练了半年。
咸丰四年(1654年)六月，罗泽南和塔齐布一起进攻岳州，他料想大桥是太平军必争之地，所以坚守不动，伺机出击，三战皆捷，歼灭太平军数千人。闰七月，攻破了高桥的九座太平军营垒，太平军退守城陵矶，罗泽南趁势和塔齐布一起进击，接连击退太平军多处大营。从此，湘军的威名开始远播，罗泽南与塔齐布并称为湘军名将。
罗泽南和塔齐布在城陵矶大败太平军之后转战向东，攻克了崇阳，击退了盘踞在咸宁的太平军，又在金牛击败了他们，继而进驻紫坊。曾国藩在金口会见了诸位将领，商议进攻武昌的事宜。
罗泽南为之绘制图纸并进献方略。然后湘军排列巨炮面向长江内外，分为水陆两路。罗泽南率军队直趋花园，太平军依凭木城向湘军发炮。湘军士兵蛇行前进，逼近太平军的营垒，并且分兵夺取太平军的船舶，船上的太平军被击退之后，大营里的太平军也乱了阵脚，太平军三处都被攻破。第二天罗泽南又攻破了鲇鱼套的太平军大营，他们窜向洪山的士兵，被清将塔齐布所拦截，太平军夜里弃城而走。武昌、汉阳二城都被恢复，此时距曾国藩的会攻武汉会议仅仅七天。向朝廷奏捷之后，罗泽南很快被授为浙江宁绍台道，曾国藩请求将他继续留在军中。
太平军占据兴国，并且分兵攻陷了大冶。罗泽南率军攻克了兴国，塔齐布也攻克了武昌、大冶，于是规划攻取田家镇。太平军用铁锁拦截清军水师，驻扎在半壁山互为犄角之势，在长江两岸隔岸而守。罗泽南进驻马岭坳，距离半壁山有三里左右。太平军数千人突然来犯，并且由田镇渡江前来的援兵又将近万人。而罗泽南的军队仅仅有两千，罗泽南令军士埋伏起来，等到太平军懈怠的时候再出击，太平军大败，后路被清军阻拦，坠崖而死的有数千人，罗泽南夺取了半壁山，清军水师截断了横在江上的铁锁，烧毁了太平军的船舶，而且攻克了田家镇，朝廷给罗泽南赐号为普铿额巴图鲁，加按察使衔。
当时湘军商议水陆军分三路进剿太平军，总督杨霈总领江北岸的兵马，罗泽南和塔齐布一起攻击杨霈以南的太平军，曾国藩率领水师沿江而下下。然而当时下了大雨不能行军，太平军又再次向北进犯，于是罗泽南和塔齐布一起改道向北渡过长江，克复了广济、黄梅。太平军退守孔陇驿、小池口，罗泽南趁势约各路兵马前来会攻。湘军渡江还未到一半，太平军就又来进犯，湘军不敌稍稍退却，罗泽南的手臂受伤，但仍然指挥作战，分兵打败了街口的太平军，太平军的首领罗大纲败走。这一次战役，罗泽南以五千人击破太平军两万兵马，太平军沿江的诸大营全部撤走，退守江西九江。塔齐布前去围攻，罗泽南与之分别前去围剿盔山，遏制湖口前来援助的太平军。适逢湘军水师进入鄱阳湖，被太平军所袭击，湘军的辎重全部丧失。曾国藩快马驰入罗泽南的大营，然而湘军水师阻住了鄱阳湖口使他难以进入。
咸丰五年(1855年)，湖北的清军屡败，武昌再次陷落。罗泽南跟从曾国藩进入南昌，前去救援饶州，在陈家山、大松林大战，大破太平军，克复了弋阳。又去救援广信，在城西乌石山大破太平军，并攻克了乌石山。接连克复兴安、德兴、浮梁等地，并进剿义宁。接着，他又在梁口、鳌岭击败了太平军，克复了义宁，被加封为布政使衔。
罗泽南见江西的军事部署不是十分合理，就向曾国藩建议说:"九江逼近江宁(南京)，而且向西牵制武昌，故太平军以全力争之。他们进犯弋阳，派兵到广信，从信水而鄱阳湖，抄我们的右路;又占据义宁，扼守梅岭，从修水而下鄱阳湖，抄我们的左路。如今两处都被我们平定，九江的门户渐渐稳固了，惟独湖北的通城等地仍然很多叛军。江西的义宁、武宁，湖南的平江、巴陵，始终都不安宁。想要扼制九江，最好是从武昌而下;如果我们想要解武昌之围，最好从崇阳、通城而入。为今之计，我们应当把湖口水师、九江的军队截住太平军鄱阳湖的船，更选能征善战之军扫灭崇阳、通城的太平军以进入武昌，以武昌来扼制九江。那么东南的全局，说不定会有转机啊。"
曾国藩将他的建议全都奏报了朝廷，于是命罗泽南前去湖北会剿太平军，将塔齐布的旧将彭三元、普承尧等部的人马也拨给了他，一共有五千人，再次前往湖北围剿太平军。
咸丰五年(1855年)九月，罗泽南率军至通城。太平军虽然号称数万，但只不过是乌合之众，一战即溃。罗泽南进军夺取了桂口要隘，进而攻克了崇阳，在羊楼峒驻军。太平军韦俊、石达开部合军二万余人从蒲圻率军来犯，被罗泽南部击败。胡林翼前来劳师，与罗泽南合攻蒲圻并攻克了此地，然后乘大雾进军攻克了咸宁。从此武昌以南没有了太平军的踪迹。
同年十一月，大军抵达紫坊，罗泽南与胡林翼商议进攻城市的策略。罗泽南屯驻洪山，胡林翼屯驻在城南的堤上，湘军水师驻扎在金口。太平军在城外筑起了十三座坚固的营垒，与洪山城类同。两军初战之时，太平军两万兵马出十字街，胡林翼与之交战，太平军数次退却又数次进攻。罗泽南与李续宾分两路偷偷地前去抄太平军的大营，攻破了十字街的大营，将太平军修筑在城东南的营垒全部捣毁。
八步街口是湘军通往长江的要路，塘角是太平军粮运的重要道路，罗泽南派军先后攻破这两个地方，焚毁了太平军的造船厂，湘军西北的太平军营垒全部被湘军攻破了。然而太平军又在望山门外修建了两座石垒，罗泽南率军踏平了这两处太平军营垒;又在窑湾、塘角两地驱逐太平军，歼灭数千太平军，于是太平军闭城不出。
太平军主帅石达开自从在崇阳被湘军击败后窜入江西，势力又开始膨胀起来。曾国藩发出文告要罗泽南回援江西，罗泽南因为武汉是南北交通的枢纽，如果湘军骤然撤离，胡林翼一军人马不能独自守卫，如今太平军的粮草将要用尽，如今要撤离，实在不是一个明智的决策。罗泽南的父亲已经八十岁，将书信送至军中要他保持忠义之心，胡林翼将信交给了罗泽南，咸丰六年(1856年)二月，朝廷下诏赠予罗泽南的祖父母、父母二品的封典，以示朝廷对他的恩典和器重。
罗泽南征战四年，克城数十，历经二百余战，几无败绩，还屡屡以少胜多，堪称湘军中的“战神”。
罗泽南之所以能战，第一原因是勇敢，理学是生死之学，因为学养深厚，打起仗来，从不怕死。“每战必死，忠勇冠时。”第二是经世致用，一直致力于有用之学。从军后，他注意实地考察地形，绘制地图，选择有利地势来作战。第三是因为他理学功夫深，在极乱的战场上能做到不动心，所以头脑冷静，分析战况时分毫不差。
罗泽南带兵也极有特点，每天白天打仗，晚上就把部下召到一起，教他们读书，给他们讲理学道理，以《孝经》《四书》转相传诵。夜晚营中书声琅琅，不知道的还以为是到了学校呢?
罗泽南对湘军的另一个重要意义，是他甘于清贫教书育人二十余年，培育出一大批人才，比如王錱、李续宾、李续宜、李杏春、蒋益澧、刘腾鸿、杨昌濬、康景晖、朱铁桥、罗信南、谢邦翰、曾国荃、曾国葆等等。他们饱受理学思想熏陶，具有经世抱负与才干，湘军兴起后，这些学生大多成为湘军名将，悍勇无畏。
咸丰六年(1856年)三月，长期闭门不出的太平军开门出战，扑向湘军。罗泽南亲自督战。太平军援军接连而至，湘军从洪山出动奋力追击太平军，飞炮击中了罗泽南的左额，血流而下布满了脸上。他很快回了洪山，回去之后仍然端坐在营外指挥作战，第二天在军中逝世，终年49岁。
咸丰帝听闻之后非常震惊并表示哀悼，下诏依照巡抚的规格给予议恤。赐其父罗嘉旦头品顶戴，儿子罗兆作、罗兆升都赠与举人，赏赐世代承袭的骑都尉之职，并且入祀昭忠祠，在他的本籍湖南，还有湖北、江西都建立专祠，赐给谥号忠节。太平天国平定之后，同治帝追念罗泽南的功劳，加封为世袭的一云骑尉之职。
