提到华东野战队第三纵队就会让人想到鲁南的山东军区第八师，三纵确实以八师为基础发展而来，笔者认为八师在整个华野里都算是命途多舛的一个主力师，解放战争中这个师牺牲了两位主力师的师长，且何以祥师长虽然担任三纵首任司令员，也只是被授予开国少将，低于其他同级干部，这其中又是为什么呢？
与华野一纵、二纵主要是由新四军部队发展而来的不同，三纵是一支生长在八路军系统中的队伍，八路军和山东鲁南军区是其干部和兵力的主要来源，包括耳熟人详的“铁道游击队”的原型也出自于鲁南军区。在山东，鲁南军区虽然培养的队伍不如胶东、滨海、鲁中等军区那么有名，但是，作为早期山东野战军手上唯一的原山东军区主力师，仍然发挥了很关键的作用。
要讲清楚华东野战军第三纵队就必须先讲山东军区第八师，提到第八师就要讲清楚鲁南军区第三团和第五团，正是这两个有红军血脉的团才构成了华野三纵的魂。
鲁南军区第三团又叫山东“老三团”，他长期活跃在沂蒙山区，其前身是八路军一二九师津浦支队，支队长孙继先，他是强渡大渡河的勇士。津浦支队成立于1938年，成立之初一直在冀南区域活动，6月底部队就往河北山东交汇处发展，此时中央要成立山东纵队，津浦支队随同纵队领导张经武和黎玉进入山东。
在山东，津浦支队经过了两次整军，部队分为两条线发展，支队主力编入山东纵队2旅4团，后编入鲁中军区，是军区唯一以老红军为基础创建的团队，后发展为华野八纵二十二师，是主力团。
津浦支队的另一个分支就是王吉文率领的一个营和兄弟部队合编而成的山东特务团二团，后合编为山东纵队第一旅第三团，三团、一团和四团又编为一一五师教导一旅，旅长孙继先、政委王麓水。后教一旅撤编，一团和四团去了鲁中军区，三团则改编为鲁南军区第三团，成为鲁南军区的绝对主力团。鲁南军区三团实际上是津浦支队发展而来的，有一二九师的血脉。
鲁南军区第五团的前身是主要是苏鲁支队和边联支队合编的一一五师教导二旅五团，其中苏鲁支队是朱道南在峄县发展的抗日武装，后改名为苏鲁人民抗日义勇总队，张光中担任总队长，部队约有700人。
1939年下半年苏鲁支队纳入八路军建制，支队长还是张光中，成立之初还是归山东纵队管辖。1940年2月，苏鲁支队改为一一五师编制，4月罗帅将特务团的原六八六团二营的两个连队纳入苏鲁支队建制，这两个红军连队的加入大大加强了苏鲁支队的实力，同时一一五师的干部五世安也被任命为苏鲁支队副支队长，11月，苏鲁支队编为一一五师教导二旅五团。
随着鲁南军区的成立，一一五师又将几支队伍编入五团。1943年，教导二旅五团被改编为鲁南军区第五团，这个团被称为“老五团”，也是有着红军血脉的团队，是一一五师和山东纵队发展起来的队伍。
1945年，山东军区整编为八个主力师，其中鲁南军区最强的三团、五团加上由铁道支队（电影铁道游击队的原型）和鲁南独立大队等地方武装发展起来的鲁南军区第二军分区部队合编而成山东军区第八师，王麓水担任军政主官、何以祥担任副师长。其中王麓水是“双红一”干部，政工干部出身，何以祥出身红二方面军，抗战期间随一一五师到达山东，八师也是鲁南军区唯一的主力师。
抗战后，山东军区的六个主力师大部分主力都随罗帅去了东北，仅仅留下的就是鲁中军区第四师和鲁南军区第八师。而原山东军区的主力部队甚至只有八师归陈老总的津浦前线指挥部管辖，在1945年的作战中，8师参加了兖州、枣庄等战斗，攻占了藤县，但是在攻占藤县的战斗中师长王麓水不幸牺牲，这是八师的重大损失。
如果王麓水师长能活到解放后，这位“双红一”的将领大概率是要被授予中将的，因为1945年山东军区八个师长中三师师长王建安最高，被授予上将、四师师长罗华生因解放战争职务不高被授予少将，其余五位全是中将。
1946年1月，八师编入山东野战军，副师长何以祥接替王麓水担任师长，丁秋生担任政委，丁是原鲁南军区政治部主任，属于原山东纵队干部。在8月的泗县攻坚战中，八师在大雨下攻城，最后伤亡2000余人也没有攻下泗县，八师元气大伤，事后陈老总也做了检讨。在随后的两淮保卫战中，八师配合二纵阻击援军。在宿北和鲁南战役中，八师表现不错，大量歼敌，打出了主力师的威名。
1947年1月，华东野战军成立，八师和滨海警备旅合编为第三纵队，其中滨海警备旅由滨海地区的警备十旅一部和警备十一旅组成。滨海警备旅改为第九师，师长郭廷万。3月，第十师被编入三纵，改称第七师，这是抗战后由鲁南军区若干基干团组成的，战斗力一般，此时华野三纵才有了三个师的编制。
在孟良崮战役中，三纵主要承担阻击胡琏整编十一师的任务，虽然整十一师距离核心阵地较远，但毕竟是五大主力之一，三纵将其隔离在战场之外，仍然算很好的完成了阻援任务。在7月的济宁战役中，由于侦查失误，将两万余守军误以为只有四千人，准备不足，后期增兵也是陆陆续续，导致付出了三千人的代价也没有攻下济宁城。此战后，三纵被迫将三个师九个团的编制缩编为三师七团，七师和九师各撤销了一个团的编制。
1947年底，和三纵有渊源的原津浦支队长孙继先担任三纵司令员，原司令员何以祥去了后方休养。一年后何复出担任三野八兵团参谋长，因错过了多场重要战役，最终只被授予少将军衔。
1948年初，七师编制被撤销，所辖团被编入八师和九师，三纵参加了洛阳战役，八师的二十三团一营率先攻入洛阳城，战后被授予“洛阳营”的称号。在济南战役中，三纵打得很英勇，八师师长王吉文阵亡，成为了济南战役牺牲的级别最高的将领之一。淮海战役中，三纵歼敌约三万余人，很好的完成了任务。
1949年初，三纵改编成为三野第二十二军，原八师和九师分别改编为第六十五和第六十六师，原胶东军区一部和八师二十四团合编为第六十四师，该部才终于又恢复成为三个师的编制。
华野三纵是一支命运较为坎坷的部队，在作战中牺牲了两位主力师师长，部队编制也经常被打散，但也涌现出“洛阳营”这样的很英勇的队伍，三纵是华野的中坚力量。