1949年1月12日，淮海战役刚结束，平津战役正在进行时，中央军委通知第三野战军首长粟裕、陈士榘、张震：“华野、中野休整时间规定两个半月，由一月十五日至三月三十一日止”，“按此部署休整，并完成渡江作战诸多准备工作，待命出发”。这里规定的时间是4月之后，中央军委坚持了这个决定。2月8日，第二野战军政委邓小平、第三野战军司令员兼政委陈毅联名向中央军委报告，建议加紧进行渡江准备工作，提前于3月初行动，四野派出渡江部队应提前南下。中央军委于当日分别致电邓、陈及第四野战军林彪，表示同意中野、华野加紧整训，准备提前3月初行动。但同时指出：“在实际上，三月仍需整训”，“四月渡江为宜”。这几个指示表明，淮海战役结束后，中央军委将渡江作战的时机、日期选在4月。
中共中央为什么将渡江时机选在4月呢？原因是多方面的：第一，淮海战役结束后，江北国民党军主力全部撤退江南，江北仅有少数据守在桥头堡部队，因此，人民解放军不需要进行江汉战役，即可直接举行渡江作战，只要人民解放军准备好即可采取行动。这样就可由原来设想的5、6月提前一个月，也就是4月份。第二，主力部队第二、第三野战军1月上旬结束淮海战役，部队需要休整，诸如渡江所必需的服装、雨具、船只、政治动员、调整与训练南下干部等，这次没有两个月时间是不行的。而且在此期间部队尚须由淮海、山东地区向江边开进。因此，中共中央决定2、3月为休整、准备时间。第三，北平和平解放，蒋介石“引退”，毛泽东发表时局声明提出和谈条件后，国民党代总统李宗仁发表声明并致电毛泽东表示愿意进行和谈。中共中央决定派出以周恩来为首席代表的代表团，并根据我军渡江准备情况，定于4月1日开始谈判。中共中央准备“争取依照和平解决北平用的榜样去和平地解决南京所处的问题”。为迫使签订有利于人民的和平协定，认为渡江时间应在“开始谈判十天或者是五天后”。这样，渡江时间只能选在4月。
关于渡江的具体时间，因受到多方条件的制约，加上情况多变，经中央军委与总前委多次磋商，确定4月，具体日期变更四次，最后定为4月20日。
4月15日，国共谈判结束。双方起草的《国内和平协定》定稿，中共首席代表周恩来郑重宣布：我们限定南京国民党政府在20日之前答复，如不接受，不签字，则20日我们一定打过江去。至此，渡江作战的具体时间就确定下来。
4月20日，南京国民党政府悍然拒绝在国内和平协定上签字。当天夜间，中国人民解放军按照预定部署发起渡江作战。
中国人民革命军事委员会主席毛泽东和中国人民解放军总司令朱德发出《向全国进军的命令》 ，命令中国人民解放军“奋勇前进，坚决、彻底、干净、全部地歼灭中国境内一切敢于抵抗的国民党反动派，解放全国人民，保卫中国领土主权的独立和完整”。
渡江作战开始以后，粟裕通宵坚守在指挥所里。他对身边工作人员说：“为了保证渡江战役胜利，今夜你们谁也不能睡，我也不睡。你们不要考虑我的休息，有什么情况马上告诉我，我就守在电话机旁。”
人民解放军中集团首先实施渡江作战 千帆竞发，强渡“天堑”，只用一个多小时就突破鲁港至铜陵段蒋军江防阵地，攻占铜陵、顺安、繁昌、峨桥等地，把蒋介石的千里江防拦腰斩断。
粟裕直接指挥的东集团4个军在江阴至扬中段渡过长江后，迅速突破蒋军防御阵地，打退敌人3个军的多次反扑，建立了东西50公里、纵深10公里的滩头阵地，继续向纵深进击。刘伯承指挥的西集团在江西省彭泽县至安徽省贵池县地段突破敌人江防，并迅速向纵深发展，隔断了汤恩伯集团与白崇禧集团的联系。蒋介石集团苦心经营3个多月的长江防线顷刻土崩瓦解。
与此同时，在中国共产党和人民解放军政治争取和中共地下组织的策动下，江阴要塞国民党守军7000多人起义，生俘要塞司令戴戎光，并立即调转炮口支援解放军渡江作战；国民党第二舰队司令林遵率领所部25艘舰艇在南京附近起义，另一部23艘舰艇在镇江投降，其余海军舰艇逃往上海，蒋介石部署在长江的海军舰队顿告瓦解。
华东军区海军在白马，由第三野战军机关部分干部、教导团和在苏中“土海军”海防团基础上发展起来的苏北军区海防纵队，以及起义、投诚的国民党海军舰队等部队组成。后来，就把四月二十三日定为中国人民解放军海军成立纪念日。
粟裕率领三野指挥机关渡江南进，特地到江阴要塞视察，接见了组织起义的中共地下党员唐秉琳等人。粟裕说：“你们为大军胜利渡江作了重要的贡献，为党为人民立了大功，党和人民是不会忘记你们的。”
人民解放军以迅雷不及掩耳之势一举渡江成功，国民党反动派乱作一团，仓促部署实行总退却，代总统李宗仁率领留在南京的国民党政府部分机构人员逃出南京。粟裕根据各方面情况判断，“南京敌已极形混乱，正向南或向东撤退”，指令各部加速渡江，截歼逃敌。粟裕的电令指出：“如南京之敌逃窜，则三十五军应即渡江进占南京，维持秩序，保护敌人遗弃之一切公私财产，该军应特别注意遵守政策，严肃城市纪律。”
4月23日，在南京中共党组织和人民群众接应下，第三野战军部队胜利进占南京，冲进蒋介石的总统府，降下国民党的青天白日旗，宣告统治中国22年之久的蒋家王朝覆灭。
人民解放军冲破长江天险、解放南京的消息传到北京，毛泽东兴奋异常，挥笔题诗：
钟山风雨起苍黄，百万雄师过大江。
虎踞龙盘今胜昔，天翻地覆慨而慷。
宜将剩勇追穷寇，不可沽名学霸王。
天若有情天亦老，人间正道是沧桑。
渡江以后，粟裕在三野干部会议上的讲话指出，渡江战役的胜利“对中国革命的发展具有极大的意义”，“单从军事上去看国民党的崩溃是不够的，更重要的是从政治上去看。我们不仅在军事上过了江，而且在政治上过了江”。