他想起了，1959年第一批特赦和1975年最后一批特赦的情景；他想起了，妻子蔡若曙的工作和生活有了安排，儿子黄新、黄理，女儿黄敏南都上了名牌大学，次女黄慧南也毕业于党校，这桩桩件件都离不开敬爱的周总理，对他一家的照顾。
1983年，在第六届全国政协会议上，黄维被选为常务委员，在纪念抗日战争胜利40周年时，他还专门写了回忆文章，以表达对之前共同奋战，如今身处台湾的老同学的想念。
并向他们写信，聊表怀念，他在信中写道：“祈求祖国统一，人同此心，心同此理，如统一早日实现，我当亲赴台湾和你们把酒言欢。”
自从台湾当局开放探亲以来，黄维就一直为两岸关系做着努力，希望能在自己身体允许，生活能自理，神智清明的时候，能够在仅剩的时间里，为祖国的和平统一而努力，如果不能实现，这将会成为他终身的遗憾。
在黄维晚年时，还经常通过书信、交流、撰写文章等各种形式来表达希望两岸和平统一的心情，因为在那时，两岸之间的交流其实并不多，而黄维在晚年奔赴台湾，也是想通过自己的努力来促进两岸之间的交流，为两岸统一作一些贡献。
1989年1月，黄维从香港回来，“此前他已经去过几次香港，会老朋友，参加交流活动，他从心里盼望两岸和解，忘记了自己年老体衰，风尘仆仆三次到香港与故旧会面，为两岸关系和解工作，为和平统一奔走呼喊。”
刚从香港回来没多久的黄维，忙着为两会准备参会提案，在两会现场报道之后，黄维的身体就感到身体不适，去医院看病时，由于情况不乐观他被留下来强制住院了。
那天晚上，给黄维看病的是一位老专家，他一直守在黄维的身边，即便病情稳定下来了，他还是不放心，因为黄维的病情很容易反复发作，多人劝他去休息，他却始终不愿走，最后在医生们的劝说下，才离开了医院，走之前还交代病人随时有反复，要注意观察。
可是在深夜黄维再次犯病，不小心滑落到了地上，最终还是由于心脏病突发去世，而这一天正是1989年3月20日。
如果你问起他有没有改造成功，这是肯定的，或许是在他饱受病魔摧残，性命垂危共产党一次次不遗余力将他救回时；亦或许是看到自己被俘之后，妻子儿女都有被好好的善待，能够接受好的教育，没有因为他的原因而被针对时；也有可能是在特赦后，中央特别设立职位解决他们的工作问题时；或是看到在共产党的领导下创造的如今中国大好生活时。
在黄维被特赦时，当时的中央统战部部长童小鹏就曾亲口对黄维的大女儿黄敏南说：“当年你高考后，虽然考分超过了录取分数线，但因为父亲黄维的战犯身份，复旦大学一时不敢录取，层层上报，最后请示到*总理，”在*总理的特别关照下，黄敏南才成为复旦大学的一名学生，毕业后在清华大学当上了一名人民教师。
也正是因为中央的关照，总理的关怀，黄维的子女基本都有了不错的前程，而黄维也深深体会到了国家的“可爱”之处，才有了在老友方志敏墓前的深刻反省与满满的悔意，在晚年一直积极致力祖国的和平统一。
哪怕是面对台湾方面承诺补发他担任中将27年薪水的巨大诱惑，只为让他搬去台湾时，黄维还是坚定拒绝了，他不想负任何一方，他去台湾只是为了两岸的和解，为了会见故友，他深知共产党待他不薄，因此坚决不同意搬到台湾，他只想留在大陆，为这个可爱的中国奉献绵薄之力，以弥补自己之前的过错。
