我军历史上还从未建立过军事检察院，这也意味着筹备工作全都要从零开始。当时组织并没有为黄火星配备副职，从人员调度到规章制度，他全都事必躬亲。
初期，检察院的体制和规章大都是借鉴苏联制度的，而黄火星在调研后提出：要坚持党的绝对领导，要根据我们的实际情况进行学习和借鉴，绝不能照搬照抄。
不过许多事都是说起来容易、做起来难。想要成立检察部门除了要有规章制度，还要有相应的人才。于是大到部门条例的制定，小到学习计划的实施，黄火星都事无巨细地参与其中。
11月10日，经全国人大会议批准，黄火星担任最高人民检察院副检察长，兼任军事检察院检察长。
身为检察机关的负责人，黄火星向来严格要求自己：案件中的证据是否充分？案件的调查过程是否清晰完整？对案件的审理是否足够慎重？
在他这种“以事实为依据”的办案原则下，检察院的风气肃然一清。
也正是有这样一个一身正气、依法办案的*，才有力地推动了我国检察事业和法治的建设。
曾经在社会上摸爬滚打的经历，造就了黄火星细致入微、关心下属的性格。一次战士李德患了重感冒，黄火星得知李德已经病到卧床不起后，连忙赶来了解情况。
为了能让李德的身体早日康复，他取出了自己身上仅剩的四块光洋递给李德。李德见状后连忙婉拒，最终还是抵不过他的决心，收下了其中的两块光洋。
侦察参谋王培臣因伤要去医院住院，临行前对黄火星说：
“你是了解我的，我烟瘾大，要多发一点钱给我。”
话音刚落，黄火星就断然拒绝了他：
“不行，谁都要按规定发。”
虽然黄火星口中是这样说，但是他却拆下了自己手腕上的表，翻出了自己身上的十块钱，一股脑地塞给了他。
在打游击战期间，黄火星养成了随身携带针线包的习惯，而他这个习惯保持了一辈子。由于跟将士们的相处十分融洽，又经常帮他们缝补衣物，所以大家送了他一个“黄老奶奶”的爱称。
正是因为他始终保持着艰苦朴素的作风，才能在59年阅兵开始前总指挥杨勇在左右为难时，为他缝上那枚纽扣。
除了对党忠诚，对自己严格要求，黄火星对待子女同样严慈相济。1968年初，他上初中的女儿黄力飞因为班里出宣传板报的事和同学发生了矛盾。
作为班里的宣传委员，面对不配合的同学时，黄力飞也颇感委屈。一次她向黄火星诉苦时，他却告诉女儿：“做人不要总想着做山尖。”
黄火星说：
山尖虽然能被更多的人看到，但是也同样太过陡峭不容易被接近。而山谷却截然不同，它很大很深，可以容纳许许多多的东西……
这番“山尖”与“山谷的比喻让黄力飞恍然大悟，让她懂得了反思自己的不足。其实仔细想想，黄火星又何尝不是一个甘做“山谷”而不做“山尖”的人呢？
1969年，黄火星到“五七”干校劳动。尽管身体不适，但他仍旧忘我地工作，一手包揽了干校的建设工作。
繁重的劳作让他的身体日渐消瘦，时常出现便血、腹泻等情况。1970年春，由于病重，黄火星不得不返京治疗，经过诊断才发现他患上了结肠癌。
周总理得知后下令为他成立了专门的医疗小组。此时的黄火星倍受鼓舞，他拖着病体提笔向周总理写下了“愿为党再工作十年”的愿望。
