Николай Губенко родился 17 августа 1941 года в Одессе. Шла Великая Отечественная война, и его матери пришлось рожать в катакомбах, скрываясь от бомбёжки. В 1942 году мальчик потерял родителей: отец-лётчик погиб на фронте близ Луганска, а мать казнили немецкие захватчики, поскольку она отказалась с ними сотрудничать.
Губенко воспитывал дед. У него также были три старшие сестры и брат — они оказались на попечении соседей и получили новые фамилии. Николай впервые узнал о родных, когда ему было уже 16 лет.
Шестилетний Николай попал в одесскую спецшколу-интернат для детей погибших офицеров. В старших классах мальчики осваивали часть программы на английском языке. Предполагалось, что выпускники смогут поступить в Военный институт иностранных языков и стать переводчиками, разведчиками, дипломатами или журналистами.