伟大的卫国战争开始的那一年，这位苏联的未来领导人只有10岁，全家住在斯塔夫罗波尔。
戈尔巴乔夫描述战争开始的那一天时说到：“听到这个消息时，正赶上我们在野外。那时候，我们全家人经常周末去草原，散步，唱歌。那一次像是告别了和平的生活。我们看到一个骑兵疾驰着上前向我们喊道：战争，战争，德国人发动了进攻。所有人都呆住了。他们叫所有人12点到村子中心的喇叭附近：莫洛托夫将发表演讲。”
根据戈尔巴乔夫的回忆，同一天宣布了动员：“我看着人们，妇女们在哭泣，那场景太可怕了。”所有收割庄稼的人，包括他的父亲，从地里干完活儿后都被动员了。“每个人都处于这样的状态：像是最后一次告别，但他们希望：他会回来。”
戈尔巴乔夫详细追忆与父亲告别的场景。“父亲跟我说了说话。他说，我要走了，现在你必须代替我在家里的位置。我答应他会帮助我的母亲。父亲给了我一大铝杯冰激凌，还送了我一把巴拉莱卡琴。我在琴上刻下了日期：1941年8月3日。整个战争期间这把琴都和我在一起，后来搬家的时候这把琴遗失了。”
战争期间，戈尔巴乔夫的父亲谢尔盖·安德烈耶维奇指挥过一支工兵部队并参加过伟大的卫国战争的许多著名战役。1944年5月，一家人收到了他的阵亡通知书，但很快戈尔巴乔夫的父亲寄来了一封信，他在信中说他一切都好。战争结束期间，戈尔巴乔夫的父亲腿部被碎弹片炸伤。他曾获得"勇敢"奖章和两枚红星勋章。