1894年4月17日赫鲁晓夫出生在俄罗斯帝国库尔斯克州卡利诺夫卡，接受过4年的学校教育，他的老师丽迪娅·舍甫琴科，使他接触到了
一些沙俄时代违禁书籍，并鼓励他继续接受教育。
14岁时，赫鲁晓夫在工厂中成为了一名优秀的钳工。他逐渐产生了对政治的兴趣，期间他参与了社会民主工党的宣传活动。1914年第一次世界大战爆发，赫鲁晓夫因其优秀的技术工人身份，被免召入伍。1917年5月29日，赫鲁晓夫当选为鲁钦科夫苏维埃主席。1918年3月，德军占领乌克兰，赫鲁晓夫逃回老家卡利诺夫卡，年底他加入红军，并很快成了政治委员。俄国内战带来了严重的饥荒，赫鲁晓夫的妻子耶弗罗西尼娅·皮萨雷娃在他从军期间死于斑疹伤寒。
1925年，在乌克兰党委书记拉扎尔·卡冈诺维奇的提拔下，赫鲁晓夫迅速提升。1926年12月，他被提升为共产党委员会的组织部部长与副书记。1929年，赫鲁晓夫跟随卡冈诺维奇来到莫斯科，进入斯大林工业学院继续接受教育。虽然最后他没有完成学业，但在政治上却飞黄腾达。1930年，赫鲁晓夫成为莫斯科最大的区克拉斯诺普雷斯奈斯基区的党委书记；1935年，他被任命为莫斯科州州委第一书记，斯大林发起了对党内的大规模政治清洗，赫鲁晓夫则是斯大林路线最起劲的鼓吹者之一。1937年6月27日，政治局确定了在莫斯科州抓捕3.5万名“敌人”的定额，其中要执行枪决的大约有5000人。赫鲁晓夫则要求将生活在莫斯科的约2000名前富农消灭，以部分完成规定的定额。7月10日，他向斯大林报告说莫斯科省市已经逮捕了41304名“罪犯与富农分子”。在同一份文件中，他自己圈定了8500名应该执行死刑的“第一类”敌人。
1941年6月22日，纳粹德国突然发动“巴巴罗萨计划”入侵苏联，赫鲁晓夫此时正在基辅任职。斯大林任命他为政治委员，他的职权与司令一样，没有他的签署不能发布任何命令。斯大林下令赫鲁晓夫所在的红军西南方面军死守基辅，可红军在基辅遭到了德军的围歼，赫鲁晓夫和谢苗·布琼尼、谢苗·铁木辛哥等将领突围逃离。斯大林并没有处决赫鲁晓夫，而是将他再次派往前线。赫鲁晓夫于1942年8月抵达斯大林格勒前线，不久之后斯大林格勒战役打响。他的主要工作是检查部队的战备与士气情况，亲自审讯德国俘虏，征召战俘中的一些人进行宣传工作。期间赫鲁晓夫有一次险些被炸死。他还和安德烈·叶廖缅科提出一份反攻计划，可最高指挥部和总参谋部，已经在他们之前接受了朱可夫的天王星行动。苏军最终以重大伤亡为代价守住了城市，并将德国第6兵团约33万德军全部围歼。就在斯大林格勒战役结束之后，一场家庭悲剧向赫鲁晓夫袭来，1943年3月11日，他的儿子列昂尼德，一名飞行员，在战斗中坠机身亡了。关于列昂尼德的死因产生了很多谣言：一种传言说列昂尼德在飞机坠落时幸存了下来，被德国人抓获，后来他投靠了德国人，直到斯大林命令苏联军队将他抓获并处死。同年列昂尼德的妻子柳芭·赫鲁晓娃被内务机关逮捕，并判在劳改营里服刑5年。她的女儿尤莉娅由尼基塔·赫鲁晓夫夫妇来抚养。赫鲁晓夫随苏军收复基辅后，被任命为乌克兰人民委员会主席，并继续担任该共和国党的中央委员会第一书记。
斯大林逝世后，赫鲁晓夫成为苏共中央委员会第一书记，但此职务的权力仅集中宣传和意识形态上，政治和经济事务则落入马林科夫和贝利亚手中。刚刚上台后不久，贝利亚就发动了一系列大胆的自由化改革。赫鲁晓夫认为贝利亚迟早会害死他们，于是表面上顺应贝利亚，而背地里却和马林科夫、伏罗希洛夫、卡冈诺维奇、莫洛托夫等人密谋将其推翻。在克里姆林宫召开的会议上，马林科夫等人突然展开了对贝利亚的围攻，并在莫斯卡连科、朱可夫等军人的协助下将他逮捕。又以叛国罪、恐怖主义罪将贝利亚处决。1953年8月，马林科夫提出降低税收、增加国家对谷物的采购价格、鼓励农民经营小块自留地的农业政策。赫鲁晓夫为夺回声望，于是在9月提出了更高的采购价格、强化农民自留地等政策，并进一步计划开垦哈萨克斯坦和西伯利亚的荒地。1954年春夏期间，赫鲁晓夫鼓动30多万志愿者来到东部垦荒，由于缺乏调查和准备，这场运动在几年内演变为农业和生态上的灾难。赫鲁晓夫还对公众开放了克里姆林宫，在民众中产生了巨大的反响。在此期间，暗中搞垮马林科夫的计划也在秘密进行着。赫鲁晓夫让法院调查团追查1949年发生的列宁格勒案件，他知道这起调查最终会把马林科夫牵扯进来。1954年间，赫鲁晓夫逐渐赢得布尔加宁、莫洛托夫、卡冈诺维奇、伏罗希洛夫、米高扬等人的支持。1955年2月的最高苏维埃会议上，赫鲁晓夫及其支持者指控马林科夫对列宁格勒案件中的责任，最终马林科夫被解除了总理职务，赫鲁晓夫取得苏联党和国家的最高领导权。
1964年10月14日，当赫鲁晓夫在黑海之滨渡假时，勃列日涅夫等人在莫斯科发动了政变，赫鲁晓夫被免除了一切职务，强迫“退休”，成为“特殊养老金领取者”，自此从公众视野中消失。1971年9月11日，曾经叱咤一时的赫鲁晓夫在沉寂中病逝，葬于新圣女修道院公墓。
