1968年3月27日，在一次例行飞行训练中，加加林和飞行教练员谢廖金驾驶“米格-15”战机在莫斯科附近坠毁身亡。目前，坠机残骸和碎片仍完好保存在莫斯科某空军航空技术研究所的密封桶内。加加林被葬在克里姆林宫墙下。苏联政府宣布当天为全国哀悼日。非现任国家领导人去世后被宣布为全国哀悼日，这在苏联历史上还是第一次。

加加林坠机身亡的原因至今仍是谜。关于他的死因至少有25种说法和推断。当时苏联政府组织庞大的国家调查委员会，但最终也没有公布调查结论。

今年4月8日，克里姆林宫档案管理部门把当年一些绝密档案材料结集出版，其中包含调查委员会结论等文件。文中写道，“最可能引发这场灾难的原因是为躲避一个气象气球而实施的紧急机动”，急剧的机动动作使战机进入“超临界飞行状态并在复杂的气象条件下停止运行”。

或许，谜团的彻底揭开尚需时间或契机。