战争电视剧《大刀向鬼子们的头上砍去》根据国民革命军29军大刀队的真实故事改编，讲述了北平耍刀艺人郑承龙一家——他和三个徒弟及女儿郑莺先后以不同的方式卷入战场，与日军奋勇作战的故事。

“九·一八”之后，日军进攻热河，承德守军弃城而逃，一路搅扰难民。58岁的郑承龙正带着三个徒弟在长城外卖艺，血气方刚的老二郑羽与逃兵发生冲突，跟家人失散。郑羽在逃亡中意外地进入29军大刀队，被迫与攻击喜峰口的日军交战。郑羽第一次上战场，就是一场肉搏。
郑承龙回到北平，依靠早年的把兄弟路传虎的帮助，继续在天桥卖艺。路传虎与日本人关系密切，其女明珠则与郑氏兄弟交好。日本武士三岛明夫在华北驻屯军特务机关任职，他在路传虎的帮助下，以比武为名，欲谋取郑家宝刀和刀谱。幸好郑羽从兵营中赶回，打败了三岛。从此三岛明夫一心要打败郑羽，并且要为日军找到击败中国大刀的方法。
喜峰口大捷，郑羽成为抗日英雄，正式进入大刀队。但由于中国上层的不抵抗政策，长城抗战最终失败。做事乖巧的老二郑飞喜欢明珠，他为求取功名而加入29军，成为一名学员兵。郑承龙和胆小怕事的老大郑德则避事搬到卢沟桥附近居住。
七七事变前的几年间，郑羽随29军先后驻守察哈尔和北平，在日军的一再挑衅下，奉上司命令，不许开枪，不许还击，受尽屈辱。郑飞则担当29军高级军官的副官，了解到中国军队的上层矛盾，日本如何一步步攫取在华利益。
“一二九”运动期间，组织者、中共地下党员曹明爱上了明珠，这使得明珠在他和郑飞之间选择不定。负责警戒任务的郑羽与游行学生发生冲突，奉令逮捕曹明，但最终成为朋友...