聂荣臻提出成立边区政府的想法，并教宋县长如何说服阎锡山同意此做法。

阎锡山同意成立边区政府，并提供大量大洋做支持。1938年初，晋察冀边区军政委第一次代表大会召开，经选举成立晋察冀边区临时行政委员会，敌后第一个民主政权宣告成立。

作为美国军事观察员，卡尔逊是第一个来到中国边区的外国人，他很疑惑边区军人的粮食供给问题。聂荣臻告诉他，红军把老百姓组织起来，团结人民群众，顺民心，顺民意，红军打的是人民战争。

1938年9月，日本华北方面军调集5万部队向五台山区发动进攻，聂荣臻下令军区机关向五台山转移。连长赵铁头和指导员一心想立功扬名，不顾掩护机关人员撤退的任务与日军交战，造成20多人伤亡。聂荣臻狠狠训斥了二人，撤销了他们的职务，让他们重新学习。