石本寅三读完计划后，在场日军军官均爆发出欢呼声，没有被点到名字的军官则是一脸失落。莲沼蕃看出了他们的心思，于是对这些未能参与此次进攻的日军军官当场进行了一番安抚。
2 月 21 日，日军正式开始行动，黑田旅团所属千田联队由朔县出发，向宁武、神池大举进犯。与此同时，竹内联队从井坪镇出发，向偏关县杀来。绥远的伪蒙军李守信则率军南下，直扑清水河县。为了策应驻蒙兵团进攻，华北方面军第一军所部 109 师团派出两路大军，一路从汾阳出发，向西进攻，兵锋直指离石，一路进攻吕梁，继而占领娄烦。
21 日下午，日军竹内联队先头部队一个中队刚进入偏关县老营镇境内，就与负责巡逻的一支民兵队伍遭遇。双方顿时爆发战斗，由于日军装备精良，训练有素，民兵队伍不敌，被日军击溃。在战斗爆发的同时，巡逻队长派出了一名民兵火速前往附近的村庄报信，通知各村准备迎敌，并向县城汇报日军进犯的消息。
收到消息的各村立即开始组织百姓撤离，同时派出民兵破坏公路，拖延日军速度，为百姓撤离争取时间。李宏之前坚持在各村建立民兵，加强各村管理的措施在这一刻作用完全体现了出来。各村老百姓不管是撤退还是破坏公路、桥梁，全都分工明确，有条不紊。
日军进犯偏关县的消息很快就传到了县政府，县长方静山一面找来保安团商议城防，一面命令县政府稳定城内秩序，组织百姓撤离，向附近山区转移，同时发电报将消息发送到了河曲县政府。
李渝得知日军进犯偏关县，不敢丝毫耽搁，第一时间就将消息告知了城外军营的罗大山。罗大山当机立断，派出 785 团二营立刻出发，火速增援偏关县，务必拖住日军的脚步，为部队调兵争取时间，并