并州四周河流较多，西部南部省界都是黄河，东部从北到南均是属于海河水系的桑干河、滹沱河、清漳河、浊漳河、沁河，内部则是贯穿整个山西南北的汾河。河流在山谷中穿行，形成了出入大山的谷地，盆地，也形成了许多交通要道，重要关隘。
在并州境内有五大盆地。东南方是长治盆地，西南方是临汾盆地，北面是大同盆地和忻州盆地，中间是太原盆地，周边都有高山包围阻隔，形成了多个重要的关隘东部太行山区，南有壶关，北有娘子关和平型关，是东入华北平原的要道。在吕梁山脉与恒山山脉之间，有雁门关，宁武关，和偏头关，是阻挡游牧民族进入中原的重要关隘。南部王屋山有两个重要关隘，一个是长平，一个是箕关，是阻挡中原北进的交通要道。守住两关，中原大军就很难北上了。在中条山和王屋山之间有一座关隘名曰箕关，既可以阻挡西部大军进入河内，也能防止中原大军进入西河郡，太原郡。
并州西部又叫“晋陕大峡谷”。也就是现在的内蒙古托克托河口到禹门口的这一段，这一段的黄河在峡谷中飞流直下，黄河在这一带是被两边高山夹峙，在古代交通不发达的时候是没办法大规模的运输物资以及军队的，因此基本上不太可能从这边进入山西。在中条山北侧大河东岸的蒲州设下重兵，可以防守长安来的兵马，还能防止蜀军从渭水水路进兵河东郡。
中条山东南侧，是着名的风陵渡口，风陵渡，因为风陵而得名。这里有一座风陵堆，相传是黄帝时代的人物风后的陵墓。风陵渡位于黄河从北到南，继而从西向东的转折处。
相传是黄帝贤相风后发明指南针战败蚩尤的地方。风后殁后，黄帝把他葬在他战斗过的地方，谓之风陵。由此，渡口称风陵渡。这处“鸡鸣一声听三省”的渡口，历史上一直以摆船渡河，来连接晋、陕、豫三省。
黄河经过九曲十八弯奔流到潼关附近，因受华山所阻，折向东流，风陵渡正处于黄河东转的拐角，是山