在六億年以前,太行山地區是一片汪洋大海,後來經過了頻繁的地殼活動,地面上升下降,海水時進時退,當海退時,這裡沼澤廣佈,氣候溫暖潮溼,生長著茂密的森林,因此形成了太行山區豐富的煤炭資源。
之後的一次次地殼活動,使太行山脈逐漸隆起。後又與東西的華北大平原斷裂,形成太行東部陡峭、西部徐緩的地貌形態。
山西高原的河流經太行山流入華北平原,流曲深澈,峽谷毗連,多瀑布湍流。在太行山深山區河北省贊皇縣,有世界最大的天然迴音壁。