就地取材，因地制宜，是乡土聚落中民居建造的普遍规律，由于自然地理条件的千差万别，山西传统民居形式，风格迥异。山西地处内陆，交通不便，物资转运困难。据《晋政辑要》载：“查晋省地处万山，路途险仄，砖瓦木石各料向较别处为昂，运送更属不易。梁柱巨木尤为缺少，往往于数百里外入山采伐，挽运来省，所费尤多”。
基于此，乡民只能依据当地的实际情况，因境而成地建设自己的家园。如在晋东及晋东南的太行山区，基岩裸露，植被较好，所以利用石材、木材建造房屋，较为普遍；而在晋西、晋北等丘陵地带，黄土广布，适于“穿土为窑”，居民多依山靠崖挖掘窑洞，形成“家三家两自成村，小住洪崖闢洞门。漫道穴居同上古，此中别具一乾坤”的村落景观。在汾河流域的晋中、晋南地区，交通条件较之别处尚属便利，历史上也较为富庶，民居普遍采用窑房合建或砖木结构形式，建筑质量较高。
山西民居在不同的时代和地域呈现出不同的特征，从构筑方式来看，主要分为窑洞式和砖木结构式两种类型。窑洞式民居又可分为黄土窑洞和砖石窑洞二种。黄土窑洞主要分布在山区，这种构筑方式经济适用、施工便捷，是山西民居的重要形式。
