阴山山脉从东到西绵延1200公里。它是由几座首尾相连的山构成。从西往东有狼山色尔腾山乌拉山大青山等，向阳的南坡非常陡峭，背阳的北坡非常平缓。
阴山的有名来自它是草原和荒漠草原的分界线，200mm的等降水线就是一个自然划定。不教胡马度阴山把这个分野说的非常清楚。不过今天内蒙古最重要的三个城市呼和浩特包头和鄂尔多斯的城区都位于阴山以南。阴山阻挡了来自北方寒冷的风，黄河又提供了充足的灌溉，所以这里能够发展农业，也成了历史上游牧与农耕文明反复争夺的地方。可能明朝处于一个小冰河期，农耕线进一步南移，这才使长城没有沿着阴山山脉。
