山形县北有鸟海山、东有奥羽山脉,南有朝日山地、饭丰山地。每年降入山形县的雨水都集中在最上川。气候属于日本海型。从地区分布来看,庄内平原的冬天有强烈的西北风吹过,但降雪不多。然而新庄盆地却常降大雪,初夏时节时有严寒发生。内陆的山形、米泽盆地?典型的盆地型气候,夏季高温(有过40℃以上的日本全国最高记录),冬季低温,每天的温差也十分显著。
从县的地形来说,奥羽山脉南北贯穿其东部,与此平行,县的中央部还有出羽山地,朝日山地和饭丰山地连绵起伏。流域面积占县全面积76%的最上川流过这些山地所形成的内陆盆地,经过庄内平原,注入日本海。最上川是很吸引人的观光地。此外,藏王山、舄海山、出羽三山等也是国家级观光地。因此,说山形全县都是观光地并不过分。五月雨蒙蒙,朝游最上川。传说这句诗咏的是最上川县立自然公园处的最上峡和白丝瀑布;这一带为最上川穿越出羽山地的地方,两岸崖壁耸立,春有新绿,夏季凉爽,秋有红叶,冬可观雪。
山形县的气候,冬季与夏季的差距相当明显,是一个四季分明的地方。县的内陆地区是包围在群山之间的盆地,夏天酷热,冬天则常常有暴风雪。史上日本的最高气温40.8度就是在这里观测到的。然而,面向日本海的南北约110公里,东西约40公里的平原,庄内地区则属于海洋形气候,夏季与内陆地区一样炎热,冬季策受到西伯利亚气团的影响,常常飘雪。山形县内几乎所有的市村町都有温泉,落差5米以上的瀑布也有230余处,占全国的9.2%。