很多人对山西、山东中的山字一直说是太行山，山西位于太行山以西可以理解，但是太行山以东今天则是河北省、明清时为直隶，再坚持说山东省是太行山之东就有些说不过去了。
其实这个问题可以灵活看待，山西之“山”必是太行山，“山东”名字的由来却未必非要按这个思路来，也就是说山东之“山”未必是太行山。
“山东”之名用于行政区划在金朝。《金史》记载：“移剌古为山东东路兵马都总管”这是对于山东东路的最早记载，时间大概在金朝天眷二年（1139年）。以金朝山东东路、西路分界线来看，其中间部分大致与泰山等山脉的山脊线相重合，相信当时是以泰山这座名气最大的山作为山东东路名字的。至于山东西路则是在贞祐三年（1215年）置，既然设置山东东路了，那就把这一带设置成山东西路吧。到了元朝，山东东西道宣慰司则和河东山西道宣慰司以及中书省直辖的地区一起构成了“腹里”。
山西山东是以太行山东西为名。
2、山西，省会太原市，因居太行山之西而得名，简称“晋”。唐大部分属河东道；宋设河东路；金分河东北，南路；元设山西河东道，为山西得名的开始；明置山西省，后改山西布政使司；清改山西省，省名至今未变。
3、山东，省会济南，因居太行山以东而得名，简称“鲁”。唐大部分属河南道；宋设京东路，后分京东东，西路；金更名山东东，西路，为山东得名的开始；元设山东东西道；明置山东省，后改山东布政使司；清改山东省，省名至今未变。
