“山高水长皇帝远”最早见于北宋李昉等人编纂的《太平广记》：“近日，北边传来消息，契丹兵犯境，沿边州县闻讯皆惧，纷纷上表请求援军。但因山高水长，皇帝远，待朝廷消息传到，边境之地早已被契丹铁骑踏破。”

这句俗语主要有以下两层含义：

一、地理位置偏僻遥远，信息传递困难。古代交通不便，信息的传递主要靠驿马、烽火等方式，如果地方过于偏远，消息很难及时传达。比如边疆地区，由于山川阻隔，与中央朝廷相距甚远，朝廷的命令和旨意往往要经过很长时间才能到达。

二、中央政府鞭长莫及，对偏远地区的控制力有限。由于信息传递困难，中央政府对偏远地区的掌控力较弱。朝廷的政令法度很难有效执行，导致地方官吏有很大的自主权，甚至可以为非作歹，民不聊生。

因此，“山高水长皇帝远”这句俗语反映了古代中央集权的局限性，以及偏远地区治理中的困难。在现代社会，随着信息技术的发展，交通运输的便利，这句话已经逐渐失去了实际意义。但它依然可以用来形容偏远地区地理环境的复杂，以及中央政府管理的难度。