数千年以前，相传居住在河南商丘附近的一个部落的首领名叫相土。相土因治理部落有方，人们都尊称他为相土君。他的部落常以打猎、捕鱼、开垦土地种植作物为生。但为了生存与发展，相土还经常到临近去了解别的部落如何生活、生产的。一次他外出途经相山这个地方，发现这里的山川优美，森林茂盛，动物繁多，河里、沼泽里鱼虾游来游去。他便高兴的手舞足蹈蹦跳起来，嘴里还唱着：“好地方、好地方，北是山来，西是水，东、南两面是平原。山有柴，水有鱼，一片平原好种田。”于是，他决定将部落从商丘迁到相山。
当他回到商丘以后，便立刻向部落的人说了相山这个地方怎么怎么好，动员大家移居到相山，直说得全部落都动了心。当年秋收已毕，相土便叫人们收拾好家什搬家。因为没有运输工具，担的担，抬的抬，背的背，一连走了三天。人们的背磨肿了，脚上打了泡，累得腿疼腰酸不愿不再走了。相土机智地想了个办法，叫人砍些树枝绑成人字架，又叫砍了一棵搂把粗的大树，用锯锯成一段一段的，从树心处钻个眼，再用木棒穿在锯成的树心眼里，然后将木棒绑在人字架的小头处，叫两个人推拉着走。大家一试，果然轱轮转动向前，觉得省劲多了。后人称这种东西为原始的独轮土车，并传说后来我国的马拉车就是相土发明的。
几天之后大家来到了相山一看，这里果然山青水秀，名不虚传，十分高兴。待歇息后，相土又给大家说，就在山坡下盖住房，开荒种地。一年过去了，人们的辛勤汗水浇灌了相山的土地，各种庄稼都结出了丰硕的果实，人们安居乐业，自给自足。
部落有了剩余。相土又想：要把剩余的物产带到别的部落交换，换来自己部落缺少而又急需的东西多好呢！于是，他向自己的部落说了他的想法，又得到全部落的交口称赞。
相土征得人们的同意，就组织人员集中剩余的物资到外地去交换。他每到一个部落都受到欢迎，感谢相土给他们送来了急需的东西。这时人家便问起相土的部落住在什么地方？相土一时无法回答。因为他们还没有给居住的这个地方起名字呢！相土的随从人员看他沉默着，便顺口答道：“相土，是我们部落的首领。我们的住地背靠一座大山，就叫‘相山’吧！”(这便是以姓氏而起名)相土连忙也点了点头说：“我们就住在‘相山’”。从此以后“相山”这个名字，就传开了。