历史上说的小云南是云南省大理州祥云县祥云县原名云南县，政府驻地最初在云南驿，因为县省同名，故一般叫做小云南，或古云南。

明代明初，云南县城从现云南驿迁至到现祥云城。1918年，因县名与省同，故改称祥云县。“小云南”移民保存下来的家谱上显示，他们绝大多数为乌撒卫军户，就在今贵州毕节附近的威宁县。历史上是这样的：洪武十五年春正月，朱元璋亲在云南分设14卫，乌撒卫为其中之一。后来，洪武十六年乌撒卫改隶贵州都指挥使司。他们并不是云南人，原本祖籍散布各处，是领军平定云南时迁入的，再到抗倭时分布于沿海各省份展开战争留居至今，几乎都带云南当地少数民族的血统。但一代一代传下来，已经没人记得在云南之前自己的家族到底出自哪里了。