公元前8至5世紀(jì)前后的春秋時(shí)期,遵義市所轄地域,先后或分別屬于牂柯、巴、蜀、鱉、鳛等邦國(guó)。戰(zhàn)國(guó)時(shí)期,今遵義一帶屬于“大夜郎國(guó)”范圍。西漢元光五年(前130年),置犍為郡,郡治鱉縣,即在今遵義市中心城區(qū)附近。元鼎六年(前111年),于夜郎地置牂柯郡,作為邦國(guó)存在了250多年的“夜郎國(guó)”之名從此消失。夜郎縣之名到五代時(shí)期廢除,北宋時(shí)期復(fù)置,宣和二年(1120年)又廢,計(jì)先后存廢達(dá)480年。此后中國(guó)歷史上再?zèng)]有出現(xiàn)“夜郎”郡縣之名。作為二級(jí)政區(qū)的州、郡名稱(chēng),歷代屢有變更。唐貞觀十三年(639年),將隋代的郎州改名為播州,領(lǐng)轄今黔北的大片地域。播州之名,歷經(jīng)五代、宋、元到明朝末葉,存在了962年。所以人們常習(xí)慣用“播州”來(lái)代稱(chēng)古代的遵義。唐貞觀十六年(642年),將播州所領(lǐng)的羅蒙縣改名遵義縣。這是“遵義”名稱(chēng)最早的出現(xiàn)。遵義之名沿用至今已有1364年。除縣名外,歷史上曾有過(guò)遵義砦、遵義軍、遵義軍民府、遵義府、遵義專(zhuān)區(qū)、遵義行政公署、遵義市等建制名稱(chēng)。播州從唐末到明末的725年間,為楊氏土司所世襲統(tǒng)治。明萬(wàn)歷二十八年(1600年)“平播之役”后,取消土司制度,實(shí)行“改土歸流”,于次年分播州為遵義、平越兩個(gè)“軍民府”,分別隸屬四川、貴州兩省。清康熙年間取消“軍民”二字,直稱(chēng)遵義府。今遵義市大部分地域?qū)儆谶@兩府,還有部分地域?qū)儆谑涓⑺寄细?。清雍正五年?727年),遵義府由四川省劃歸貴州省管轄。民國(guó)初年,廢除“府”的建制。民國(guó)24年(1935年),貴州省設(shè)11個(gè)行政督察區(qū),黔北十余縣為第五行政督察區(qū)。1949年11月,遵義解放,“第五行政督察區(qū)”改為遵義專(zhuān)區(qū),后稱(chēng)遵義地區(qū),為省政府派出機(jī)構(gòu),并以原遵義縣城區(qū)為基礎(chǔ)新建遵義市。