遵義歷史悠久。春秋時期，遵義屬巴蜀等邦鄰地；戰國時為夜郎屬國；秦漢時置郡。唐貞觀十三年（639）置播州， 曾稱“羅蒙”，宋更名播川縣。明萬歷二十九年（1601），更名為遵義軍民府，隸四川布政司。遵義一名即始于此。清雍正五年（1727），遵義及其屬縣劃入貴州，改置遵義府。
到了民國中期，遵義設專員公署，解放後改為遵義地區行政公署。1997年6月，國務院批准撤銷遵義地區，設立地級遵義市。
20世紀50年代以前，遵義還僅為面積2平方公里，人口不足5萬的小城鎮。經過短短五十年的發展，遵義已一躍成為貴州的第二大城市。
夜郎國
戰國時期，今遵義一帶屬于“大夜郎國”的範圍。西漢元光五年（公元前130年），置犍為郡，郡治鱉縣，即在今遵義市中心城區附近。元鼎六年（公元前111年），于夜郎地置牂柯郡，作為邦國存在了250多年的“夜郎國”之名從此消失。
此後，作為郡縣行政建制的的“夜郎郡”、“夜郎縣”之名曾多次出現，與今遵義有關的，一是唐貞觀十六年（公元642年）所置的夜郎縣，在今桐梓縣境，為珍州的治所。二是唐天寶元年（公元742年）改珍州置的夜郎郡，治所即在這個夜郎縣。至德二載（公元757年），大詩人李白被“長流夜郎”就是這里。
歷史回顧地：夜郎城址。
土司制 
土司制度是我國古代政府統治邊疆少數民族的一種特殊制度，唐代便有啟端。土官既是政治上的最高統治者，又是當地的大領主，掌握著軍、政、財權，對農奴可以“生殺予奪”。
自唐末至明末，統治播州（今遵義）的楊氏土司家族，是中國封建社會進入晚期後，西南地區落後社會制度的重要代表。在遵義一千多年的歷史長河中，楊氏 29代世襲統治播洲長達724年之久。到了明萬歷年間，楊應龍起兵叛亂，朝廷派兵平定後，才將播州土司改土歸流，結束了各地大小土司各自為政的局面。
土司制度在遵義存在長達數百年之久，如今仍有墓葬、遺址和文物等大量豐富的土司文化遺存。
歷史回顧地：楊粲墓、
海龍囤遺址。
遵義會議
1934年1月中共六屆五中全會以後，王明“左”傾冒險主義得到大肆推行。在這種錯誤領導下，第五次反“圍剿”失敗了，迫使紅軍放棄革命根據地，開始長征，在突圍過程中損失慘重。為了擺脫尾追和堵擊的敵軍，毛澤東建議中央紅軍放棄去湘西同紅二、六軍團會合，改向敵軍力量薄弱的貴州挺進。1935年1月7日，紅軍攻克黔北重鎮遵義。
1935年1月15日至17日，中共中央在遵義召開政治局擴大會議，集中全力解決了當時具有決定意義的軍事和組織問題，肯定了毛澤東的軍事戰略主張，確立了毛澤東在黨和紅軍中的領導地位。
遵義會議獨立自主地作出一系列重大決策，在極其危急的情況下挽救了黨，挽救了紅軍，挽救了中國革命，是黨的歷史上一個生死攸關的轉折點。從此，中國革命就在毛澤東為代表的正確路線指引下走上勝利發展的道路。
歷史回顧地：遵義會議會址、
紅軍山、
婁山關。