1954年，考古学家安志敏在张掖市山丹县城南6公里发现距今约4000多年的四坝滩遗址，属新石器时代末期的马家窑文化类型；1984年和1987年，在张掖“黑水国”遗址先后发现新石器时代的石斧、彩陶；1987年7月，甘肃省文物工作队在张掖市民乐县六坝乡东北3公里的东灰山遗址，发掘出土大量磨制石器、陶器、炭化粮食籽粒及猪、牛、羊、鹿的齿骨等考古资料，由此证明，距今5000多年左右的新石器时代，张掖先民已在这里从事原始农业生产和畜牧业，能用石球、石纺轮纺织、做衣服，制造彩色陶器，并开始使用青铜器。 从《尚书·禹贡》的记载看，中华大地划分为九州时，张掖 属雍州。汉代（前206－220年）以前，月氏国称雄于敦煌祁连间，张掖为其属地；西周时期，戎、狄两族在这里居住；春秋战国时，乌孙与月氏共居河西。其后，月氏逐乌孙而独居。秦汉之际，北方的匈奴族强大起来，击败并赶走了月氏人，河西遂为匈奴右贤王的领地。黑河东、西分别由休屠王、浑邪王分领。
　　西汉武帝元狩二年（前121），骠骑将军霍去病进军河西，战败匈奴，浑邪、休屠二王率众归汉。张骞两次出使西域，“丝绸之路”开通。汉元鼎六年（前111年），取“张国臂掖，以通西域”之意，置张掖郡。此后，开始大规模徙民垦殖，戍兵屯田，发展农业生产，促进了中原与西域的经济、文化交通和繁荣。“立屯田于膏腴之野，列邮置于要害之路，驰命走驿，不绝于时月，商胡贩客，日款于塞下。”张掖遂为丝绸之路的重镇。西汉（前206－8年）末年，窦融任张掖属国督尉时，注重发展农牧业生产，使人民安居乐业。《后汉书》记载：“窦融据河西时，天下扰乱，唯河西独安。”“政亦宽和，上下相亲，晏然富殖。”“安定北地，上郡流入避饥荒者， 归之不绝。”
　　东晋（317－420年）时，沮渠蒙逊在张掖建立北凉国，都建康（今高台县骆驼城），他采取发展农业，大兴儒学，扩大同西域各国的文化交流，继承发扬汉文化，推广佛教，翻译佛经，开凿石窟，并以当地音乐、歌舞与龟兹乐相结合，创造新的音乐《秦汉伎》等措施，使张掖文化呈现出空前繁荣的局面，成为北方中国佛教的中心，同时也使张掖成为中国内地与西域通使和商贸的中介。北魏（386－535年）时，《秦汉伎》传入中原，称《西凉乐》，成为北朝宫廷的“国伎”；张掖的佛教音乐传入中原，称《西凉州呗》，成为北朝佛寺的法乐。西魏废帝三年（554年），因境内之甘泉而改张掖为甘州。
　　隋代（581－618年），张掖（甘州）商业发达，商贾云集，张掖郡治所在地的张掖城已成为国际商业大都市。炀帝派西域校尉裴矩掌交市。裴矩著《西域图记》献炀帝。大业五年（609年），炀帝西巡，经大斗拔谷（今扁都口），6月至张掖，登焉支山会见27国国王及使者，盛况空前。
　　唐代（618－907年）时，大力发展农业生产，“开置屯田，尽水陆之利，稻丰收稔，一缣数十斛，积军粮数十年”。河西的国际贸易地位达到前所未有的高峰，张掖成为中国对外贸易的重要场所。经济的繁荣，促进了文化昌盛。著名高僧玄奘去印度（天竺）取经，途径张掖。诗人陈子昂奉旨视察张掖，写有《上谏武后疏》。王维、高适、岑参、马云奇等驻足甘州时均留下著名诗篇。甘州音乐《波罗门佛曲》传入宫廷后，唐玄宗改制为《霓裳羽衣舞曲》。甘州边塞曲流入中原后，成为教坊大曲，以《甘州破》、《甘州子》、《八声甘州》、《甘州曲》等命名的词牌、曲牌流传甚广。唐末，张掖与中原、西域关系密切，通互市，发展贸易；僧侣往返，佛教文化得到进一步交流。
　　北宋天圣六年（1028年），党项族首领李元昊击败甘州回鹘，建立西夏。继承汉文化传统继续兴修水利，发展农业，兴办教育，推崇佛教、道教，建成了规模宏大的佛教寺院－大佛寺。
　　元代（1279－1368年），置甘肃行省，张掖为省会。元世祖忽必烈亲诏郎中董文用垦甘州之土为水田，仿宁夏之法种水稻。城内建甘肃最大的粮仓－扎浑仓，供应各路军粮。甘州成为河西走廊的驿道中枢和茶叶外贸的转口城市，商路四通八达，商品交易频繁。意大利旅行家马可波罗前往上都途中，曾在甘州停留一年，在《马可 波罗游记》中记述了张掖的富庶、城市的规模以及宗教寺庙的宏伟。
　　明代（1368－1644年），张掖为陕西行都司及甘肃镇的治所。明王朝大力发展文化教育，建设了一批学校、书院，使甘州自此进士、举人、秀才辈出。从内地大量移民屯垦，大兴水利，使农业生产得到很大发展。在甘州大兴土木，修筑长城等一大批军事设施以巩固边防，形成了完整的军事防御体系，甘州仍然是西北军事补给基地，河西政治、军事和经济中心。商业持续繁荣，成为西北最大的畜产品集散市场，晋商及陕西、山东、京师商人集团云集甘州，建立会馆。明政府利用山西、陕西商人运粮、茶至甘州，充实边储和开展茶马交易。
　　清代（1644－1911年），张掖为甘州府治所，甘肃提督统军驻地，节制凉州、肃州、西宁、宁夏四镇总兵。清王朝在西部的历次军事行动，均以甘州为军事提调中心和后勤补给基地。这一时期，全国各地商人云集张掖（甘州），建立商帮会馆，如山西会馆、陕西会馆、直东（河北、山东）会馆、凉州会馆、镇蕃（民勤）会馆，两湖会馆、河南会馆。各大商团贸易活动辐射新疆、蒙古等西北广大地区，甘州成为河西商业中心和日用杂品的中转批发市场。清时，文化教育更加兴盛。城乡普设义学、社学、私塾；民间武学林立，百姓习武成风，在一百多年间出现了二十多名武进士和一百多名武举人。清末，张掖人王之佐留学日本时，加入孙中山领导的同盟会，回乡后宣传革命主张，他的《致马安良书》，公开支持武昌起义、拥护共和、废除帝制，风靡全省。
　　丝绸之路与张掖
　　古丝绸之路由长安（今西安）出发，经过河西走廊，到达新疆。再继续西行，前往印度、波斯、希腊、罗马帝国。丝绸之路源于汉武帝时期，公元前138年和公元前119年，两次派张骞出使西域，开拓了中原通西域的路线。后来这条路线成为中原通往西域和中亚、西亚诸国的交通要道。东汉（26－220年）时期，内地与西域以丝绸为主的商业贸易逐步繁荣，中国丝绸通过张掖运往西域，远销大夏、安息、大秦，直至地中海沿岸地区。蚕丝生产是中国人民的伟大发明，丝绸的输出和缫丝技术的西传，是中国古代对世界文明的重大贡献。十九世纪，德国历史地理学家希特霍芬提出以丝绸为这条路命名，得到人民的普遍认同。
　　举世闻名的丝绸之路，是古代东西方之间政治、经济、文化交流的友谊之路，而地处河西走廊咽喉地带的张掖，则是丝绸之路上的枢纽。西魏（535－556年）时期，西域商队云集张掖，东罗马帝国和波斯钱币可在张掖交易中使用，张掖成为国际贸易城市。隋代（581－618年），张掖成为经营河西和西域的大本营，民族贸易异常活跃。公元609年，隋炀帝西巡，亲自在张掖主持有西域27国使臣、商贾参加的“互市”。此后，张掖贸易日益繁荣，由中西贸易的中转站，逐步发展成为对外贸易和对外开放的窗口。