据《汉书·地理志》，玉门关与另一重要关隘阳关，均位于敦煌郡龙勒县境，皆为都尉治所，为重要的屯兵之地。汉武帝时，放弃了和亲政策，玉门关的设立，始自西汉武帝时，距今已有2千多年的历史。秦汉以来，好战的匈奴对汉民族威胁很大。汉初，匈奴东败东胡，西逐大月氏，占据河西，并以河西为基地，屡犯汉境。汉王朝开始曾对匈奴采取和亲政策，希图换取暂时的安宁。旅客租用越野车，要请当地熟悉路线的向导带路，以防迷路。
玉门关的设立，始自西汉武帝时，距今已有2千多年的历史。秦汉以来，好战的匈奴对汉民族威胁很大。汉初，匈奴东败东胡，西逐大月氏，占据河西，并以河西为基地，屡犯汉境。汉王朝开始曾对匈奴采取和亲政策，希图换取暂时的安宁。汉武帝时，放弃了和亲政策，对匈奴发动了大规模的军事反击。元狩二年(公元前120__年)，骠骑将军霍去病率兵西征，沉重打击了匈奴右部。同年，汉分河西为武威、酒泉两郡。元鼎六年(公元前120__年)，又增设张掖、敦煌两郡，同时建玉门关和阳关。从此，玉门关和阳关就成为西汉王朝设在河西走廊西部的重要关隘。
西归汉以后，内地通往西域及欧洲诸国的通路打开了，中国特有的丝绸源源不断运往西方，西方的音乐、宗教以及葡萄、石榴、核桃，苜蓿等也从此传入中国。人们习惯把东起长安(西安)，联络亚、欧、非3大洲，遥遥数千里的交通大道称为"丝绸之路"。这条路自敦煌以西分为两路，一条出敦煌向西北经玉门关、鄯善北行，叫天山北路;一条出敦煌向西南经阳关、安南坝，沿塔克拉玛干大沙漠南行，叫天山南路。因此，玉门关和阳关也就成为丝绸之路上通往西方的重要关卡，是西行商旅和文臣武将的重要停息站。当时玉门关，驼铃悠悠，人喊马嘶，商队络绎，使者往来，一派繁荣景象。
现在的汉玉门关遗迹，是一座四方形小城堡，耸立在东西走向戈壁滩狭长地带中的砂石岗上，南边有盐碱沼泽地，北边不远处漱拉湖，再往北是长城，长城北是疏勒河故道。关城全用黄土夯筑而成，面积约600多平方米。西、北两面各开一门，城垣东西长24.5米，南北宽26.4米，残垣高9.7米，上宽3.7米，下宽4米，南北墙下宽4.9米。城顶四周有宽1.3米的走道，设有内外女墙。城内东南角有一条宽不足1米的马道，靠东墙向南转上可直达顶部。登上古关，举目远眺，四周沼泽遍布，沟壑纵横，长城蜿蜒，烽燧兀立，胡杨挺拔，泉水碧绿。红柳花红，芦苇摇曳，与古关雄姿交相辉映，使你心驰神往，百感交集，怀古之情，油然而生。
距玉门关15公里处，有河仓古城，为汉代玉门关守卒的粮仓，只存断垣残壁，但犹可见当年之气势。从敦煌去玉门关旅游，只有走戈壁滩上汽车轧出的便道。旅客租用越野车，要请当地熟悉路线的向导带路，以防迷路。