1370年，活动在朝鲜和中国沿海的日本海盗集团——倭寇突然登陆祥芝的蚶江，对泉州地区的安全造成威胁。此后，因失去军事上的作用，而长期废弃，部分城墙失修坍塌。1963年列为县级文物保护单位，划定保护范围;1985年公布为省级文物保护单位;1988年公布为国家级文物保护单位。断者续，颓者葺，使古城恢复了昔日海上雄关胜概，成为中国军事建筑学研究的一份珍贵资料，同时也成为崇武旅游景区的核心
“崇武”乃“崇尚武备”之意。这里古名“小兜”，981年(宋太平兴国六年)惠安置县时，设崇武乡守节里，续置小兜巡检寨。元朝初期改为小兜巡检司。1370年(明洪武三年)，活动在朝鲜和中国沿海的日本海盗集团——倭寇突然登陆祥芝的蚶江，对泉州地区的安全造成威胁。1387年(洪武二十年)，明太祖朱元璋为了防御倭寇入侵，委派江夏侯周德兴巡视东南沿海。周德兴是个军事工程专家，他根据泉州沿海地区海岸线曲折、地形险要的特点，“一郡者设所，连郡者设卫”。当年，泉州设永宁卫，管辖五个所，即福全、中左、金门、高浦、崇武五所。惠安设立五座城，即崇武城、獭窟城、小岞城、黄崎城、峰尾城。崇武城为五城之一，隶属福建司永宁卫的一个千户所。
《崇武所城志》载：城“四方设门，各置楼于上”，“东、西、北三面月城，南无月城，门外照墙为屏蔽”，城门及门楼保存完好。又载：“东城厚设敌台一座，防贼舟随潮内讧，便于观察”，后于1574年(明万历三年)又在“南、北、西三面卜建四座，名曰虚台，其制上下四旁俱有大小穴孔，可以安铳，台内可容数十人”，这些敌台距城门约50~100米左右，现均完好。环城还有窝铺26座，系供守城士兵休息用。
崇武城历代几经增筑维修。1417年(明永乐十五年)城增高4尺，加筑东西门月城;嘉靖年间(1522年～1566年)置四门楼，添砌跑马道，新建弓兵窝铺;1661年(清顺治十八年)因战乱而肆行迁界，城摧屋毁，至1680年(康熙十九年)复界修治;1841年(道光二十一年)重加整修。
此后，因失去军事上的作用，而长期废弃，部分城墙失修坍塌。1949年解放后，人民政府加强了对古城的保护和管理。1963年列为县级文物保护单位，划定保护范围;1985年公布为省级文物保护单位;1988年公布为国家级文物保护单位。自1841年大修后，至20世纪80年代古城已失修140多年。改革开放后的1980年至1987年间，由国家分三期拨款对古城进行了全面重修，始自北门至南城角，次至水关门北，终及北城门，至1987年9月间全部竣工。断者续，颓者葺，使古城恢复了昔日海上雄关胜概，成为中国军事建筑学研究的一份珍贵资料，同时也成为崇武旅游景区的核心