长城作为军事防御工程，其修筑经历了由简单到复杂的发展过程。先有城，尔后有列城，再有长城，后人统称其为长城。在先秦古籍中“城”用以指城墙，“池”则用以指城壕，即护城河。“城池”二字连用，从狭义上说，指的是城墙和城壕；从广义上讲，不仅可以作为城市防御体系的总称，而且可以引申为城市的代称。
长城的最初形式是列城。所谓列城，就是由一系列防御工事和小城联结起来的规模较大的军事防线。这种小城的主要用途是驻兵、储存粮食和武器，类似后世所说的城堡。一遇非常情况便可凭借这些城堡拒守抵抗入侵者。
因此，长城一开始就是和城堡相连的。最早修列城的是楚国，《左传·信公四年》载：“楚国方城以为城，汉水以为池。”楚国的列城就是长城的雏形。之后各诸侯国纷纷仿效，在我国北方的国土上，或东西、或南北修筑起了长度不等但结构基本相同的长城。
远在春秋战国时期，战争的主要形式是车战，配合以步兵。作战时选择平地，两军对阵，只要在平原上筑起高大的城墙阻挡去路，战车则不可逾越。以后由于受游牧民族的影响，骑兵兴起，骑射技术广泛运用于战争，战车的作用减少，战场也不局限于平地。尤其到后来，依山傍险，占据制高点，成为作战取胜之一诀。
长城多沿山脊和悬崖绝壁设计修筑，平地、山岭因地制险，山涧、河谷则采用“窦、墩、塘”制的筑城方案。“窦”即孔道，溪、润上筑长城，筑城与通流两不误，世人称这种孔道为“水门”，也叫“暗沟”。“墩”即山润谷道两侧的山岭之上建烽燧墩，与长城内外组成密集的烽燧墩群。“塘”是解决大江大河上如何修筑防御工事的问题，河两岸筑墙形成夹江长城，河流从两墙间通过。
自汉代以后城墙普遍加高加厚，城墙四角伸出墙外，城墙中间每隔一定距离也要凸出一块，筑成可以监视城墙外侧情况的高台，人称“马面”。有的城堡还在城门外加筑瓮城，有了第二道城门。外城门破还可据内城门防守，也可诱敌入瓮，致敌为瓮中之鳖。两晋南北朝时期，城堡都有了正式的城门、城楼、角楼、马面等。
城墙顶内外侧加筑矮墙，俗称“女儿墙”，女儿墙可作掩体。明代在九个军事重镇的路下又有大小关城（如嘉峪关、居庸关、山海关等，每个关城都是长城上的一个据点，控制着长城沿线的出入，并负责关城附近这段长城的防务。这些关城是长城的重要组成部分。总治三镇（延绥、宁夏、甘肃军务的杨一清，在长城上首创“暖房”（亦称“暖铺），使哨所有了遮风避雨的功能，聊减戍守之苦。名将戚继光又创建骑墙台墩，称为“敌台”。
每隔数十至百余米筑敌台一座，宽高都超出墙身，敌台筑为空心台墩，分上、中、下三层。上层为平台，建楼槽（即望楼，悬旗帜，四面砌垛），便于嘹望与实战；中层住人，存放武器，外壁有箭孔，作放箭用；下层有炮口，专放火炮。
长城修筑有三种形式：一是土长城；二是石长城，其中包括内夯黄土的石壁夹心墙；三是木柴疆落城，“疆落”即藩篱，就是木长城，至今两千余年木长城已荡然无存。但在内蒙古凉城县境内王帽山上发现有用一层木一层石块交替叠筑的烽燧，明代辽东镇也有木板与柞木墙。在甘肃境内发现芦苇或红柳与沙砾交替铺筑的城墙，这是“木柴疆落”的一种形式。
在漫长的长城修筑过程中，建筑技术的运用与提高也是惊人的，发明了“蒸土法”、“砖石镶包法”、“铁釜沉基法”等。“蒸土法”实际就是今天的“三合土”，因生石灰加水释放出热量，土中水蒸气挥发雾气缭绕，实非“蒸土”。明代名将戚继光首创“砖石镶包法”，即深挖基槽，基础砌石条，墙表用大砖镶包，石灰浆钩缝。
基槽多开挖成坡槽、弧背槽、洼形槽，基石大而规整，镶础严实，不易被挖、被拆、被炸。“铁金沉基法”是明万里长城东端老龙头的建筑方法，老龙头前探至海里，墙基屡筑屡沉，城墙屡修屡，戚继光用生铁铸就一个个半球形的大铁釜，将铁釜投入海里，让其自沉入海底流沙中，直至铁釜堆积高出海面，然后以铁釜为基础筑城。
在万里长城上还有许多建筑奇迹不可历数，其建筑技术至今仍是个谜。我国历史上有20多个朝代和诸侯国修筑过长城，而且每个朝代和诸侯国修筑长城的位置和长度都不一样，因此，计算长城的长度也要分别情况具体计算。根据历史文献记载，长城超过公里的有三个朝代：一是秦始皇时修筑的西起临洮东止辽东的万里长城；二是汉朝修筑的西起今新疆东止辽东的内外长城和烽燧亭障，全长1万多公里；三是明朝修筑的西起嘉峪关东到鸭绿江畔的长城，全长多公里。
由于时代久远，早期各个时代的长城大多残毁不全，现在保存比较完整的是明代修建的长城。所以一般人谈长城主要指明长城。所称长城的长度也指的是明长城的长度，但这只是根据历史文献的记载，而实际上有的地方有好几重城墙，加上在高山峻岭之上蜿蜓起伏，实际长度可能还要更长一些。
若把各个时代修筑的长城总计起来，大约在5万公里以上。这些长城的遗址分布在我国今天的新疆、甘肃、宁夏、陕西、山西、内蒙古、河北、北京、天津、辽宁、黑龙江、河南、湖北、湖南和山东等10多个省、市、自治区。其中仅内蒙古自治区境内就有遗址1.5万多公里，其次是甘肃。