15世纪以前的世界各国军队中，只有官衔，没有军衔。军衔与官衔的根本区别是把士兵纳入了军队的等级体系，这是一种革命性的进步。最初用军衔代替官衔的变革，发生在15世纪一16世纪的意大利和法国等一些西欧国家。其原因是在这些国家中出现了资本主义萌芽，工商阶级为了发展贸易，需要有一个强有力的王权，以打破封建割据。国王为了集中王权，需要工商阶级的财政资助，于是，在这些国家出现了一个以保护贸易为交换条件、工商阶级出资支持君主制的政治局面。

    国王通过税收得到了雄厚的财源，雇佣国外的军人建立听命于自己的军队。从此以后，雇佣军成了国家的主要军事力量，正如恩格斯指出的那样，“新的军队开始由大批雇佣军编成，因为封建制度的瓦解，获得了谁出钱就为谁服务的自由”。雇佣军以步兵为主体，其成分大都是自由农民、市民、破产骑士、有产市民的子弟以及出身于其他阶层的普通人。雇佣军的组织以连为基本单位，几个连组成一个团。连的指挥官称作上尉，副手称中尉；团由称作上校的军官指挥，助手称为军士长，后来改称少校。

    随着资本主义的发展，等价交换、平等权利等资本主义的社会原则反映到了军事领域，刺激着军队改变其官职的选拔制度：以出身门第世袭军职的旧传统破产了，建立起按劳绩战功获得军官职位的新制度。但是被选拔上来的这些非贵族的指挥官，由于没有爵位可供标志个人的身份，自己的荣誉、地位和待遇得不到社会的保障，于是，这些平民出身的军官们，强烈要求设立一种与其军职相对应的阶位称号，来保障自己的社会地位。而这种要求也符合新兴资产阶级使用这些阶层的力量来共同反对封建领主的政治利益。这样，终于导致了雇佣军中原先的某些职务名称，逐步转变成为个人的阶位称号，职务则用“连长”、“团长”来命名。从而形成了军队职务与军衔等级相对应的两大体系，出现了包括军官、士兵在内的军队衔级制度。

    军衔制度的出现，促进了军队的建设。法国启蒙思想家伏尔泰指出，法国国王路易十四在同西班牙的战争中，由于法军建立了一套完善的军衔制度，“军人的衔级开始成为一种权利，大大优于家庭出身，受人重视的是劳绩战功，而不是祖宗门第”，使得法军所向披靡，“路易十四一在边境出现，边境城市便纷纷落入法国手中”。正因为军衔制度对军队建设具有积极的促进作用，它逐步被世界各国军队所采用，400年来相沿不衰，显示出强大的生命力。