汉代末期之后，将军的头衔变得越来越多，名称变得较为朴素，如前、后、左、右等，这些称谓逐渐被废弃。魏晋三国时期，将军更多被用作一种尊称。到了唐代和宋代，上将军的职位得到了恢复，成为重要官职。唐代的上将军属于从二品，大将军则为正三品，而将军则是从三品。自唐代以后，上将军、大将军和将军等职位，有的作为环卫官，有的作为武散官。在宋、元、明三个朝代，将军大多被用作武散官，即荣誉性职位，而非实际的军事职务。同时，宫殿中的武士也被称为将军，这些职位并不涉及实际的军事指挥。唐代的官制中，上将军、大将军和将军的等级明确，从二品、正三品和从三品，体现了不同级别的将军所承担的责任和荣誉。这些职位虽然在实际军事指挥中的作用可能有所不同，但在文官体系中仍然占有重要地位。