自春秋起上柱国即为军事武装的高级统帅，唐以后正式确立隋朝的六部制度，兵权归中央机构，上柱国逐渐成为功勋的荣誉称号。战国时为楚国设置，是统率武装部队之官，或称上柱国，其地位略次于令尹。两汉废。北魏、西魏时设柱国大将。北周时增置上柱国大将军，隋代有上柱国、柱国，以封勋臣。唐以后作为勋官的称号上柱国。
《明会典》称正一品阶勋云加授赠特进光禄大夫上柱国，疑止为赠设耳。李韩公、徐魏公、常鄂公初俱带上柱国，然阶不过银青荣禄大夫。盖因元之旧，官未定也。后常公物故，二公俱改左柱国。近夏少师言独得上柱，为一时旷典。然在隋初为从一品勋，而唐则四，实不为异也。乙丑年，加严嵩，辞以人臣无上，则夏公此官，固骖乘之祸耳。