上大夫是先秦官名，当于现在的国务委员。战国时，官爵分为卿和大夫两级，在卿中有上卿、亚卿之分。在大夫之中，有长大夫、上大夫、中大夫等。后世遂以大夫为一般任官职之称。
周王室与诸侯国的大夫，有上、中、下之别。大夫在卿之下。然《周礼》卿之下，依次为中大夫、下大夫、上士、中士、下士，而无上大夫。是卿即上大夫。
秦汉时，大夫为皇帝近臣，中央要职有御史大夫。秦有中大夫，为郎中令属官。
汉代初分为中大夫、太中大夫、谏大夫。汉武帝时，改中大夫为光禄大夫，秩比二千石，为掌议论之官。
至唐宋尚有御史大夫及谏议大夫之官，至明清废。又隋唐以后以大夫为高级官阶之称号。清朝高级文职官阶称大夫，武职则称将军。宋徽宗政和年间重订官阶时，在医官中别置“大夫”以下官阶，故今仍沿称医生为大夫。明、清职事官不用大夫为官名。