贵霜帝国由大月氏（dàyuezhī）五翕侯之一贵霜翕侯部落建立。
公元前5世纪到公元前2世纪初，月氏人游牧于河西走廊西部张掖至敦煌一带，势力强大，为匈奴劲敌。约在汉武帝元朔元年（公元前128年）汉使张骞至其国，以后往来渐密。国内分为休密、双靡、贵霜、肸顿、高附五翕侯。
公元前177年前不久，月氏击破敦煌附近另一个小游牧部落乌孙，杀其王难兜靡，夺其地，难兜靡子猎骄靡初生，其部落逃奔匈奴。公元前170年左右被匈奴击败，西迁中亚阿姆河流域。
公元前125年征服巴克特利亚（由古希腊人在中亚建立的国家），统治整个阿姆河、锡尔河流域，大月氏部族一分为五，迁往东部山区，设五部翕侯统治，贵霜是其中一部。
公元1世纪中叶贵霜部翕侯丘就却统一五部，建立贵霜帝国。丘就却又南下攻击喀布尔河流域和今喀什米尔地区，后定都为高附（今阿富汗的喀布尔），初步奠定了帝国的基础。