卢俊义绰号“玉麒麟”，一身好武艺，棍棒天下无双。原为一员外大户，浪子燕青是家仆，其人家世清白，为人谨慎，世居大名府。
宋江慕其名，为壮大梁山声势，用计将他骗上梁山。卢俊义中计，欲前往泰安州避祸。途经梁山时中埋伏，与梁山英雄大战，卢俊义不敌，乘船逃走时被浪里白条张顺活捉。卢不愿在梁山落草为寇，宋江也未强迫，将其放回。待其回到家中，其妻贾氏已与管家李固做了夫妻，诬陷其勾结叛匪，卢屈打成招，下了死牢。幸得燕青，石秀以及其他梁山众好汉等先后搭救，方免遭毒手。上得梁山后，坐上了第二把交椅。忠义堂前亦竖起了“山东呼保义，河北玉麒麟”的大旗。
招安之后，卢俊义被封为武功大夫，庐州安抚使兼兵马副总管。参与指挥了征辽，讨方腊等战。后被高俅毒酒所伤，乘船时失足落水而死。