诸葛亮平定南中之后，经过两年准备，公元227年冬天，诸葛亮到了祁山，决定派出一支人马去占领街亭，作为据点。当时他身边还有几个身经百战的老将。可是他都没有用，单单看中参军马谡。
马谡没有打仗的经验，自以为熟读兵书，坚持要在山上扎营。王平一再劝马谡没有用，只好央求马谡拨给他一千人马，让他在山下临近的地方驻扎。张郃率领魏军赶到街亭，看到马谡放弃现成的城池不守，却把人马驻扎在山上，马上吩咐手下将士，在山下筑好营垒，把马谡扎营的那座山围困起来。马谡几次命令兵士冲下山去，但是由于张郃坚守住营垒，蜀军没法攻破，反而被魏军乱箭射死了不少人。蜀军在山上断了水，王平带领一千人马，稳守营盘。他得知马谡失败，就叫兵士拼命打鼓，装出进攻的样子。张郃怀疑蜀军有埋伏，不敢逼近他们。王平整理好队伍，向后撤退，不但一千人马一个也没损失，还收容了不少马谡手下的散兵。这就是马谡失街亭的故事。