魏明帝太和元年(公元227年)三月，诸葛亮给后主刘禅做了一个模型，然后带领自己的军队来到了蜀汉交界的汉中地区，准备北伐。他先在汉中集中练兵一年，然后开始北伐魏。

在正式北伐之前，诸葛亮扬言要从顾颉路经过单县(今陕西眉县)，然后直取长安。曹魏得知消息后，派兵进驻鄢县，同时派老将张部带领五万精兵西线驻守陇右。

次年春，诸葛亮正式出兵北伐。他命令赵云、邓骘佯攻吉谷(今陕西宝鸡南)，企图吸引魏军主力，同时诸葛亮亲自率领主力出祁山(今甘肃西部、西北)北上，先取陇右，后取长安。

当诸葛亮率领主力突然到达岐山时，汉阳、南阳、安定三郡也纷纷响应诸葛亮，战局对蜀军十分有利。

但他发兵祁山，就出事了。诸葛亮没有让经验丰富的老将魏廷、吴懿等人担任先锋，而是让没有实际带兵经验的马谡作为督军带兵前进，在街亭(今甘肃庄浪东南)与魏国大将张合作战。

太守马谡，远比常人有才华，有抱负。他喜欢讲军事谋略，很受丞相诸葛亮的器重。蜀汉国王刘备在临死前劝告诸葛亮说:“马谡的才华有些言过其实。这个人不能委以重任。希望你小心一点！”诸葛亮不这么认为。他要求马谡参军，经常召见马谡谈话，甚至彻夜不眠。诸葛亮南征时，马谡曾献计献策，不可强取，以攻城为上，以攻城为下。诸葛亮采纳了他的计划，七次擒孟获，七次放孟获，使南方的中国人真诚地加入了蜀国。诸葛亮北伐曹魏期间，南方没有发生叛乱。消除诸葛亮北伐的后顾之忧。

街亭之战，马谡违背诸葛亮的作战安排，指挥混乱。他也抛弃水源，上山扎营，不在下面的城市驻扎。他的助手王平多次试图说服他，但他不听。魏国切断了张合的水路，然后发动进攻，把蜀军打得落花流水，四处逃窜。王平仍然带领一千多人聚在一起，坚守阵地。张合怕有敌人埋伏，不敢追击。王能够从容地接收各军营中的剩余部队，并带领士兵回去。

此时诸葛亮进占祁山，丢掉了据点街亭，只好退回汉中。街亭失陷，立刻让诸葛亮陷入被动局面。

诸葛亮回到汉中后，把马谡关进监狱，实行军法。虽然诸葛亮非常珍惜马谡的才能，但是为了重振蜀汉北伐的胜利，重振汉朝的士气，为严肃的军法重振军权，诸葛亮还是含泪杀了他。马谡被斩首后，诸葛亮亲自来到马谡灵前祭奠，痛得流下了眼泪，并下令安抚照顾他的孩子。

蒋琬见诸葛亮如此伤心，就对他说:“从前，晋国和楚国打仗，楚国杀了一个很有能力的将军和大臣。晋文公暗自不知道自己有多高兴。现在天下未定，你忍心杀有杰出智谋的人才？”诸葛亮含泪说:“孙武之所以战无不胜，很重要的一个原因就是他严格执行军法。现在世界分裂了，战争才刚刚开始。如果此时不严格执行军法，将来破了条条框框，如何克敌制胜？”

王平曾经在街亭之战中劝阻过马谡。撤军时，他以自己的聪明才智突出了对敌人的包围。他在这场战斗中表现得尤为突出，他杰出的军事才能已经显露无遗。于是，诸葛亮提拔王平参军，后来又提拔他为寇将军，并封他为。

诸葛亮对士兵们说:“这次出兵失败，虽然是马谡违反军令造成的，但我也有用人不当的失误，对这次失败也负有不可推卸的责任。”所以他最后出场，然后刘禅要求降3级。

刘禅收到了信，不知道该怎么办。他问牧师。大臣们都知道诸葛亮的个性，都说:“丞相既然打定了主意，就按他的意思办吧。”刘禅将诸葛亮降职为右将军，但他仍然负责宰相的事务。

由于诸葛亮赏罚分明，勇于承担过错，蜀军将士深受感动，大家士气更加高涨，作战更加勇猛。

这年冬天，诸葛亮率军突破关内，包围了陈仓(今陕西宝鸡东)。次年春天，他收复了武都和尹平两县。后来，已故的统治者刘禅写了一封信，恢复了诸葛亮的总理职位。