作者：羊祜
朝廷征召羊祜为中书侍郎，迁给事中、黄门郎，曹奂即位后，封羊祜为关内侯，调为中领军。
正元二年（255年），司马师病逝，司马昭执政，为大将军。司马昭任大将军，征辟羊祜，羊祜没有应命。于是，朝廷公车征拜羊祜为中书侍郎，不久升为给事中、黄门郎。 时魏帝高贵乡公曹髦爱好文学，在位者希承上意，多献诗赋，汝南人和迪因为违逆上意而遭贬斥。羊祜在朝廷，虽身处士大夫之间，但持身正直，从不亲亲疏疏，因此，有识之士，对他特别尊崇。
陈留王曹奂即位，羊祜被封为关内侯，食邑一百户。因为魏帝年少，羊祜不愿在朝中做侍臣，要求调出宫廷任其他职务，结果改任为秘书监。
魏朝实行五等爵位以后，羊祜被封为钜平子，食邑六百户。钟会受到司马昭宠信而好忌妒贤能，羊祜也怕他。钟会被诛之后，羊祜任相国从事中郎，与司马炎的另一心腹荀勖共掌机密。晋代魏前夕，司马炎调羊祜为中领军，在皇宫当值，统领御林军，兼管内外政事。
西陵督步阐降晋，武将陆抗截断晋军粮草运输路线，致使晋军缺粮被打败，羊祜因失职被贬为平南将军。
泰始六年（270年），吴国在荆州的都督换上了名将陆抗。陆抗到荆州后，注意到西晋的动向，立即上疏给吴主孙皓。陆抗对荆州的形势表示忧虑，提醒孙皓不要盲目迷信长江天堑，应该认真备战。他把自己的想法归纳为十七条建议，请求实行。
陆抗的到来，引起羊祜的警惕和不安。因此，他一面加紧在荆州进行军事布置；一面向司马炎密呈奏表。密表建议，伐吴战争必须利用长江上游的便利条件，在益州（今四川地区）大办水军。
泰始八年（272年）八月，吴主孙皓解除西陵（今湖北宜昌）督步阐的职务。步阐因害怕被杀，拒绝返回建邺，当年九月，献城降晋。陆抗闻讯，立即派兵围攻西陵（参见西陵之战）。晋武帝命令羊祜和巴西监军徐胤各率军分别攻打江陵（今湖北江陵）和建平（今四川巫县），从东西两面分散陆抗的兵力，以实现由荆州刺史杨肇直接去西陵救援步阐的计划。但陆抗破坏了江陵以北的道路，五万晋军粮秣的运输发生困难，再加上江陵城防坚固，不易攻打，羊祜顿兵于城下，不能前进。杨肇兵少粮悬，被陆抗击败，步阐城陷族诛。
有司上奏说：“羊祜率军八万多，吴军不过三万，羊祜在江陵按兵不前，使贼兵备好攻守战具。并只派杨肇这支偏师深入险地，兵少而粮草不继，致使我军失利。羊祜违背诏命，没有大将节操，应免去官职，保留侯爵回府第闲居。”结果，羊祜因此被贬为平南将军，杨肇则被贬为平民。