他到了安成外，就瞧见魏文侯亲自在那儿等着他。魏文侯慰问他说：“将军为了国家，牺牲了自己的儿子。这全是我的过错。”乐羊磕着头回答说：“公而忘私，原本是做臣下的本分。”魏文侯和大臣们到了朝堂，乐羊献上中山的地图和拿回来的东西。魏文侯请他到宫里去喝酒。乐羊因为立了大功，非常得意。宴会完了，魏文侯赏了他一只箱子，箱子上下封得很严紧。乐羊一看，就知道不是黄金，就是白玉。他想：大概魏文侯怕别人见了引起嫉妒，才这么封着。他越想越得意，更显出骄傲的神气来了。当时就叫手下的人把箱子搬到家里去。
乐羊赶紧回到家里，打开箱子，一看里面的东西便愣住了。原来箱子里装的全是朝廷里大臣们的奏章！他随便拿起一个奏章来瞧瞧，上面写着：“乐羊连打胜仗，中山眼瞧就能攻下来了。可是为了乐舒的一句话，就不打了。父子之情，于此可见。”他又拿起一个奏章，上头写着：“……主公如不叫回乐羊，恐怕后患难防。”其余的奏章大都写着：“别想得到中山，怕是连五万大军也要送给敌人了”；“突然拜他为大将，已经错了主意”；“人情莫过于父子，他怎么可能牺牲自己的骨肉呢？”乐羊掉着眼泪，说：“想不到朝廷中有这么些人，鸡一嘴、鸭一嘴地毁谤我！要是主公不能坚决地信任我，我哪能成功呢？”
第二天，乐羊上朝谢恩。魏文侯要封他，乐羊再三推辞，说：“中山能够打下来，全是主公的力量。我有什么功劳可说呢？”魏文侯说：“这倒也是真的，除了我，没有人能够这么信任你；可是除了你，没有人能够收服中山。———你也够辛苦了。我封你为灵寿君。”魏文侯就把灵寿（中山国的地名，在河北省正定县北）封给乐羊，也收回了他的兵权。
“收服中山”的故事讲述了乐羊的公而忘私，有胆有识；但同时也告诉我们：在那种时代里，权势之争，勾心斗角，真正有勇有谋的人，要成就一番事业，是要付出相当代价的。