至道三年(997)宋太宗病逝，太子赵恒（即寿王元侃）即位，即宋真宗。景德元年(1004)七月宰相李沆去世后，宋真宗任命毕士安为参知政事。毕士安进朝谢恩时，真宗告诉他还将拜他为宰相，并就另一个宰相人选征求毕士安的意见。毕士安推荐寇准，说寇准忠诚可嘉，资历深厚，善断大事，自己也不如他。
真宗说：“朕听说他刚愎自用。”毕士安说：“寇准忘身为国，坚持正道，打击邪恶。因此一些庸夫俗子嫉之如仇。当今天下百姓虽然安居乐业，但北部边境常受到辽兵骚扰，危害深重，现在正是起用寇准的时候。”
真宗也认为两人的优缺点可以互相弥补，于是在当年八月间，任命寇准、毕士安为宰相。寇准与毕士安同居相位，二人志同道合，配合默契。寇准忠直不阿、嫉恶如仇，屡受奸邪小人的弹劾构陷，多赖毕士安为他辩解，才得以免受真宗的怀疑。
寇准在与辽开战中起了重要的作用，真宗认为他为大宋立下了很大的功劳。然而，因为寇准斥责了主张逃跑的王钦若，所以遭到王的攻讦。
景德三年(1006)的一天，宋真宗会见文武百官。散朝之后寇准先自退班。宋真宗因敬慕寇准，注目远送。这一情节被王钦若看在眼里，他进谗道：“陛下如此敬重寇准，想必是他立下捍卫国家的功劳？”真宗点头称“是”。王钦若出其不意地说：“澶渊之役，陛下不以为耻，反以为寇准有功于国，究竟是何道理！”宋真宗愕然。王钦若说：“城下之盟，为《春秋》所耻。澶渊之盟正是在大敌逼近城下而签署的盟约。陛下以大国皇帝的尊严，竟然订立这种盟约，世上还有比这更大的耻辱吗？”
这话击中了宋真宗的痛处，顿使他脸色大变，现出羞怒之色。王钦若继续火上浇油，说道：“陛下想必听说过赌博的事。赌徒快要输光的时候，便尽其所有来作赌注，这叫做‘孤注’。澶渊会战时，寇准正是拿陛下来孤注一掷的。这岂不是危道吗？！”
宋真宗受到王钦若的挑拨，渐渐疏远了寇准。不久，宰相毕士安病逝。景德三年(1006)二月，真宗罢免了寇准的宰相职务，将其贬为刑部尚书，出任陕州（今河南陕县）知州。
