杜淹曾举荐刑部员外郎郅怀道，并道：“怀道在隋朝担任吏部主事时便有清慎之名。当时炀帝下江都，百官都随声附和，唯独怀道反对。”唐太宗问道：“那你当时的意见呢？”杜淹答道：“我同意去。”太宗道：“对待君主应直言正谏，虽有冒犯也在所不顾。你既然认为郅怀道的意见正确，为什么反而不劝谏呢？”杜淹道：“我官职卑微，而且就算进谏皇帝也不会采纳，白白送死于事无补。”太宗道：“如果认为君主无道，为何还是要在他的朝廷做官？既然做官，又怎能不匡正他的过失？”

　　太宗又笑问杜淹：“你在隋朝的时候，可以因为人微言轻不去进谏。那你后来在王世充的朝廷做官，为什么仍不劝谏？”杜淹道：“我劝谏过，他不肯采纳。”太宗道：“王世充如果修德从善，应当不会灭亡；他既然无道拒谏，你又怎能免祸？”杜淹无言以对。

　　太宗再问：“你现在是宰相，还能极力劝谏吗？”杜淹道：“臣一定不会隐瞒自己的观点，必极力劝谏。春秋时期，百里奚在虞国为官，虞国灭亡，后在秦国为官，却辅佐秦国称霸天下。臣一直以百里奚自比。”太宗大笑。