早年经历

　　杜淹年轻时聪慧明辨，学识广博，颇有美誉，与同乡韦福嗣是莫逆之交。他对韦福嗣道：“皇帝喜欢任用隐士，苏威便是在隐居是被征辟为美职。”因此一同隐居在太白山，其实是在沽名钓誉。隋文帝听闻，极为憎恶，将二人流放江南。后来，杜淹返回乡里，得到雍州司马高孝基的举荐，授为承奉郎，累迁至御史中丞。

归附唐朝

　　武德二年（619年），杜淹成为王世充的太尉府官属。四月，王世充建立郑国，任命杜淹为吏部尚书，对他非常信任。当时，杜淹因与侄子杜如晦不睦，便在王世充面前进谗，致使杜如晦的兄长杜某（名不详）被杀。杜如晦的弟弟杜楚客在郑国为官，也遭到囚禁。

　　武德四年（621年），秦王李世民平定王世充，杜淹作为郑国高官，被定为死罪。杜如晦以德报怨，向李世民求情，杜淹得以免死。后来，杜淹因久不升职，欲投靠太子李建成，被封德彝告知房玄龄。房玄龄知道杜淹擅长阴谋，害怕李建成得到他会对李世民不利，便举荐杜淹为天策府兵曹参军、文学馆学士。

　　武德七年（624年），庆州刺史杨文干起兵叛乱，李建成与李世民的矛盾加剧。唐高祖认为杜淹未能劝导李世民，致使其兄弟失和，将他和东宫属官王珪、韦挺一同流放巂州（今四川西昌）。李世民知道杜淹无罪，只是受到牵累而已，赠他黄金三百两。

担任宰相

　　武德九年（626年），李世民继位，是为唐太宗。杜淹被召回朝中，授为御史大夫，封安吉郡公，食实封四百户。唐太宗知道杜淹熟知历代典制，让他主持东宫仪式簿领的裁订工作。

　　贞观元年（627年），杜淹被任命为吏部尚书，参议朝政，成为宰相。他前后举荐四十余人，后都成为知名官员。当时，杜淹身兼二职，却无清廉之誉，又和勋臣长孙无忌不和，因此受到舆论的非议。

病重去世

　　贞观二年（628年），杜淹患病，唐太宗亲自前去探望，并赏赐绢帛三百匹。同年十月，杜淹病逝，追赠尚书右仆射，谥号为襄。