郑虔出自“簪缨门第，诗礼传家”的滎阳郑氏，少时聪颖好学，资质超群。成年后举进士不第，一度困居长安慈恩寺僧房。学书无钱买纸，见寺内贮存柿叶数屋，每日取红叶学书，日复一日，竟将数屋柿叶写完。郑虔工书，唐朝吕总《续书评》评曰：“云送秋霜，霞催月上。”
　　郑虔亦工诗，且善图山水，名亚王维。《唐语林》载：长安圣善寺木塔院壁间，多有郑虔画并书。郑虔尝自写其诗并画，献与唐玄宗，玄宗署其尾曰：“郑虔三绝。”杜甫是郑虔好友，所作《八哀诗·故著作郎贬台州司户荥阳郑公虔》提及此事：“昔献书画图，新诗亦俱往。沧洲动玉陛，宣鹤误一响。三绝自御题，四方尤所仰。”
　　郑虔学问渊博，乃百科全书式人物。天宝年间，贬谪十年的郑虔还京师，唐玄宗爱其才，专门为他设置“广文馆”。郑虔是广文馆首任博士，人称“郑广文”或“广文先生”。
　　晚年的郑虔贬为台州司户参军，遂设帐授徒，选民间子弟教之，当地民俗日淳，士风渐进。唐代宗广德二年（七六四）去世，葬临海。
　　郑虔一生清贫。杜甫《戏简郑广文虔兼呈苏司业源明》诗曰：“才名四十年，坐客寒无毡;赖有苏司业，时时与酒钱。”后以“无毡”为居官清寒之典。