曾任中共中央顾问委员会常务委员、中共中央党史工作领导小组副组长、中国社会科学院名誉院长。
少年时的胡乔木喜欢读书，也喜欢写诗，曾相继在扬州省立八中、扬州中学（高中）上学。
1930年，胡乔木高中毕业后考入清华大学物理系。
曾任共青团北平西郊区委书记，共青团北平市委宣传部部长。
参与领导北平学生和工人的抗日爱国运动。
1935年后，任中国社会科学家联盟书记，中国左翼文化界总同盟书记，中共江苏省临时工委委员。
1937年后，任安吴青训班副主任，中共中央青委委员，中国青年联合会办事处宣传部部长。
1941年任毛泽东秘书，中共中央政治局秘书。
1945年参与起草了《关于若干历史问题的决议》。
1948年后任新华通讯社社长。
建国后，历任新华社社长（1949年10月1日至10月19日），新闻总署署长，中共中央宣传部副部长，政务院文化教育委员会秘书长，中共中央副秘书长。参与起草了第一部《中华人民共和国宪法》（1954年）。
1956年当选为中共第八届中央委员、中央书记处候补书记。
1975年后任国务院政治研究室负责人。
1977年后任中国社会科学院院长、顾问、名誉院长，中共中央副秘书长，毛泽东著作编辑出版委员会办公室主任，中共中央党史研究室主任。
1978年补选为中共第十一届中央委员。
1980年当选为中共中央书记处书记。
1982年当选为中共第十二届中央政治局委员。主持起草了《中国共产党中央委员会关于建国以来党的若干历史问题的决议》等重要文件。
1987年当选为中共中央顾问委员会常委。
曾任中共中央党史工作领导小组副组长，中央文献研究室主任。是第一、二、三、五届全国人大常委。