1915年12月生于河南叶县。
1936年9月参加革命工作并加入中国共产党。
1937年8月参加抗日游击队，曾任冀热辽边区第十八地委书记等。
1945年9月受命接收沈阳先后任沈阳市副市长、市委代理书记等。
1948年11月起历任沈阳特别市市委常委、副市长，辽宁省沈阳市市长、市委第一书记、省委常委。
1965年8月起先后任中国驻朝鲜、秘鲁、伊朗大使等[4] 。1979年10月任第八机械工业部党组书记、部长。
1981年1月起先后任北京市委第二书记、市政府市长，中央纪委委员，北京市纪委书记，北京市顾问委员会主任，北京市对外友协名誉会长等。
1996年12月离休。
2020年1月1日，在北京逝世，享年105岁[6] 。
焦若愚是中共八大、十二大、十五大、十七大、十八大[1] 、十九大代表[3] [1] 。第十二届中央纪律检查委员会委员。在中共十三大上当选为中央顾问委员会委员。第一届全国人大代表，政协第五届全国委员会委员[6] 。
焦若愚同志于1977年6月开始担任中华人民共和国驻伊朗大使，1978年2月，抗议运动席卷伊朗全国，3月21日是波斯新年，每年这一天所有的外国驻伊朗使节都要到伊朗王宫给国王拜年，使节们站立的排序按照他们递交国书的先后顺序；非常凑巧的是，焦若愚大使和当时美国驻伊朗大使沙利文递交国书的时间是一前一后。因此排队的时候自然就挨着，翻译华黎明就站在焦若愚大使的身后给他们两人做翻译。 焦若愚陪同毛泽东视察沈阳航空发动机厂
正当巴列维国王从远处向走来的时候，沙利文突然对焦若愚大使说：“这个国家缺少领袖！”华黎明把这句话翻译给焦大使，焦大使一听觉得很奇怪，于是就问他：“您是不是指的这个人？”“是的。”美国人这个时候已经开始对巴列维失去了信心。
2011年4月5日上午，焦若愚在北京市密云县县委副书记、县长王海臣的陪同下，到石城镇白乙化烈士陵园祭扫先烈。 焦若愚出席十八大与焦刘洋交谈（2012）
年过九旬的焦若愚沿着通往白乙化烈士陵园的甬道慢步前行。在烈士陵园，焦若愚和王海臣等向白乙化的雕像三鞠躬，并敬献了鲜花。看着周围挺拔的苍松翠柏，焦若愚说，近年，密云县建起了白乙化烈士纪念馆，成为教育后人，勿忘国耻的爱国主义教育基地。