吴肇岐又名书升，曾用名凤山、云龙。1901年出生在山西沁县徐村一个普通的农民家庭。1913年从本村私塾考入沁县第二高小二班读书，毕业后考入长治师范学校。当时受“五四”运动的影响，中等以上的学校都纷纷罢课，反对卖国条约，他参加了当时的各种爱国活动，对帝国主义、反动派有了深刻的认识。

1927年吴肇岐加入了中国共产党，成为沁县籍最早的共产党员之一。后来党派他到陕、甘、蒙、绥一带从事党的地下工作。1932年他与南汉宸（原全国人大常务委员）等受到国民党政府的通辑。在白色恐怖笼罩下，他参加了察、绥民众抗日同盟军，同盟军失败后，到延安抗大学习。1937年从延安抗大学习回来后，调入山西省第五行政区（晋东南）组织抗日牺牲救国同盟会，开展革命宣传和组织工作。先后任长治游击队队长兼长治武装科长、自卫大队长和独立营营长等职。在长治工作期间，他经常深入农村，发动群众，开展武装斗争，发展革命力量，开辟、扩大农村革命根据地，使仅有几十个人的武装组织逐渐发展壮大为一个营。

1940年4月5日，日军为了消灭吴肇岐这支抗日武装力量，对根据地发动了大规模地扫荡。吴肇岐率队掩护抗日政府机关人员和当地群众向陵川、高平等方向转移时，在太和村被日军大部队包围。吴肇岐奋不顾身，指挥突围，因弹尽无援，寡不敌众，在陵川战役中被日寇俘虏。敌人对他软硬兼施，用尽酷刑，企图迫使他屈服，从中得到更多的党的核心机密，但遭到他的严辞斥责，使日军一无所获。日军脑羞成怒，于4月14日将吴肇岐杀死于长治北门外桃园村，时年39岁。

中华人民共和国成立后，中央人民政府曾向吴肇岐家属颁发了有毛泽东亲笔签名的“革命牺牲军人家属光荣纪念证”。他的遗物放在太行太岳烈士陵园。