祖父早故。中华民国成立后，父亲吴远基曾从事工商业，后主要从事文教事业，曾任中学校长，更多时间编写高要县县志。

吴大任1908年出生于天津。1915年初，因母亲病重，全家迁回广州，母亲去世后又迁回老家。吴大任1919年毕业于高要县立模范小学，曾先后在肇庆和广州上私塾，阅读了大量古籍和小说，奠定了他的语文基础。1921年考入南开中学，数学和语文成绩一贯优良。中学时期使他受益最多的是高中数学教师刘乙阁。1926年毕业时他被免试保送入南开大学，并免交学宿费。

1928年，吴大任转入数学系，主要原因是这时数学系主任姜立夫返回南开大学。姜立夫的讲课深深地吸引了他。姜立夫讲授的课程有高等微积分、立体解析几何、投影几何等。他在三、四年级，又听了姜立夫讲授的高等代数、复变函数论、微分几何、n维空间几何、非欧几何等课。姜立夫是几何专家，讲几何固然出色，讲分析和代数时也突出与几何的联系。姜立夫缜密的思考方式，灵活多样的教学法，使吴大任获益匪浅。姜立夫和饶毓泰在教学中曾作过让学生以读书报告代替期末考试的尝试，姜立夫还轮流让学生作系统口头讲课，这些都使吴大任得到良好的数学和教课锻炼。

1930年吴大任与陈省身以最优等成绩在南开大学毕业（当年获最优等者共3人），并同时考取清华大学研究生，获得足敷个人学习生活费用的奖学金。但在毕业前夕，吴大任的父亲失业，家境困难，为此，他向清华大学申请保留学籍一年，自己南下到中山大学数学天文系任助教。1931年，到该校预科兼高中部任教员（薪金为助教的两倍），并利用暑假翻译了M．博歇（Bocher）的《高等代数引论》，以此额外劳动所得还清家庭债务。由于在广州继续进修的条件不理想，吴大任遂萌发了重新北上的想法。

1931年秋，吴大任回到清华大学，再度与陈省身成为同窗学友。1932年秋，吴大任应姜立夫之约回母校任助教，除批改学生作业外，还将姜立夫投影几何课的授课内容整理成讲义。这之前姜立夫就曾将吴大任听他微分几何课时记的笔记作为讲义印发给后期的学生。

1932年，德国汉堡大学的E．施佩纳（Sperner）到北京任教，经姜立夫介绍，吴大任在他的指导下，按群论观点用反射变换作为欧氏运动群的生成元，取得初步结果，受到施佩纳的赞赏。

1935年夏，吴大任到德国汉堡，与陈省身第3次同学。由于他只能再有一年公费，而德国规定，已取得硕士学位的至少在校1年半且预交学费，所以不便攻读博士学位。吴大任只好决定作访问学者，在布拉施克教授指导下作研究工作。

当时布拉施克已开创了积分几何的研究，在这一方面他已有十几篇论文被发表。吴大任选定了这一研究课题，一年之中取得了不少令布拉施克满意的结果。这时吴大任获得国内中华教育文化基金的研究补助，得以再继续留德一年。在这一年，吴大任的研究有较大进展，写出了两篇论文：《关于积分几何的运动重要公式》及《关于椭圆几何》。布拉施克十分高兴，但也为他由于客观原因而未能取得博士学位表示惋惜。

1937年8月13日吴大任回到广州，恰巧是抗日战争战火烧到上海的第一天。9月初，吴大任到武汉大学任教一个学期，之后即随武汉大学迁到四川乐山。

吴大任在武汉大学5年，因值抗战期间缺少国外书刊，研究工作受到很大限制。但他还坚持从事研究工作，写了两篇关于积分几何和非欧几何的论文，主要的精力和时间则用于教学，开设了微积分、积分几何、高等代数、微分几何、维空间几何、点集拓扑和代数拓扑等课。

1942年夏，乐山房东逼迁，住房难找，吴大任改到四川大学任教（当时四川大学在峨嵋山上课），主要时间仍用于授课，除高等代数、微分几何和点集拓扑外，还开设复变函数论和非欧几何。

1945年抗日战争胜利结束，各大学教师争民主、争改善待遇形成风潮。吴大任积极参加了四川大学教授会的筹建及反对国民党迫害进步教授的活动，这是他参加社会活动的开端。

1946年南开大学在天津复校，吴大任返母校任教。1948年5月暂代教务长3个月。1948年冬，天津解放前夕，学校组织了安全委员会，吴大任作为委员会秘书，负责实际领导工作，积极组织护校及掩护进步学生的工作，以迎接解放。

1949年1月，天津解放。吴大任看到在中国共产党领导下，政治和社会安定团结，干部廉洁，教育受到重视，深感振奋。5月，他被任命为南开大学教务长，从过去多次 拒绝行政工作到欣然接受教学组织工作，这是他学术生涯中的一次重大转变。此后他担任学校行政工作竟持续了34年。1956年吴大任加入中国共产党，1961年任南开大学副校长。在中华人民共和国建立后的17年中，他为南开大学保持良好学风、提高教育质量、开展科学研究、团结师资队伍、培养青年教师做了大量实际工作，取得良好效果。1956年冬，吴大任参加了高等教育部组织的高等教育赴苏访问团，任综合大学组组长，起草了综合大学组科学研究问题的两个报告。

“文化大革命”中，吴大任受到严重冲击。但他相信，这种局面终究要改变，党和国家的远景是光明的，至于个人，他所未能忘怀的不是荣誉和前途，而是时光的流逝和手稿文物的丧失。

1973年，吴大任恢复了学校的行政工作。1979年，他作为天津市教育访问团副团长到日本神户访问；1982年，作为南开大学访问团副团长到美国几所大学访问。“文化大革命”后国内教育科学事业逐渐恢复和发展。1978年，吴大任被选为中国数学会副理事长；1983年起为名誉理事长，兼任高等教育部数学力学教材编审委员会副主任，直到1991年该委员会结束。自1957年至1979年他也参加高考审题。1978年他参加了全国自然科学规划会和科学大会。1981年他任国家学位委员会第一届数学组成员，《中国大百科全书数学卷》编委兼几何拓扑学科的副主编以及全国自然科学名词审定委员会第一和第二届委员。

吴大任是我国最早从事积分几何方面研究的数学家之一。他第一个对椭圆空间的积分几何作系统的研究，获得了运动基本公式等重要结果。他证明了关于欧氏平面和空间中的凸体弦幂积分的一系列不等式，并由此导出一些关于几何概率和几何中值不等式。在非欧几何方面，他用三维空间的点来代表一维射影变换而得到一种（以一个实母线二次曲面为绝对形的）非欧空间一般运动的表达式。在圆素和球素几何方面，姜立夫教授首次提出对称实二阶方阵和埃尔米特（Hermite）方阵依次代表平面上的拉氏（拉盖尔（Laguerre））圆和空间的拉氏球，用相应的2×4阶矩阵代表李（Lie）氏圆和李氏球。根据姜立夫生前的意愿，吴大任一直积极协助中山大学黄树棠对姜立夫倡导的圆（球）素几何进行整理并继续研究。吴大任和黄树棠合作，得到辛反演的辛等价类，各类的标准型以及各类辛反演下的不变圆集。在他的帮助下，黄树棠结合辛反演不变圆集的分析得到了辛反演的辛相似类，杨淦则分析了辛反演的不变球集。

在“文化大革命”后期，吴大任以微分几何为工具，开展了齿轮啮合理论的研究。数学系为此成立了专题研究小组，吴大任为组长，成员有严志达和骆家舜。这项研究工作持续了大约10年，取得了一系列成果，建立了独特的理论体系。吴大任在严志达的奠基性工作的基础上，对共轭齿面的几何理论作了系统阐述，又在酒井高男和牧充的工作基础上对二次接触现象和二次包络理论作了数学处理，把这理论应用于直接和间接展成法并得出平面二次包络中的具体公式。天津机械研究设计院的张亚雄和齐麟运用了这个成果，设计研究出具优异性能的新型蜗轮蜗杆副，已有系列产品在国内外销售。吴大任等人合作的“齿轮啮合原理”的研究得到了1978年全国科学大会的表扬和天津市1979年科技成果一等奖。