1952年，他参加筹建中国科学院数学研究所的工作，并在数学研究所从事数学研究。

1952年8月起，华罗庚的工资关系转到中科院，与清华大学脱离了关系。

1954年，中国科学院（本作简称：中科院）成立，下设数理及化学学部、生物学地学学部、技术科学学部、哲学社会科学学部等4个学部，并在之后评定了包括华罗庚在内的新中国第一批“学部委员”。

1957年后，华罗庚在中科院数学所被边缘化。

期间，关肇直担任数学所的副所长，并兼任中国数学会秘书长，成为数学所和数学界的实权人物。

值得一提的是，关肇直长期认为华罗庚有强烈的资产阶级个人主义，热衷于追求个人名利，是中国数学界的大学阀等等。在学术上，关肇直不仅批评华罗庚从事纯粹数学研究是理论脱离实际，甚至认为其学术水平停滞不前、知识老化等等。在这一年之后，两人矛盾公开化，加上本来就对华罗庚有成见的一些人推波助澜，华罗庚的处境日益困难。

1962年，关肇直在中国科学院数学所内组建了中国第一个控制理论研究室，并兼任室主任。

1963年，在政治上受到严重歧视的华罗庚在中科院数学所内申请入党无望，就想辞去所长职务。最终，院领导让他继续当挂名的所长，但同意他把人事关系转到中科大。

1964年，华罗庚向中科大党委提出入党申请，却再次在中科院数学所党委面前碰壁，三年后再次申请入党仍无结果。

1960-70年代，华罗庚凭个人的声誉，到各地借调了得力的人员组建“推广优选法、统筹法小分队”，亲自带领小分队到全国各地去推广“双法”，所到之处，都掀起了科学实验与实践的群众性活动，取得了很大的经济效益和社会效益。

期间，有说法称华罗庚曾建议中科院数学所和中科大的部分中、高级科研人员进行费马最后猜想的研究，但未见文字证据，且目前未有证据证明关肇直对此是否知情。

1970年，关肇直被停职并检查交代问题。

1973年9月30日，时年92岁的李石曾病逝。

1974年经院党的核心领导小组批准，关肇直作出自我检讨后，恢复了所革委会委员等职务。

1978年3月，全国科学大会召开之际，华罗庚出任中科院副院长。

为了解决数学所的矛盾，中科院于1979年决定将数学所一分为三，其中数学研究所、应用数学研究所（以华罗庚为首的原应用数学推广办公室为基础组建）由华罗庚担任所长，系统科学研究所则由关肇直担任所长。

从既往历史来看，此时数学所的矛盾实际上是“华罗庚派”和“关肇直派”的矛盾，更是民国时期蔡元培为首的“留英美派”与李石曾为首的“留法派”矛盾的延续。

1979年6月，华罗庚被批准入党，并在1980年1月27日被《人民日报》公开报道。

1980年1月1日，夏萌改名为“夏希羽”。

同年，国家恢复学部委员制度，有包括关肇直（数理学部）在内的283人在这一年被增选为新的学部委员，其中50岁以下的学部委员包括了杨乐在内的共六人。

1980年9-11月，专攻模糊数学研究且在高中期间对费马最后猜想产生极大兴趣的夏希羽，在一个月的时间里完成证明后，就在10-11月期间独自在美国《数学年刊》上以三篇背靠背论文的形式，发表了对费马最后猜想的证明，并在之后的近两年时间里陆续获得了国内外所有主要数学研究机构以及包括志村五郎、卡尔·西格尔、格罗滕迪克等数学家的一致公认，费马最后猜想被正式更名为“费马大定理”。

1980年12月，夏希羽创立以模糊数学相关学科研究为主要方向的希羽组研究室。

1981年4月-5月，夏希羽赴法访问兼病假疗养。期间，夏希羽因在费马最后猜想相关的研究中作出了决定性贡献，先后获得了巴黎第六大学、巴黎第九大学的荣誉博士学位，并秘密会见了格罗滕迪克。

归国后，夏希羽在1981年6月正式宣布由希羽组研究室希羽组研究所成立。希羽组研究所开办的全部费用除少数外国学者无偿捐助之外，大多由夏希羽以个人的稿费、版税等个人所得承担。

1982年上半年，以苏步青为代表的七名数学家共同提名夏希羽参选于当年七月颁发的“国家最高自然科学奖”。

1982年7月，因在“费马最后猜想研究”中做出了重大贡献，华罗庚、关肇直在内的六人被授予了国家自然科学奖一等奖。

1982年7-8月，希羽组研究所多次上诉，未果。

1982年9月1日，经过夏希羽授意，沈涵曦代表五人会议对外通电，内容如下——

小主，

“众所周知，我们一贯主张在学术交流中探索真理，并解决学术理论上的矛盾。”