叶连俊特别强调从地史演化的角度研究成岩成矿规律问题，提出“化学地史”这一新概念。早在50年代至60年代，他就剖析了华北地区震旦纪、寒武纪和奥陶纪沉积岩层中元素组合的特点和性质及其在地史发展中的演化规律，指出岩层中呈分散态存在的元素组合与呈富集态（矿化层）存在的元素组合，代表两种极不相同的地球化学机制和过程；外生成矿代表化学地史发展过程中的突变。他提出，表生带物质来源有地表变生的、地下喷溢的及宇宙散落的“三元论”观点。研究化学地史不仅要研究岩层及矿层的元素组成、质量和能量上的变迁，而且要研究元素存在形式和运动形式上的变迁。这对解决岩石或矿床的形成，成矿时代的成因，古地壳、古大气、古海洋的组成与演化以及研究地球的发展过程都是极为重要的。
除了进行地质科学理论研究之外，叶连俊还参加并完成了许多大型科研项目，硕果累累。他先后承担的地质工作任务和科学研究项目有：治淮工程地质背景条件的研究（1949），临江大栗子铁矿和鞍钢新厂基的地质调查（1950），全国地质勘探计划的编制（1950），天成铁路线的地质调查（1951），全国地质工作会议的筹备（1952），湘桂冀辽锰矿的调查研究（1953～1955），四川石油地质调查（1954），凤台和海州磷矿的研究（1955），中苏合作黑龙江流域综合考察（1956～1957），中国东部磷矿资源的调查研究（1958～1963），中国东部石油地质研究（1963～1966），放射性矿床和国防工程地质条件的研究（1962～1965），西南石油会战（1970），外生矿床成岩成矿作用研究（1982～1986），沉积矿床成矿时代的成因研究（1987～1990）以及生物成矿作用研究（1992～1996）等，为解决国民经济和国防建设中的许多重大问题做出了贡献。他对沉积锰矿的研究使濒于枯竭的湘潭锰矿找到了丰富的深部矿藏，是突出的实例。1953年，他和侯德封教授在研究湘潭锰矿过程中，发现了含矿岩系中“符吉冲灰岩”与硬锰矿的共生和转化关系以及硬锰矿在含矿岩系风化剖面中的展布特点，判定“符吉冲灰岩”即原生锰矿。他们运用氧化—还原环境对变价锰元素的搬运、沉积起控制作用的地球化学原理，具体分析锰矿床的形成过程和形成条件，正确判定地表高价氧化锰与深部碳酸锰之间的承继关系，成功地扩大了矿床储量而使其成为当时我国最大的锰矿床。
叶连俊十分关注我国沉积学的发展。1951年在他的筹划和领导下建立了我国第一个沉积学研究室，并一直亲自主持该室的研究工作。1960年率先在国内建立有机地球化学研究实验室。他以锐利的眼光预见科学的发展趋势，积极倡导和扶持边缘学科的发展，如数学地质、海洋地质和古地磁学等。他关心和支持各种学术团体及其活动，他是国际沉积学家协会第11、12届理事会理事，国际地科联沉积委员会委员（1982）和全球沉积地质对比工作组成员（1986），国际石油大会中国国家委员会成员，积极参加第26～28届国际地质大会、1978年开始的第1～7届国际地质对比计划（IGCP）磷矿学术讨论会以及国际沉积学大会和国际石油地质大会，进行学术交流。在他的倡导下，1979年成立了中国沉积学会并任该会理事长。所有这些活动都有力地推动了我国沉积学界同国际学术界的学术交流。
叶连俊认为地球科学是一门综合性极强的科学，只靠单一学科的知识是不能很好的解决问题的。在他的科研活动中有两条是经常强调的，一是“学科有专长，任务一起上”；二是要“单学科深入，多学科综合”。他还常说，作为一名科学工作者，其任务就是要以自己的专长去满足国家建设和人民的需要，要勇于接受国家交给的任务并努力完成；即便是自己选题立项，也要首先考虑国家的需要，而不是强调个人的兴趣。他自己就是这样身体力行的，在几十年的科研实践中始终勤勤恳恳、扎扎实实地为社会主义宏伟事业做奉献。
