中国科学院南京土壤研究所成立于1953年，其前身为1930年创立的中央地质调查所土壤研究室。我所的演进历史，是中国土壤科学发展的缩影，是中国土壤科学史的重要篇章。

1930年7月2日，中华教育文化基金董事会第六次年会（南京）委托农矿部地质调查所举办全国土壤调查，地质调查所聘请国内外专家并在所在地北京西四兵马司9号及丰盛胡同3号成立土壤研究室，开始对中国土壤进行系统的调查与研究，这是中国近代土壤科学研究真正开始的标志。随后，土壤研究室相随中央地质调查所经历了五次迁址。

1930年12月，农矿部地质调查所在原址更名为实业部地质调查所，并于1935.12迁至南京珠江路942号，土壤研究室也相随迁到新址。

1937年11月，实业部地质调查所更名为经济部地质调查所，并迁至长沙喻家冲，土壤研究室也相随迁到新址。

1938年8月，经济部地质调查所迁至重庆复兴巷5号，土壤研究室也相随迁到新址。

1939年4月，经济部地质调查所更名为经济部中央地质调查所，并迁至重庆北碚，土壤研究室也相随迁到新址。

1946年1月，经济部中央地质调查所迁至南京珠江路942号，土壤研究室也相随迁到新址。

1949年4月，经济部中央地质调查所被南京市军管会文教委接管（后改为700号）。

1950年8月，经济部中央地质调查所撤消，接受中国地质工作计划指导委员会领导和改编。

1952年7月，中国科学院秘字第2741号文件通知，决定将原中央地质调查所所属土壤研究室扩充为土壤研究所并先成立筹备处，自1952年10月1日起改属中国科学院。

1953年1月8日启用中国科学院土壤研究所筹备处印章，1月23日中国科学院人字第0441号文通知，中国科学院土壤研究所筹备处工作结束，研究所正式成立。5月15日中国科学院秘字第2782号文，传达政务院5月11日[53]政文齐字第12号文，同意中国科学院增设包括土壤研究所在内的24个研究机构，中国科学院土壤研究所东北分所筹备处（现中国科学院沈阳应用生态研究所前身）亦同时成立。6月11日[53]院人字第3004号文任命马溶之为中国科学院土壤研究所所长。新建的中国科学院土壤研究所系以原中央地质调查所土壤研究室为基础，合并40年代成立的福建地质土壤调查所、江西地质调查所土壤研究室而成，构成了早期开展土壤研究的基干力量。设土壤物理与物理化学研究组（简称一组），熊毅任组长；土壤化学与农业化学研究组（二组），李庆逵任组长；土壤微生物与生物化学研究组（三组），马溶之兼任组长；土壤地理与改良组（四组），宋达泉任组长，同时筹建了图书室和土壤标本展览室。一、二、三组在珠江路700号原址，四组借用鸡鸣寺院内小红楼，分散两处工作。

1955年3月，我所新实验大楼在九华山大院落成验收（现综合楼），4月全所约150人迁入新址开始集中办公。

1955年以后，随着国家经济建设的发展和研究工作的需要，设立了多个研究室（组）：土壤物理研究组、土壤化学研究组、土壤农业化学研究室、土壤生物化学研究组、土壤微生物研究组和土壤地理研究室，并设立为科研服务的附属工厂。

1961年末，由熊毅、席承藩率原土壤及水土保持研究所百名科技人员并图书仪器南迁回归，全所增至近600人，研究领域同时有所扩展。根据中国科学院“三定”（定方向、定任务、定人员）精神，讨论并重新确定所的方向、任务和学科室（组）的设置。

1963年，我所的10年发展方向、重点任务和重大措施三定方案形成，研究室（组）也作相应调整：土壤物理研究组、土壤物理化学研究室、土壤电化学研究组、土壤植物营养化学研究室、土壤生物化学研究组、土壤微生物研究组、土壤地理研究室，大比例尺土壤制图研究组和土壤盐渍地球化学研究组，形成了多学科分工和优势互补的格局，步入多学科全面发展的新阶段，开创了我所成为分支学科齐全的全国土壤科学研究中心的局面。

1970年7月15日中国科学院[70]科字第20号文通知，将我所下放到江苏省。11月28日江苏省苏革生[1970]147号文通知，我所归口于江苏省科技局。

1973年3月15日中国科学院[73]科发业字015号函，我所由江苏省和中国科学院双重领导。5月21日中国科学院[73]科发业字065号文通知，“江苏省土壤研究所革命委员会”改名为“中国科学院南京土壤研究所革命委员会”。期间，研究室（组）变动：土壤物理研究室、土壤物理化学研究室（土壤电化学研究组并入）、土壤植物营养化学研究室、土壤微生物研究室、土壤生物化学研究室、土壤地理研究室（土壤详测组并入）、土壤盐渍地球化学研究室，图书情报室（图书与资料合并）。

70年代后期，研究室（组）重新布局，设有：土壤物理研究室、土壤物理化学研究室、土壤电化学研究室、土壤植物营养化学研究室、土壤微生物研究室、土壤生物化学研究室、土壤地理研究室、土壤盐渍地球化学研究室、图书情报室，还有附属工厂。1976年成立土壤环境保护研究室。1979年建立水稻土生态研究组和土壤地球化学研究室（1984年并入地理研究室），土壤实验技术室和编译出版室也相继成立。

1978年3月18日，全国科学大会召开，我所开始了改革开放的历史新时期。1978年11月6日，根据中国科学院提出的“侧重基础，侧重提高，为国民经济和国防建设服务”的办院方针，召开了五定(定方向、定课题、定人员、定设备、定制度)座谈会，更好地发展了学科分支和争取国家任务。

1979年4月28日，院[79]科发计字0589号批复，同意我所新增6个研究室（组）：土壤电化学研究室、土壤地球化学研究室、水稻土生态研究组、土壤实验技术研究室、图书情报研究室和编译出版室。

1984年，我所重新调整了科研机构，共设置10个研究室（组）和4个技术系统：土壤地理研究室、土壤－植物营养化学研究室、土壤生物化学研究室、土壤盐渍地球化学研究室、土壤物理化学研究室、土壤电化学研究室、土壤物理研究室、土壤微生物研究室、土壤环境保护研究室、水稻土生态研究组以及土壤实验技术室、电子计算机组、图书情报研究室和编译出版室。

1985年8月21日，中国科学院同意将封丘站定名为“中国科学院河南封丘农业生态综合实验站”。10月21日，中国科学院[85]科发计字1068号文，同意我所在江西省建立我院的红壤生态实验站。

1987年3月19日，中科院资环局在南京主持召开“土壤圈物质循环开放实验室”论证会。8月20日，中国科学院[87]科发计字1035号，批准成立“土壤圈物质循环开放研究实验室”。

1988年4月12日，全国博士后管委会[1988]博管发4号文批准我所建立博士后科研流动站。6月22日，中国科学院(88)科发计字0766号文，批准我所封丘农业生态实验站对国内外开放。1990年10月16日，(90)科发计字1231号文批准红壤站对国内外开放。

1992年9月4日，我所在工资、人事制度配套改革试点基础上开始综合配套改革。

2001年3月2日，我所成为中国科学院知识创新工程全面推进阶段首批进入试点行列的研究所之一，标志着我所在新世纪伊始迈进了一个全新的发展阶段。

2003年5月，科技部正式批准依托我所建设“土壤与农业可持续发展国家重点实验室”。

2006年初，我所进入中国科学院知识创新三期工程行列。

2015年，我所进入中国科学院“率先行动”计划特色研究所试点建设。

2018年，我所特色研究所建设工作验收结果为优秀，进入正式运行阶段。