南阳历史悠久。早在五六十万年前，与北京猿人生活于同一时代的“南召猿人”就使用打制石器，过着采集和渔猎生活，在白河上游繁衍生息。约在五六千年前，就出现了村落和房屋，产生了农业、畜牧业和制陶等手工业。商代为“南乡”，有谢、楚、邓等国。西周时，南阳属荆州，因在周的南部，被周人称为“周南”，境内有申、吕、楚、鄀、蓼、邓等国。春秋大部分入楚，楚置宛邑。战国分属楚、韩。秦初置南阳郡，为全国36郡之一。汉承秦置，仍置南阳郡，兼有弘农郡地，辖境相当于河南熊耳山以南和湖北大湖山以北，南阳经济文化的发展达到历史上的鼎盛时时期。晋置南阳国和义阳、顺阳郡。南北朝时建置变化无常。隋设南阳郡、阳郡、淅阳郡，兼有淮安郡和舂陵郡地。唐、宋设唐、邓二州。元、明、清设南阳府。中华民国设行政督察区。
1948年11月4日，南阳全境解放，国民党统治结束。1949年3月，新成立的中共河南省委决定，成立南阳地委、专区，辖南阳市、南阳县、南召县、镇平县、内乡县、淅川县、邓县、新野县、唐河县、桐柏县、泌阳县、方城县12个县市。南阳专署原辖的叶县、舞阳两县划归许昌专区。1949年12月15日复置西峡县。1965年5月16日，泌阳县划归驻马店专区。同年11月13日成立社旗县。至此南阳专区辖南阳市、南阳县、方城县、南召县、镇平县、内乡县、西峡县、淅川县、唐河县、邓县（1988年11月更名为邓州市）、新野县、桐柏县、社旗县13个县市。1994年7月，国务院批准撤销南阳地区，设立地级南阳市，撤销县级南阳市和南阳县，设立宛城区、卧龙区，共13个县市区。1995年3月，经河南省人民政府批准成立省级开发区——南阳高新技术产业开发区（简称“高新区”），正县级规格。2009年12月，南阳市委决定成立鸭河工区、官庄工区，正县级规格。2010年11月，官庄工区、鸭河工区正式运营。2010年12月，河南省人民政府批准成立南阳新区，副地级规格。2012年，南阳市辖卧龙区、宛城区、高新区、鸭河工区、官庄工区、南阳新区和南召、方城、镇平、内乡、西峡、淅川、新野、唐河、桐柏、社旗10县及邓州1市。2014年，邓州市试点省直管，南阳市辖2区、10县，分别为：南召县、镇平县、内乡县、淅川县、新野县、唐河县、桐柏县、方城县、西峡县、社旗县及卧龙区、宛城区。除正式行政区划外，南阳市还设立以下经济功能区：南阳高新技术产业开发区（国家级）、南阳市城乡一体化示范区、南阳官庄工区、南阳鸭河工区。2019年南阳辖卧龙、宛城2个区，南召、镇平、内乡、淅川、新野、唐河、桐柏、方城、西峡、社旗、邓州市11个县（市）及高新区管委会、城乡一体化示范区管委会、官庄先进制造业开发区管委会、卧龙综合保税区管委会4个功能区，有45个乡、159个镇、41个街道，4539个行政村、415个社区。是河南省土地面积最大、人口最多的地级市。