济南地区自新石器时代就已经有人类文明存在了，进入奴隶社会的商代，在城子崖一带建立了谭国。西周建国后，行分封制，济南地区属齐国。此时，谭国仍继续存在。春秋战国时期，济南仍属齐国。到秦代，行郡县制，济南从此有了“行政区划”这一概念。
秦
秦始皇统一天下后，建立郡县制，历城、平陵、谷城、卢等地均隶属济北郡，郡治为博阳(今泰安)。
西汉
“济南”之名称始于汉初。《史记·齐悼惠王世家》载：汉高后元年(前187年)，“高后立其兄子郦侯吕台为吕王，割齐之济南郡为吕王奉邑”，治所设东平陵（今章丘平陵城）。西汉文帝十六年（公元前164年）以济南郡置济南国，辖境约当今山东省济南历下区、市中区、天桥区、槐荫区、历城区、长清区、章丘、济阳以及滨州市邹平县等市县。景帝三年（公元前155年）济南王刘辟光谋反被诛，国除为郡。至平帝元始年间，济南郡辖东平陵、历城、邹平、台、阳丘、土鼓、於陵、般阳、梁邹、朝阳、著、菅、宜城14县。
东汉
东汉初复置济南国。建武十五年(39)，光武帝刘秀封其子刘康为济南公。济南国辖东平陵、历城、著、於陵、台、菅、土鼓、梁邹、东朝阳、邹平10县。
三国
魏晋南北朝时期三国时，济南地属曹魏青州。魏正始七年(246年)“曹楷徙封济南”，复置济南国，辖东平陵、历城、祝阿、漯阴、著、台、菅、土鼓、於陵、梁邹、邹平、东朝阳12县。
西晋
晋永嘉（307～312年）年间，济南郡治由东平陵移至历城。自此，历城便成为济南地区的政治中心。十六国时期，济南郡相继为后赵、前燕、前秦、后燕、南燕所属，历经兵燹战乱。
刘宋
元熙二年(420年)刘裕代东晋，建国号宋，济南郡仍隶属青州，辖历城、朝阳、著、土鼓、逢陵、平陵6县。
北魏
魏孝文帝承明元年（476年），济南公拓跋罗拔进爵为王。至北魏太和七年（483年），济南复为郡，治所仍为历城。时济南郡辖历城、平陵、鼓、朝阳、逢陵、著6县。北魏太和十年，重新划定各地州郡，济南为齐州。
隋
隋朝开皇三年（583年）废郡，改为州县两级行政区划制度。济南郡改为齐州，大业三年（607年）复改州为郡，齐郡辖历城、章丘、祝阿、临邑、临济、亭山、淄川、长山、邹平、高苑10县。
唐
唐初沿袭隋制，天宝元年（742年）齐州改为临淄郡，天宝五年复为济南郡。乾元元年（758年）又称齐州，辖历城、章丘、临邑、临济、长清、禹城6县。
北宋
宋至道三年（公元997年），济南属京东路，为齐州。徽宋政和六年（公元1116年），齐州升为济南府，辖历城、禹城、章丘、长清、临邑5县，治所设历城，为府治之始。
金
金代仍置济南府，属山东东路，领历城、临邑、齐河、章丘、禹城、长清、济阳7县。
元
元初改为济南路，属元王朝的“腹里”地区，直隶于中书省，领历城、章丘、邹平、济阳4县及棣、滨2州，棣州治厌次（今惠民县），辖厌次、商河、阳信、无棣4县；滨州治渤海（今滨州市），辖渤海、利津、沾化3县。
明
明代仍为济南府，领4州26县。领县计：历城、章丘、邹平、淄川、长山、新城、齐河、齐东、济阳、禹城、临邑、长清、肥城、青城、陵县。领州为：泰安州及其所属之新泰、莱芜县，德州及其所属之德平、平原县，武定州及其所属之阳信、海丰、乐陵、商河县，滨州及其所属之利津、沾化、蒲台县。
清
清仍置济南府，雍正二年（1724年）由济南府析出泰安、武定、滨州3州升为直隶州，新泰、莱芜、长清，阳信、海丰、乐陵，商河、利津、沾化、蒲台10县分属3州。光绪年间，济南府辖有历城、章丘、邹平、淄川、长山、新城、齐河、齐东、济阳、禹城、临邑、长清、陵县、德平、平原15个县及德州。