遠在五六十萬年前的舊石器時代，已有先民在此繁衍生息。新石器時代，黃河中游兩岸及伊、洛、瀍、澗等河流的臺地上，分布著許多氏族部落，新中國成立后在洛陽一帶發現的孫旗屯遺址、王灣遺址、矬李遺址等近200處聚落遺址，便是當時人們居住、生活的地方。
夏朝初年，禹劃九州，河洛屬古豫州地。洛陽是夏王朝立國和活動的中心地域，太康、仲康、帝桀皆以斟鄩為都。
前1600年，商朝建立。商湯建都西亳（二里頭遺址東北約6千米）。
前1046年，西周代殷后，為控制東方地區，開始在洛陽營建國都。周公在洛水北岸修建了王城和成周城，史稱成王“初遷宅于成周”、“定鼎于郟鄏”、“宅茲中國”，曾遷殷頑民于成周，并以成周八師監督之。當時洛陽稱洛邑、新邑、大邑、成周、天室、中國等，亦稱周南。
周平王元年（前770年），周平王東遷洛邑，是為東周。
秦莊襄王元年（前249年），秦在洛陽置三川郡，郡治成周城。
漢王元年（前206年），項羽封申陽為河南王，居洛陽。
漢高祖五年（前202年），劉邦建漢，初都洛陽，后遷長安，改三川郡為河南郡，治洛陽。轄洛陽、河南（漢置，治王城）、偃師、緱氏、平（偃師西北）、平陰（孟津東北）、新成（伊川西南）、榖成（新安東）及鞏、滎陽、新鄭、中牟、開封等22縣。漢武帝置十三州部刺史，河南郡屬司隸。西漢末年，王莽篡政，改洛陽為宜陽，設“新室東都”和“中市”。
漢光武建武元年（25年），劉秀定都洛陽，改洛陽為雒陽。
建武十五年（39年），更河南郡為河南尹。
漢永和五年（140年），河南尹“有戶二十萬八千四百八十六，有口一百零一萬零八百二十七”。
黃初元年（220年），魏文帝曹丕定都洛陽，變雒陽為洛陽，設司隸校尉部。
泰始元年（265年），西晉代魏，仍以洛陽為都。
太延二年（436年），北魏在洛陽置洛州。
太和十八年（494年），孝文帝遷都洛陽。
隋開皇元年（581年），在洛陽置東京尚書省；次年，置河南道行臺省；三年，廢行臺，以洛州刺史領總監；十四年，于金墉城別置總監。
大業元年（605年），隋煬帝遷都洛陽，在東周王城以東，漢魏故城以西18里處，新建洛陽城。同年，改洛州（東魏改司州置）為豫州，三年又改河南郡，十四年復置洛州，轄河南、洛陽、偃師、緱氏、閿鄉、桃林、陜、熊耳、澠池、新安、鞏、宜陽、壽安、陸渾、伊闕、興泰、嵩陽、陽城等18縣。
唐代，自高宗始仍以洛陽為都，稱東都。
武德四年（621年），置洛州總管府，轄洛州、鄭州、熊州、榖州、嵩州、管州、伊州、汝州、魯州等九州，洛州轄洛陽、河南、偃師、緱氏、鞏、陽城、嵩陽、陸渾、伊闕等9縣。
貞觀元年（627年），分全國為十道，洛陽屬河南道。
顯慶二年（657年），置東都。
開元元年（713年），改洛州為河南府。
開元二十一年（733年），于洛陽置都畿道。天寶年間，改東都為東京。洛州、河南府均治洛陽。
武則天光宅元年（684年）始，改東都為神都，對都城進行擴建，修建了明堂、萬國天樞等。
唐天祐四年（907年），后梁、后唐、后晉均曾都洛陽，后漢、后周以洛陽為陪都。
宋，以洛陽為西京，置河南府。
金代，定洛陽為中京，改河南府曰金昌府，并河N縣入洛陽縣。