山西大学考古文博学院前身是山西大学考古学专业。该专业创办于1977年，1978年开始招生，是我国大陆高校中十三个最早创办的考古学专业之一。自此之后，考古学专业不断发展壮大，先后设立历史系考古学专业教研室、历史文化学院考古系。2022年6月27日，经山西大学批准，山西大学考古文博学院成立。

山西大学考古文博学院具有完备的从本科、硕士、博士到博士后的培养体系。2002年获得考古学硕士学位授权点，2005年获得考古学博士学位授权点，2010年获得文物与博物馆硕士学位授权点，2011年获得考古学一级学科博士学位授权点，2012年设立考古学博士后科研流动站。学院的考古学专业是教育部“双万计划”国家级一流本科专业建设点、山西省高等学校优势特色专业、山西省重点学科。

山西大学考古文博学院具有优良的田野考古工作传统，高度重视田野考古实践教学。2001-2002年参与的山西吉县柿子滩旧石器时代遗址发掘项目获得了“国家田野考古三等奖”，2006年主持南水北调中线工程河北容城沙河遗址发掘项目的郎保利教授当选年度国家优秀领队。2007年学院获得考古发掘团体领队资质，目前有考古发掘项目负责人13人。2017年，在国家文物局和山西省文物局、山西省考古研究院的支持下，学院联合大同市考古研究所，在大同市云州区吉家庄遗址建立了“山西大学吉家庄田野考古教学实践基地”。2022年7月，山西省人民政府出台《关于加强全省考古工作的意见》，根据其中相关内容，学院还将陆续在晋中、晋南、晋东南建立三处田野考古实训基地，形成集发掘、研究、教学于一体的“1+3”考古实训基地格局。

山西大学考古文博学院的博物馆建设起步较早，藏品种类丰富。1943年创建文物陈列室，现有展室2间，建筑面积180平方米，共展出和存放文物1100多件。其中的成化斗彩鸡缸杯、四系青瓷罐、五彩瓷罐等近百件文物可评定为一级、二级和三级珍贵文物，具有极高的历史、艺术与科学价值。