山西省汾阳医院创建于1889年，前身是美国基督教会华北公理会创办的教会医院。医院建院初期，先后用名“公理会汾阳宏济施医院”、“汾州医院”。1949年9月，汾阳医院被确定为省立医院之一。1951年4月15日，医院由山西省人民政府接管，命名为“山西省立汾阳医院”。1958年，汾阳医院下放归汾阳县领导，改称“汾阳县中心人民医院”。1982年10月14日，山西省人民政府决定，将汾阳医院改为吕梁地区第二人民医院，1983年1月1日，医院升格为吕梁地区第二人民医院，归吕梁行署领导。1985年6月，根据国务院和省政府关于“历史悠久、曾有国际交往的学校、医院应恢复原名，以利开放和外事往来”的精神，经吕梁行署批准，“吕梁地区第二人民医院”更名“山西省汾阳医院”，隶属关系不变。

汾阳医院历经130余年传承，现已发展成为一所集医疗、教学、科研、预防保健、康复为一体的三级甲等综合医院。医院占地面积7.76万平方米，建筑面积12.16万平方米，编制床位1100张，开放床位1155张，设临床、医技科室56个，行政职能科室31个。其中省级重点学科3个、省级重点建设学科3个，省级重点建设专科2个，省市共建重点学科3个，山西医科大学重点培育学科1个；医院现有职工1726人（其中在编职工827人），其中高级职称426人，山西医科大学硕士生导师24名，博士、硕士165人，山西省百千万卫生高端领军人才2人，山西省百千万卫生骨干精英人才26名，三晋英才“拔尖骨干人才”5名、“青年优秀人才”5名；医院年门诊58万余人次，住院4.2万余人次。目前，是吕梁市专业最全、设备最先进、规模最大的医院。是山西医科大学直属附属医院，是国家卫生健康委指定的中南大学湘雅医院、中日友好医院帮扶单位，国家卫健委脑卒中筛查防治基地，国家首批住院医师规范化培训基地和全科医师培训基地。

医院主要承担汾阳市、孝义市、交城县、交口县、石楼县、中阳县、文水县、离石区等县、市的医疗救治、预防保健任务，另外还有平遥县、介休市、隰县、汾西县等周边县市患者慕名而来，覆盖人口约300余万。

1976年唐山地震、2008年汶川地震、2010年玉树地震、2020年湖北新冠肺炎疫情及2022年上海疫情均派出医疗队；2003年的非典疫情、2006年乙脑疫情、2009年和2014年甲型H1N1流感疫情、2014年11月麻疹疫情、2020年的新冠疫情，汾阳医院作为吕梁市唯一一家定点医院全程参与疾病的诊治，均取得患者零死亡的、医护人员零感染的好成绩；另外，医院在2008—2009年和2017—2018年分别派出4名医生和1名医生在吉布提、喀麦隆、多哥进行医疗援助，今年，医院又派出6名医生作为整体援助单位赴多哥进行为期一年的医疗援助。

全院干部职工恪守“厚德、精医、自强、致远”的院训，以“恪尽职守、精益求精、传承历史、广济社会”医院精神为指导，以“脚踏实地、雷厉风行、勤学不懈、精益求精”的工作方针和“优质、高效、全程”的服务理念为患者提供医疗服务，多次受到国家、省、市表彰，三十多年来一直保持山西省文明医院称号，三次荣获“全国卫生系统先进集体”称号。近年来先后荣获“全国文明单位”、“全国卫生文化先进集体”、“中国优秀志愿服务集体”、“山西省模范单位”、“山西省集体一等功”、“山西省五一劳动奖状”、“山西省文明和谐单位”、“山西省十佳医院”、“山西省医院内涵建设先进集体”、“山西省优秀基层党组织”、“山西省抗击新冠肺炎疫情先进集体”等荣誉。