东山书院于清光绪二十一年(1895年)由原湘军将领、新疆巡抚刘锦棠及湘乡县举人许时遂、黄光福等人倡修,于光绪二十六年(公元1900年)建成,规模为正厅三进,东西各五斋,合计60余间。书院门额“东山书院”四字,系清代榜眼、大书法家黄自元所书。
书院建筑具有典型的湖湘书院文化特色,在布局上体现了“礼乐相成”的儒家思想,采取中轴对称、多重院落、前后连串、层层深入的空间组合,给人以幽深宁静的感觉。在装璜上不求华丽,青砖青瓦,没有堆砌的装饰和虚造的声势,呈现出端庄、朴实、宁静、典雅的特色。书院建筑同时融入了地方祠庙建筑特点和西式建筑风格,如围以围墙,环以便河,饰以照壁,架以石桥,配以过亭,设以天井,无不体现出传统建筑的作法。出入书院的两座大门,亦依文王八卦卦位建在“乾、坤”二卦的位置上,喻意从东山书院走出的学生,都将大有作为、响震乾坤。而边廊式的两层楼房、高大的横格玻璃窗、大教室设计则显然吸收了西洋建筑的风格。
书院是甲午战争后国人救亡图存的产物,它遵循实事求是、积极变通的原则,秉持“公诚勤俭”的校训和“唯才是教”理念,“废科举,兴新学”,打破传统书院的读经模式,脱离科举仕进的轨道,设立算学、格致、方言、商务四斋,分科造士,培养专业实用人才,开湖南新式教育先河。民国期间教育部《第一次中国教育年鉴》曾盛赞东山书院,认为它为湖南全省维新局面的展开起到了积极作用。它“培养实用人才,以济当时之急”的办学方向,也为现代教育树立了楷模,具有广泛的社会影响。
自书院创建至今,产生和培养了共和国开国领袖、将军、学者等数以万计的英才俊杰。杰出校友有国家主席毛泽东、国际著名诗人和翻译家萧三、全国政协常委易礼容、新民学会创始人之一的萧子升、中国人民解放军大将陈赓和谭政、湘鄂赣省委书记兼军事部长杨幼麟、福建省委书记、闽粤赣军区司令毛泽覃、股东区特委书记柳宗陶等。在东山学校百年校庆时,国家教委曾发来贺电,称赞“东山学校为中国革命作出了特殊贡献”。
书院曾历经县立东山高等小学堂、省私立东山初级中学、省立东山小学、东山学校等名称更迭。1958年9月10日,毛泽东主席为母校题写了“东山学校”校名。-也于2003年为东山学校重题了“公诚勤俭”的校训。
书院现仍为全省乃至全国保存最完好的一所书院,是全国重点文物保护单位、全国爱国主义教育示范基地、全国红色旅游经典景区、国家4A级旅游景区。