山东省桓台第二中学的历史沿革可追溯至1958年。建校初期，学校名为“桓台县第四中学”，首招初中生。不久，行政区划的变动促使学校更名至“山东省博兴第七中学”。1961年，随着行政区划再度调整，学校名称变更为“桓台县第三中学”。1970年春，学校升格为高级中学，首次招收高中生。1972年3月，学校下放公社管理，改称“桓台县田庄中学”。1978年，全县教育格局发生变化，学校名称恢复为“山东省桓台第三中学”，同时每年竞赛招收两个初中班，直至1982年停止招收初中生。

1990年8月，桓台县委、县政府推出《关于全面完成公办学校校舍改造的实施方案》，对学校布局进行了调整，“桓台第三中学”更名为“山东省桓台第二高级中学”，并进行了大规模的校舍改造。1991年9月，学校顺利通过省政府的校舍改造达标验收，正式更名为“山东省桓台第二中学”，此名沿用至今。

学校位于桓台县中部的田庄镇，占地面积120亩，建筑面积3.6万平方米。新校坐落在县城新区中心地带，占地面积360亩，建筑面积10万平方米，固定资产达到15000万元。目前，学校拥有51个高中教学班，232位教职工，3200名学生。

从最初的“桓台县第四中学”到“山东省桓台第二中学”，学校历经多次更名与改革，始终致力于教育事业的发展，为培养更多优秀人才不懈努力。