北海中学始建于1926年，由地方乡绅集资创办，初名合浦县立中学。

1927年，爱国将领陈铭枢将军在校内捐建了“合浦图书馆”（现为国家级文物），并亲自题写馆名，原校址设于千年古郡合浦县城内，当年招收初中一年级两个班（含一个预备班），由县政府委派中山大学毕业的岑福祥为第一任校长。 1929年3月至1951年2月，更名为合浦县立第一中学，又称北海县立一中；

1942年秋至1946年夏曾改名称县立一中“北海分校”，隶属合浦县；

1951年3月，改名为北海市中学，兼并私立新民中学（原旭初中学），隶属北海市；

1952年9月，广西省北海中学（广西省代管时期），属省立重点中学；

1955年6月，因回归广东，更名为广东北海中学；

1966年1月，划归广西省立，更名为广西北海中学；

1966年9月起，正式改名为北海市北海中学；

1996年北海中学撤销初中部，只设高中部；

1984年北海中学被确定为自治区十六重点中学之一。 2003年5月列为自治区首批示范性普通高中；

2009年12月通过首批示范性普通高中复查评估验收；

2013年9月2日，北海中学整体搬迁至冯家江新校区。