1394년(태조 3)에 하첨(河詹)이 현유(賢儒)의 위패를 봉안, 배향하고, 지방민의 교육과 교화를 위하여 황학루(黃鶴樓)를 세우고, 현(縣)의 뒷산에 창건하였다. 그 후 1666년(현종 7)에 토성(土城) 안으로 이건하였고, 1752년, 1755년, 1901년에 각각 중수하였으며, 1872년(고종 9)에는 명륜당을 중수하였다.

현존하는 건물로는 5칸의 대성전, 5칸의 명륜당, 고직사(庫直舍) 등이 있다. 초석이 연화문(蓮花文)으로 조각된 것으로 보아, 사원건축양식과 정자 · 주택 건축양식이 절충된 것으로 보인다. 대성전에는 5성(五聖), 송조4현(宋朝四賢), 우리 나라 18현의 위패가 봉안되어 있다.

조선시대에는 국가로부터 토지와 전적 · 노비 등을 지급받아 교관 1명이 정원 30명의 교생을 가르쳤으나, 조선 후기 이래 향교는 교육 기능이 쇠퇴하고 대신 선현에 대한 제향을 통한 교화 기능을 주로 담당하였다. 봄 · 가을에 석전(釋奠)을 봉행(奉行)하며 초하루 · 보름에 분향을 하고 있다.

소장전적은 판본 14종 116책, 사본 3종 4책이 있으며, 이 중 『양사당신인경서전장절목(養士堂新印經書傳掌節目)』 · 『청금록(靑衿錄)』 · 『향교사물등록(鄕校事物謄錄)』 등은 이 지방의 향토사연구에 귀중한 자료이다.

이 향교는 1981년 충청북도 유형바카라 에볼루션재(현, 유형바카라 에볼루션유산)로 지정되었으며, 운영은 전교(典校) 1명과 장의(掌議) 수명이 담당하고 있다.