조선시대에 현유(賢儒)의 위패를 봉안, 배향하고, 지방민의 교육과 교화를 위하여 창건되었다. 창건연대는 알려져 있지 않으나, 고려 말 두문동 72현(杜門洞七十二賢) 가운데 한 사람인 조승숙(趙承肅)의 「소소당기(昭昭堂記)」에 의하면, 1398년(태조 7)경에 창건된 것으로 보인다.

그 뒤 현재의 위치로 이건하였고, 임진왜란 때 소실되었다가 1603년(선조 36)에 대성전 · 동무(東廡) · 서무(西廡) · 명륜당 · 제기고(祭器庫) · 전사청(典祀廳) · 전직사(典直舍) 등의 건물을 중건하였다. 1610년(광해군 2)에 동재(東齋) · 서재(西齋) · 태극루(太極樓) · 교직사(校直舍) · 내삼문(內三門) 등을 건립하였다.

현존하는 건물로는 각 6칸의 대성전 및 동무 · 서무, 7칸의 명륜당, 각 5칸의 동재와 서재, 내삼문, 4칸의 전사청, 제기고, 고직사(庫直舍), 전직사, 태극루 등이 있다. 대성전에는 5성(五聖), 송조2현(宋朝二賢), 우리 나라 18현(十八賢)의 위패가 봉안되어 있다.

조선시대에는 국가로부터 토지와 전적 · 노비 등을 지급받아 교관 1명이 정원 30명의 교생을 가르쳤으나, 갑오개혁 이후 신학제 실시에 따라 교육적 기능은 없어지고, 봄 · 가을에 석전(釋奠)을 봉행(奉行)하며, 초하루 · 보름에 분향을 하고 있다.

1983년 경상남도 유형바카라 사이트재(현, 유형바카라 사이트유산)로 지정되었으며, 태극루의 현판은 1881년(고종 18)경에 당시 명필가인 하동출신 박문회(朴文會)가 쓴 것이다. 향교의 운영은 전교(典校) 1명과 장의(掌議) 수명이 담당하고 있다.