Beaucoup de choses à voir dans ce petit village où l'on a retrouvé des vestiges gallo-romains, à commencer par l'église du XVIIe siècle dont le toit de tuiles vernissées ne passe pas inaperçu. Il y a aussi un château du XVIIIe siècle, un lavoir, mais surtout une fontaine à quatre colonnes, classée, datant de 1767. Le circuit de randonnée des Fontaines, jalonné de panneaux permet de découvrir et de comprendre le patrimoine naturel et historique entre le village de Sermange et celui de Gendrey. A Sermange, on trouve aussi un ferronnier d'art et un conservatoire de roses anciennes.