Le « menhir » dressé à proximité de la commune, qui serait à l'origine un dolmen, témoignerait d'une occupation du territoire à l'époque néolithique.
À l'époque gallo-romaine le lieu appartenait à la cité des Nerviens, dont la première capitale, Bavay, fut remplacée par Cambrai au IVe siècle. La voie romaine de Cambrai à Bavay passait à quelques centaines de mètres au sud du village actuel. Selon André Le Glay9, Hermoniacum, lieu mentionné par la table de Peutinger entre Bavay à 18 km et Cambrai à 22 km, servait de relais pour l'armée romaine sur la route qui reliait ces deux villes. Son emplacement exact est incertain, mais à la suite de Jean-Baptiste Lambiez, curé de Bavay en 1804, Le Glay le situe au lieu-dit « Herménage », à peu près à l'intersection de la route et des deux cours d'eau, l'Écaillon et les Harpies. Le nom aurait plus tard été déformé en « Clair ménage ». Des fouilles conduites par la société d'émulation de Cambrai en 1823 ont mis au jour de nombreux objets romains à cet endroit. Toutefois une autre hypothèse situe Hermoniacum un peu plus à l'est, à Bermerain.
Gérard de Vendegies cède la dime de sa seigneurie au chapitre de Cambrai en 1091.
L'abbaye des Dames de Beaumont a déclaré posséder des biens dans le village en 1602