Des ruines identifiées comme romaines auraient été mises à jour aux lieux-dits "sur perusse" et "les maisières", à 1,5 km du village et sur plus de 4 ha. L'utilisation des voies d'Arcey aux salines de Saulnot et d'Arcey à Présentevillers serait attestée dés l'époque gallo-romaine.
En 1865, trois sarcophages découverts au lieu-dit "Champ de Lance" laissaient présumer la présence d'un habitat burgonde.
Au centre du village, un bâtiment dénommé "le château" a perdu les attributs qui lui valaient ce qualificatif : édifice de style Louis XIV à escalier à tourelle et porte monumentale.
Une famille d'Arcey apparaît dans les textes au début du XIVe siècle. Un certain Pierre d'Arcey est inhumé à l'abbaye de Lieu-Croissant. Le mariage de sa fille Agnès avec Guyot de Grammont n'a rien de surprenant quand on connaît l'étendue des possessions de la famille Grammont dans tout le secteur de Montbéliard. Arcey devient l'un des plus importants centres de la seigneurie de Granges. En 1424, Henriette de Montbéliard partageait le finage avec Thomas Grammont. Les sujets mainmortables étaient requis pour le guet au château de Granges.
Les échanges économiques se faisaient encore au XIXe siècle en direction de Granges. Les habitudes communautaires, les traditions perpétuaient ce courant d'échanges. On allait encore à pied au XXe siècle, à la fête ou à la foire de Granges.
La seigneurie de Granges, dont dépendait Arcey, relevait du comte de Montbéliard, qui la tenait en fief du comte de Bourgogne.
Le XVIIe siècle et l'invasion des territoires comtois par Louis XIV restent, à Arcey, marqués par des souvenirs cruels.
A l'occasion d'une expédition punitive menée, depuis la place forte de Belfort, contre les Comtois, une compagnie de dragons et de chevaux légers, vint pour intimider les habitants. A l'annonce de l'approche des Français, les paysans se réunirent dans le cimetière, fortifié pour l'occasion ; les femmes et les enfants s'étaient réfugiés, quant à eux, dans l'église. Après avoir pillé le village, les soudards s'en prirent à l'église. Les habitants ne voulant pas céder aux invectives du baron d'Asfeld, premier capitaine du régiment des dragons de la reine, déclarèrent les hostilités en lançant une décharge de chevrotine contre les Français, qui comptèrent trois morts dans leurs rangs. L'alerte était donnée. Les Français fous de rage assaillirent l'église et tentèrent d'enfumer les assiégés, qui ouvrirent une brèche dans le toit du clocher afin d'évacuer la fumée. C'est alors que la troupe décida de mettre le feu au clocher : "enfin le feu s'étant porté jusqu'au clocher, les paysans, touchés de compassion envers leur femme et leurs enfants, virent paraître un drapeau blanc, ce qui obligea les soldats de leur demander s'ils voulaient se rendre, qu'ils leur donneraient bon quartier, mais les assiégés répondirent vaillamment qu'ils les remerciaient de leur offre, que la seule grâce qu'ils avaient à demander était de permettre que les femmes et les enfants sortissent pour éviter l'incendie… Or le feu se propageait activement dans la tour, et ceux qui étaient dedans, voyant que la mort était inévitable, se réconfortaient les uns, les autres, afin de la supporter bravement et de laisser à tout le Comté l'exemple de leur fidélité". Cette date du 8 janvier 1674 resta gravée à jamais. 94 habitants moururent pour défendre leur foi catholique et la fidélité à leur roi. Parmi les disparus, citons les familles Vienot, Cabet, Choulet, Bourgeois, Vannier, Magnin, Vernerey, Girard.
Arcey devait subir, au cours des XIXe et XXe siècles, bien d'autres opérations militaires. Durant la guerre de 1870, le village et ses environs virent bon nombre d'opérations. L'armée de l'Est, dans sa trajectoire Villersexel-Montbéliard, devait rencontrer, aux abords d'Arcey, les détachements ennemis, envoyés pour retarder cette avance. S'opposant aux Français, une colonne se dirige vers Arcey et Sainte-Marie sous les ordres du colonel de Loss, et forte de 4000 fusils, 12 canons, et environ 300 sabres. Le 13 janvier 1871, entre 9 et 10 heures du matin, l'attaque des colonnes ennemies stationnant à Arcey, se faisait par la première division du 24e corps réunie avant l'engagement à Montenois et à Onans. Elle était aidée dans son mouvement par la 3e division du 15e corps. La colonne prussienne du colonel de Loss recula alors derrière le Rupt. Et c'est encore sous les feux d'une offensive que le village se retrouve en 1944. Afin de préparer l'offensive de la 5e DB, la 2e division d'Infanterie Marocaine libère la R.N. 83 en aval d'Arcey, aux abords de Marvelise et Gémonval. Le 15 novembre, la route est ouverte. Les blindés de la 5e DB, suivis par le 4e régiment de Tirailleurs Marocains, entrent dans le village. Pendant que les unités avancées investissent le village, 300 fantassins marocains prennent position sur le front qui va à Arcey "Aux lisières sud du Bois du Mont". Dans des trous individuels, les Marocains passent une nuit pénible (il pleut et il neige), avant d'être relayés par leurs camarades du matin. Cette position précède le nettoyage du "Bois des hautes-Roches", et du plateau de Gonvillars. Un monument, bordant la R.N. 83 à l'ouest du village, commémore ces événements pénibles.
