Il arrive à Paris où il fréquente les individualistes qui éditent "L’Anarchie ». Aidé financièrement par Alfred Fromentin que l'on surnomme "le milliardaire anarchiste", il s'installe à Ivry-sur-Seine (banlieue de Paris) comme soldeur et marchand de nouveautés. Il est en contact avec un autre marchand anarchiste du nom de Pierre Cardi (né le 24 août1875 en Corse).
Gauzy a 32 ans au moment de l'affaire de la bande à Bonnot, il vit avec une jeune Nîmoise de 24 ans, Anna UNI dite Nelly, qui ne cache pas ses idées libertaires, et il est père de deux enfants en bas âge. Elie Monier a travaillé chez lui comme commis. C'est ce dernier qui lui envoie Jules Bonnot, alors traqué par toutes les polices, mais sans lui révéler sa véritable identité. Le 24 avril 1912, le Sous-directeur de la Sûreté, Jouin, est abattu par Bonnot lors d'une perquisition dans la boutique de Gauzy.

Arrêté immédiatement, ce dernier est molesté par une foule hystérique et il arrive le visage tuméfié devant Guichard, le Chef de la Sûreté, qui le frappe de nouveau et le menace.
Accusé d'avoir dissimulé à la police la présence de Bonnot chez lui, Gauzy dit avoir hébergé un compagnon dont il ignore le véritable nom. Passible de la peine de mort, il est jugé avec les survivants et complices de la bande.

Le 27 février 1912 devant les assises de la Seine, Gauzy est finalement condamné à 18 mois de prison pour "recel de malfaiteurs".

Ayant effectué la plus grande partie de sa peine en préventive, il est libéré le 8 juillet 1913.
Quelques temps, il est blessé par balle tard par un ex-inspecteur de police malhonnête lors d'un différent commercial, mais sans rapport avec l'anarchie ni la bande à Bonnot. Il ne veut pas dénoncer son agresseur. « La délation est une chose qui lui répugne » dira son frère Louis également anarchiste.

Antoine Gauzy est reconnu coupable de recel de Monier et de Bonnot. Il est disculpé dans le meurtre de Mr Jouin ainsi que dans la tentative d’assassinat  de M. Colmar. Il est condamné à 18 mois de détention.

Quand il décède le 12 juin 1963 à Viry-Châtillon, dans son pavillon, il est le dernier membre de la bande à Bonnot.  Il laisse pour dernières volontés : « Ni fleurs, ni couronnes, et surtout civilement »

Menant une vie modeste et effacée, de marchand de tissus sur les marchés, son activisme militant est transformé en « souvenir de jeunesse ».