A la fin des années 1880, Gustave Aubert était, avec notamment Jean Beaugiron et Barthélémy Beaure, l’un des animateurs du mouvement anarchiste à Limoges iù il demeurait 71 faubourg d’Angoulême. Lors de la visite à Limoges du Président de la République accompagné du ministre de l’Intérieur E. Constans, Aubert avait été arrêté avec Beaugiron pour avoir crié au passage du cortège « A bas Constans l’assassin ! ». Lors de son interrogatoire, il avait répondu n’avoir fait que son devoir et que chaque fous que l’occasion se présenterait d’être utile à la cause qu’il défendait, il agirait de même sans s’inquiéter des conséquences ». Le 28 mai suivant il avait été condamné à 5 jours de prison et à une amende.
C’est lui qui, en décembre 1892, logea Alexandre Tennevin à son arrivée à Limoges. En octobre 1893 il fut condamné à 8 jours de prison pour « outrages à agents ».
Le 1er janvier 1894, comme une vingtaine d’autres militants de Limoges dont Alexandre Tennevin, Gustave Aubert avait été l’objet d’une perquisition où la police avait saisi de nombreux exemplaires du Père Peinard, de La Révolte et de nombreuses brochures. Le 15 mars suivant, il fut l’objet d’une nouvelle perquisition où la police avait saisi 4 gravures de L’Almanach du Père peinard (la Patrie dévorant ses enfants ; Les garrottés de Xéres ; les portraits des anarchistes de Chicago ; Le capital et les travailleurs) fixées aux murs de son atelier.
Gustave Aubert figurait en 1935 sur une liste d’anarchistes de Haute-Vienne « sympathisants, abonnés au Libertaire, ou paraissant s’être amendés depuis 1923 ».