Joseph Celle, qui était recherché en 1894 après sa libération en février ou mars de la maison d’arrêt de Béziers, fut arrêté à l’automne 1896 à Toulon où il demeurait 2 rue Manrique dans un garni dont il était propriétaire et qui servait de lieu de réunion aux compagnons locaux (Fouque, Richou, Albrand, Le Boubenac, Belmotto., etc) ; selon la police c’était « une pièce misérablement meublée, une table recouverte d’un tapis noir sur lequel figurent une croix et un poignard découpés dans de l’étoffe rouge, quelques chaises … sur la table des journaux et des livres de propagande anarchiste ». Il fut arrêté lors d’une perquisition le 27 février 1897 iù la police avait saisi un cahier de chansons. Remis en liberté provisoire, il fut condamné en mai 1897 à 3 mois de prison et 100 francs d’amende pour « association de malfaiteurs » à Toulon où il venait d’organiser une réunion avec Louise Michel. En septembre 1897 il fut avec Fouque l’organisateur d’une conférence d’Henri Dhorr « l’autorité c’est le meurtre » à laquelle assistèrent environ 350 personnes, puis le 21 septembre il fut incarcéré au nom de la contrainte par corps.

Joseph Celle a été définitivement rayé des listes d’anarchistes en juin 1905.