De son vrai nom, Gossé, il nacquit le 17 janvier 1934 à Vergnies (petit village hennuyer, aujourd'hui belge, était à l'époque une enclave française) dans une famille très pauvre. Très jeune il composait des mélodies en gardant les troupeaux, s’accompagnant, en guise de viole, d’un vieux sabot sur lequel il avait tendu quelques crins. Le curé du village ayant remarqué son talent l'envoya se former à Walcourt puis à Anvers.

Gossec s'installe en 1751 à Paris où il est engagé comme violoniste dans l'orchestre de La Pouplinière. Entre 1762 et 1770, il dirige le théâtre du Prince de Condé à Chantilly (comme maître de musique). Il sert ensuite comme Intendant de la Musique du Prince de Conti.

Il fonde le Concert des amateurs en 1769, qu'il dirige jusqu'en 1773. Entre 1773 et 1777, il est directeur du Concert Spirituel. En 1780, il devient sous-directeur de l'Opéra puis, après la démission d’Antoine Dauvergne à Pâques 1782, directeur général. Toutefois, ses pouvoirs sont limités car contrebalancés par celui du secrétaire d'État à la maison du Roi et celui du comité des artistes[1]. En 1784, il quitte la direction du comité pour diriger la nouvelle École royale de chant.

Il se fait connaître aussi par son action dans le mouvement révolutionnaire. Il est en effet reconnu en tant que « musicien officiel de la Révolution », se faisant une réputation d’inventeur de la musique démocratique et de l’art choral populaire. Cette caractéristique lui vaut du reste la disgrâce lors de la Restauration. Après 1789, il écrit de nombreuses œuvres inspirées de la Révolution, telles des hymnes.

Considéré par ailleurs comme le père de la symphonie française, il est très ami avec Mozart et fonde avec un musicien liégeois André-Modeste Grétry, le Conservatoire de Paris où il enseigne la composition entre 1795 et 1814 et dont il est ensuite l'un des inspecteurs.

Il trouve la mort à Passy le 16 février 1829, sous la Seconde Restauration, après soixante-cinq ans d'une carrière qui se termine avec son dernier Te deum, en 1817. Gossec est inhumé au Cimetière du Père-Lachaise où il repose près de la tombe de son ami Gretry.

Une rue du 12e arrondissement de Paris porte aujourd'hui son nom. Elle debute rue de Picpus et se termine avenue Daumesnil.