Gagnon a vu le jour dans un petit village du Québec. Malgré sa formation parisienne et l’atelier qu’il y conserve durant toute sa carrière, il ne perd jamais son amour des Laurentides et de la région de Charlevoix dans l’est du Québec qui lui inspireront de nombreux tableaux. C’est sa mère qui nourrit son intérêt précoce pour le dessin et, malgré le désir de son père de lui voir embrasser une carrière dans les affaires, il commence à étudier le dessin et la peinture en 1897 à l’âge de 16 ans auprès de William Brymner de l’Art Association of Montreal.
Ses premiers tableaux sur des thèmes ruraux piquent l’intérêt de l’homme d’affaires et collectionneur montréalais, James Morgan, qui devient son mécène. Grâce aux émoluments mensuels qu’il lui verse, Gagnon peut voyager en Europe pour étudier à l’Académie Julian de Paris auprès de Jean-Paul Laurens en 1904 et 1905. T ôt dans sa carrière, il se distingue par la qualité de ses gravures. En 1905, il obtient une mention honorable au Salon de la Société des artistes français de Paris.
À Paris, Gagnon rencontre également des peintres canadiens comme James Wilson Morrice avec lequel il dessine et dont il adopte la méthode de peindre rapidement sur place. En 1908, Gagnon revient au Canada et s’établit dans la région de Baie-Saint-Paul dans Charlevoix, qui devient son lieu favori pour dessiner. Son amour de la vie canadienne-française est manifeste dans la série de représentations anecdotiques de la vie des habitants, un thème qu’il fréquentera tout au long de sa carrière.
De 1909 à 1914, Gagnon vit au Canada, en France et en Norvège, sans jamais cesser de faire des tableaux des esquisses réalisées au Québec. Sa carrière connaît un point tournant quand le marchand d’œuvres d’art parisien, Adrien M. Reitlinger, lui propose une exposition dans sa galerie de Montparnasse. Après l’exposition parisienne de 1913, Gagnon peint presque exclusivement le paysage canadien surtout en hiver. Il invente un nouveau style de paysage — un monde hivernal composé de vallées et de montagnes, de contrastes frappants de lumière et d’ombre, aux couleurs vives et aux lignes sinueuses. Il mélange ses propres peintures et, à compter de 1916, sa palette se compose de blancs, de rouges, de bleus et de jaunes purs.
De 1924 à 1936, Gagnon vit de nouveau à Paris. Il consacre presque toute son énergie à la création des illustrations de deux œuvres de fiction, Le grand silence blanc de L.F. Rouquette (Paris, 1928) et Maria Chapdelaine de Louis Hémon (Paris, 1933), un récit qui célèbre la vie des pionniers canadiens. En 1936, Gagnon revient au Canada où il meurt le 5 janvier 1942 à l’âge de 61 ans. Clarence Gagnon était membre à part entière de l’Académie royale des arts du Canada (1922). En 1923, le Salmagundi Club de New York lui décernait le prix Trevor. Il signait toujours l’endos de ses toiles de l’empreinte de son pouce pour en garantir l’authenticité et lutter ainsi contre les faux.