Réunis en 1998, les membres de Karkwa profitent des premières années de leur carrière pour parfaire leurs compositions et acquérir une expérience de scène grâce à divers concours, dont la 7e édition des francouvertes (2001-2002), où ils atteignent la grande finale. Cette période de recherche et d'analyse s'avère un réel tremplin pour l'élaboration de leur identité musicale.
C'est en 2003 que le groupe, constitué de Louis-Jean Cormier (voix et guitare), Stéphane Bergeron (batterie), François Lafontaine (claviers), Martin Lamontagne (basse) et Julien Sagot (percussions et voix), prend véritablement son envol, avec le lancement de son premier album, Le pensionnat des établis. Réalisée par une bande de mélomanes aux influences musicales multiples, cette première galette réunit une série de chansons éclectiques, issues de leur répertoire depuis les débuts.
Les mois qui suivent voient s'enchaîner rapidement plusieurs tournées aux quatre coins du québec. La formation y offre de puissantes prestations scéniques, se forgeant ainsi une réputation de « groupe de scène ».
Avec la parution de l'opus Les tremblements s'immobilisent sous l'étiquette Audiogram en novembre 2005, Karkwa confirme son rôle déterminant sur la scène musicale québécoise. Se maintenant entre la marge et la masse, les compositions rocks et ambiantes de ce deuxième album dialoguent avec des textes imagés et poétiques. Leur personnalité singulière établie, les musiciens ont également simplifié leur approche et dosé leurs différentes influences. Le disque comprend quelques collaborations, dont celle de Brigitte Fontaine, qui prête sa voix à la pièce Red light.
La musique de Karkwa gagne l'estime du public et de la critique; en 2006, la formation récolte plusieurs prix majeurs, soit trois Félix, ceux du réalisateur de disque de l'année, prise de son et mixage de l'année et auteur ou compositeur de l'année (ex æquo avec Pierre Lapointe), le prix Félix-Leclerc de la chanson, en plus d'être nommée " sacré talent 2006! " par radio-canada.
Vu la réponse favorable des québécois, Karkwa décide de présenter son matériel à la francophonie européenne. En novembre 2007, la parution de l'album Les tremblements s'immobilisent en france marque le début d'une nouvelle ère pour le groupe. Les excellentes critiques et l'accueil du public lui permettent de se rendre outre-atlantique à maintes reprises pour s'y produire.
Dix ans après sa formation, le quintette offre Le volume du vent (avril 2008). Influencés entre autres par Steve Reich et Philip Glass, les musiciens épurent l'esthétique du troisième disque, optant pour une direction plus orchestrale et minimaliste. La critique le qualifie de particulièrement accompli, à la fois grave, raffiné et irrésistiblement planant.
L'année 2008 est celle de la consécration de Karkwa, qui récolte un bouquet de récompenses provenant des scènes émergente et populaire : trois trophées au Gala de l'Alternative Musicale Indépendante du Québec (Gamiq), à savoir artiste de l'année, auteur-compositeur de l'année et album indie rock de l'année, quatre Félix au gala de l'Adisq, soit album alternatif de l'année, auteur ou compositeur de l'année, groupe de l'année et vidéoclip de l'année pour échapper au sort, en plus du prix de la chanson écho de la socan grâce à Oublie pas. En 2009, la formation reçoit deux Félix supplémentaires, ceux du spectacle de l'année/auteur-compositeur-interprète ainsi que du vidéoclip de l'année avec La façade.
Les deux années suivant la parution du troisième album sont extrêmement chargées pour les musiciens, qui offrent entre autres une centaine de prestations au Québec, en France, en Suisse, en Belgique, en Angleterre, aux Etats-unis et au Liban. Le volume du vent paraît en france en mars 2009.
Le quatrième album, Les chemins de verre, est enregistré en partie aux studios La Frette, à Paris. Véritable source d'inspiration, ce manoir datant du XIXe siècle devient le sixième membre du groupe. Les musiciens s'y rendent donc à quelques reprises, entre les concerts de leur dernière tournée française. En pleine effervescence, ils adoptent une méthode de travail basée sur la spontanéité ainsi que sur leurs pulsions créatrices. Exempte de pré-production, la réalisation de ce disque prend ainsi une nouvelle tangente et se distingue du précédent matériel par son angle plus impressionniste et organique. Les chemins de verre atterrit dans le bac des disquaires québécois en mars 2010.
Couronné d’un succès populaire et critique, ce dernier opus remporta le prestigieux Prix Polaris, remis au Meilleur album de l’année au Canada, ainsi qu’un Félix au Gala de l’ADISQ pour l’Album alternatif de l’année au Québec.