Les Groundhogs se sont formés en tant que groupe de blues au début des années 60. En 1970, lorsqu'ils ont enregistré leur troisième album, Thank Christ For The Bomb, ils évoluaient vers un son rock progressif plutôt heavy. Cet album a été qualifié de proto-punk, proto-grunge et décrit comme "unchef-d'oeuvre" par le NME. Il compte parmi ses fans célèbres le Captain Sensible des Damned, Karl Hyde d'Underworld et l'ancien frontman de Pavement, Stephen Malkmus, dont le travail solo emprunte quelques astuces à cet album.