Er loopt een rode draad door Throwing Muses en aanverwante groepen.
De band werd in 1981 gevormd door de toen vijftien jarige Kristin Herch en haar stiefzus Tanya Donelly.
Donelly vormde later de groepen Belly en The Breeders.