Creada por los hermanos McDonald, Jeff y Steven, en su adolescencia, son un grupo de culto con fieles seguidores en todo el planeta. Originariamente, el nombre del grupo era "Red Cross", pero la organización internacional Cruz Roja, mediante sucesivas reclamaciones, mostró su disconformidad por el uso de su nombre, motivo por el cual la banda decidió añadirle otra "D" a "Red", y sustituir la "C" por una "K", para evitar confusiones con dicha organización.

Comenzaron desarrollando un estilo Punk próximo al Noise, editando el álbum "Born Innocent" en su adolescencia, y relacionándose, de manera superficial, con bandas como Black Flag, The Germs, o posteriormente, Sonic Youth.
Fueron evolucionando hasta su actual sonido, una fusión de sonidos Pop y guitarras heredadas del punk o del hard rock de los 70s, aderezada por un estética de revival. Se les suele comparar con grupos como Jellyfish, Enuff Z Nuff, Urge Overkill.