Rolling Stone significa en inglés canto rodado. Dice un proverbio inglés:
"A rolling stone gathers no moss" ("A la piedra movediza nunca moho la cobija")
Esta frase habla claramente del significado de Rolling Stone. Rolling Stone significa vagabundo o trotamundos, la expresión hace referencia a una persona que va por la vida dando vueltas sin responsabilidades ni rumbo fijo.
El grupo cogió el nombre de un blues de su ídolo Muddy Waters.