Con influencias punk bien marcadas, Duff pasó por infinidades de bandas antes de llegar a Guns N’ Roses, en las cuáles no sólo tocó el bajo, sino que también hizo de baterista, guitarrista, y cantante.

Después de dejar GN’R, siguió su carrera con un par de proyectos solistas: Neurotics Outsiders y Loaded. Aunque ninguno tuvo la repercución suficiente.

Tras años de alejamiento, finalmente forma Velvet Revolver junto a Slash, Matt, Scott Weiland (ex Stone Temple Pilots) y Dave Krusher. Una luz de rock n’ roll dentro de la actual oscuridad musical. Aunque en reiteradas ocaciones declaró que le gustaría una reunión de su mayor amor: Guns N’ Roses. Actualmente, Velver Revolver se encuentra sin actividad desde que Scott Weiland dejó la banda. Versiones oficiales dicen que están buscando un nuevo cantante. Sin embargo, sus integrantes se encuentran desarrollando proyectos individuales.