Né Rudolph Sheriff Lawless, de Sidney Lionel Oliver Lawless, d’une famille originaire des Caraïbes, et de Lucia Louise Sheriff, c’est à Harlem que Rudy grandit et vécut toute sa vie. Le plus jeune de sept enfants avait pour voisins Sid Catlett, Jimmy Crawford, Jackie McLean, Sonny Rollins, Gil Coggins, Arthur Taylor. Et c’est avec cet esprit d’entraide et de fraternité qu’il s’initia à la musique. Apprentissage qui commença dès le plus jeune âge puisque, de 3 à 8 ans, il fit, avec sa camarade Streemy Webb, un numéro de danse, avec des pas de jitterbug et de swing, qui connut un petit succès dans le quartier.

Durant l’adolescence, il étudia pour devenir menuisier mais choisit, à 16 ans, de vivre du jazz lorsqu’il partit, pendant un mois, en tournée avec Eddie Durham (b, g, arr). Il ne jouait pas encore dans l’orchestre, aidant plutôt avec le matériel. Un an plus tard, il remplaçait Slick Jones et devint le batteur du groupe.

Dans les années 1950, il fit partie des Johnson, du nom de deux musiciens qui s’appelaient tous deux Jonathan Johnson. L’un était pianiste, l’autre bassiste. Le saxophoniste Johnny Austin rejoignit le groupe. Ensemble, ils firent des tournées à travers le pays et suivirent le même circuit que Ray Charles et son orchestre. Il travailla aussi avec Rex Stewart.

Dans les années 1960, il tourna brièvement avec Mary Lou Williams et joua avec Freddie McCoy (vib) pendant près de deux ans. Du point de vue de sa discographie, il est le plus actif à cette période, enregistrant avec Etta Jones, Betty Roché (voc), Jimmy Neeley (p), Freddie McCoy.

Dans les années 1970, il joua avec Dorothy Donegan (p) et Hazel Scott (voc, p). Délaissant les clubs pour les événements privés, il se produisit dans les années 1990 dans de petits lieux, avec différents trios. Celui de Donald Smith (p) avec Bob Cunningham (b), aussi, avec Manny Duran (tp) et Alex Hernandez (b). Ces dernières années, il se produisait régulièrement avec les groupes de Lenore Raphael (p), de Keisha St. Joan (voc), de Valerie Capers (p).

Compagnon de route de la Jazz Foundation of America, il co-animait, avec le batteur Greg Bandy, la Monday Jam Session tous les lundis soirs au Local 802, le syndicat des musiciens. Les soirées débutaient par quelques thèmes joués avec son groupe, qui pouvait se composer de Zeke Mullins, Richard Clements ou Ellis Pough (p), de Bob Cunningham, John Ore (1933-2014), Kim Clarke ou Alex Layne (b), et de Mike Camoia (as), avant de laisser place aux musiciens invités. Il n’avait pas son pareil pour saluer les copains (Ray Blue (ts), Harold Mabern (p), Billie Kaye (dm), Art Baron (tb), Roy Meriwether, Bertha Hope (p), Danny Mixon (dm), Jimmy Owens (tp)), qui se retrouvaient sur scène à jouer un blues ou un standard, et pour accueillir les nouveaux venus avec la chaleur d’un ami.

Après la réouverture de Minton’s Playhouse en 2013, il fit partie de l’un des deux orchestres en résidence qui jouaient en alternance : dans l’un, il y avait Rudy Lawless (dm), Michael Max Fieny ou Hilliard Greene (b), Bertha Hope (p), dans l’autre, Ed Stoute (p), Alex Layne (b), Leroy Williams (dm), aussi Michael Howell (g), Mike Camoia (as), Richard Rivers (ts).