Nombre de ses compositions sont devenues des standards du jazz, notamment « Song for my Father ». Son ensemble révolutionnaire, le Horace Silver Quintet, a joué un rôle déterminant dans le rapprochement du hard bop, du blues et du gospel. Ce quintet comptait de nombreux collaborateurs importants, dont des saxophonistes influents comme Hank Mobley et Joe Henderson, qui ont contribué à développer le son soul et énergique du groupe. Leur passage chez Blue Note Records restera notamment dans les mémoires comme l'âge d'or du Horace Silver Quintet.