Es probable que el jazz fuera inicialmente interpretado por músicos sin educación musical que tocaban en bandas de marchas en Nueva Orleans. La música era una parte importante de la vida cotidiana de esta ciudad desde por lo menos la década de 1890, con bandas de bronces que se contrataban para tocar en desfiles, funerales, fiestas y bailes. Es plausible pensar que los músicos, que frecuentemente no leían música, no tocaban las melodías de manera continua, sino que le agregaban variaciones para mantener las actuaciones interesantes.
Puesto que el cornetista Buddy Bolden, el primer músico famoso en ser considerado jazzista, formó su banda en 1895, se podría usar ésa como una fecha simbólica del nacimiento del jazz. Durante las próximas dos décadas no existe documentación del jazz, si bien se sabe que progresó a pasos lentos. Freddie Keppard sucedió a Bolden como el cornetista de más prestigio de Nueva Orleans, pero fue rápidamente superado por King Oliver. Aunque algunos músicos de Nueva Orleans viajaron al norte, el jazz se mantuvo estrictamente como una expresión musical típica de Nueva Orleans hasta la primera guerra mundial.
El 30 de enero de 1917, un grupo de músicos blancos llamado, sin modestia alguna, The Original Dixieland Jass Band grabó "Darktown Strutter's Ball" e "Indiana" para el sello Columbia. La música se consideró demasiado revolucionaria para la época y no se publicó, sin embargo, dos meses después la ODJB grabó para el sello Victor "Livery Stable Blues" y "The Original Dixieland One Step", temas que tuvieron gran éxito. Otros grupos se unieron al movimiento y también comenzaron a grabar. Así el jazz se convirtió en moda, ya que los promotores vieron una oportunidad de ganar dinero fácilmente. Pasarían varios años antes de que se hicieran grabaciones de músicos negros. En ese tiempo comenzaron a oírse opiniones que mantenían que los blancos habían inventado el jazz. Más tarde surgió una corriente contraria, que existe hasta hoy, que apoyaba la idea de que el jazz era una música negra y que sólo los negros tenían el conocimiento, sentimiento y talento para tocarla. Se ha probado en muchas ocasiones que ambas posiciones son falsas.

En 1920, Mamie Smith grabó el primer blues, "Crazy Blues", y la moda del jazz fue reemplazada por la de los blues. Sin embargo, el jazz continuó progresando y los New Orleans Rhythm Kings, uno de los primeros grupos que tocaba improvisando solos, sonaba en 1922 como si llevara una década de progreso sobre los ODJB. El año 1923 fue de gran importancia, porque durante ese año hicieron grabaciones debut la King Oliver's Creole Band (la cual incluía en corneta a Louis Armstrong y en clarinete a Johnny Dodds), la cantante de blues Bessie Smith y el compositor y pianista Jelly Roll Morton. Aunque la banda de King Oliver se consideraba dentro de las más importantes de Nueva Orleans por sus improvisaciones en conjunto, sería Louis Armstrong quien tendría la mayor influencia y eventualmente cambiaría el jazz.

La movilización de los negros del sur de los Estados Unidos, buscando mejores condiciones económicas, también contribuyó a que a los músicos de jazz salieran de Nueva Orleans hacia otras ciudades del norte y oeste y, a principios de los años '20, Chicago se convirtió en el centro del jazz. Cuando Armstrong se unió a la banda de Fletcher Henderson en Nueva York en 1924, descubrió que los músicos neoyorquinos, aunque técnicamente superiores, con frecuencia tocaban en stacatto y sin la emoción de los blues. Armstrong , con sus solos dramáticos y explosivos en la banda de Henderson, tuvo una inmensa influencia al cambiar la manera de frasear solos, abriendo así nuevos caminos de improvisación. Se puede afirmar que Louis Armstrong fue el principal responsable (aunque es probable que hubiera ocurrido eventualmente) por el cambio del énfasis del jazz de improvisación colectiva a solos individuales, lo cual ayudó a la creación del swing.

En la década de los '20, el jazz comenzó a influir a las orquestas de baile y hasta los conjuntos más comerciales comenzaron a tener pequeños solos y secciones rítmicas sincopadas. La espectacular serie de grabaciones de Louis Armstrong y sus Hot Five y Hot Seven inspiró a otros músicos a crecer y al mismo tiempo popularizó el canto en scat y una manera relajada de frasear vocalmente las canciones, lo cual influenció a Bing Crosby y a futuros cantantes. Músicos como el cornetista Bix Beiderbecke, que tenía un sonido menos cálido que el de Armstrong, el pianista Jelly Roll Morton, tanto como solista o con su grupo Red Hot Peppers, el pianista James P. Johnson, el compositor y arreglador Duke Ellington y el emergente saxo tenor Coleman Hawkins, se transformaron en importantes fuerzas en el mundo del jazz.