Ambas formas son correctas. Bacilar se refiere al mineral que forma fibras gruesas. En medicina, lo relativo a los bacilos: Todo sugiere una enfermedad bacilar. Vacilar se refiere a la acción de oscilar, tambalearse, moverse sin firmeza. Dudar, mostrarse inseguro: Alberto no puede tomar una decisión sin vacilar.
Son palabras homófonas, es decir, se pronuncian igual pero su significado es diferente.