Hola

No desinstales IE. Es más creo que ni te dejará hacerlo porque es parte de Windows.

Sólo descarga Firefox desde su página web, instálalo y cuando te pregunte si deseas que sea tu navegador primario le dices que sí y listo.

Saludos.
-JW