История Must началась, когда австралиеец Дэйв Ирланд переехал в Лондон и встретился со странствующим барабанщиком Александром Рувим. Ирланд убедил Александра поработать с ним в клубе одну ночь, что привело к трёхдневной вечеринке, которая закончилась союзом двух музыкантов. Они долгое время подбирали басиста себе в группу пока, наконец, немец Кай Лемке не заполнил это место.
Они играли по всему Лондону и были встречены с энтузиазмом любителей рока, хотя доминирующая публика в городе часто омрачала их усилия. Их первый широкий прокат, 2002 года, Androgynous Jesus, был также первой возможностью, они должны были представить свою музыку за пределами Великобритании.
