Volgens de traditie hebben de Umayyaden (ook bekend als de Banu Abd-Shams) en de islamitische profeet Mohammed beide een gemeenschappelijke voorouder, Abd Manaf ibn Qusai. Mohammed stamt af van Abd Munaf via zijn zoon Hashim, de Umayyaden stammen af van Abd Munaf via een andere zoon, Abd-Shams. De twee families worden daarom beschouwd als verschillende clans (die van Hashim en die van Umayya, respectievelijk) van dezelfde Arabische stam (die van de Quraish).
De Umayyaden en de Hashimieten waren bittere rivalen. De rivaliteit kwam voort uit het aanvankelijke verzet van Abu Sufyan ibn Harb, de kleinzoon van Umayya, tegen Mohammed en de Islam. Hij probeerde de nieuwe godsdienst te verdrijven door een reeks veldslagen te voeren. Maar uiteindelijk accepteerde hij de islam, net als zijn zoon (de toekomstige kalief Muawiyah I), en de twee leverden de broodnodige politieke en diplomatieke vaardigheden voor het beheer van het snel groeiende islamitische rijk.
De oorsprong van de Umayyad-regering gaat terug tot de moord op Uthman in 656. Op dat moment werd Ali, een lid van de Hashim-clan en een neef van Profeet Mohammed, kalief. Hij stuitte al snel op verzet van verschillende facties en verplaatste zijn hoofdstad van Medina naar Kufa. Het daaruit voortvloeiende conflict, dat duurde van 656 tot 661, staat bekend als de Eerste Fitna ("tijd van beproeving").
Ali werd eerst tegengewerkt door een alliantie onder leiding van Aisha, de weduwe van Mohammed, en Talhah en Al-Zubayr, twee van de Metgezellen van de Profeet. De twee partijen kwamen tegenover elkaar te staan in de Slag bij de Kameel in 656, waar Ali een beslissende overwinning behaalde.
Toen Ali in 661 werd vermoord, trok Muawiyah naar Kufa. Daar haalde hij een aantal van Ali's aanhangers over om hem als kalief te aanvaarden in plaats van Ali's zoon Hasan. Vervolgens verplaatste hij de hoofdstad van het kalifaat naar Damascus. Syrië zou tot het einde van de dynastie de basis van de Umayyadische macht blijven.