Volgens de oude plaatselijke traditie verscheen de Maagd Maria op 2 januari van het jaar 40 aan Jacobus op de oever van de rivier de Ebro in Caesaraugusta, terwijl hij in Spanje het Evangelie predikte. Zij zou zijn verschenen op een pilaar, Nuestra Señora del Pilar, en die pilaar is bewaard gebleven en vereerd in de huidige Basiliek van Onze-Lieve-Vrouw van de Pilaar, in Zaragoza, Spanje. Na die verschijning keerde de heilige Jacobus terug naar Judea, waar hij in het jaar 44 door koning Herodes Agrippa I werd onthoofd.
De vertaling van zijn relikwieën van Judea naar Galicië in het noordwesten van Iberië werd, in de legende, verwezenlijkt door een reeks wonderbaarlijke gebeurtenissen: in Jeruzalem onthoofd met een zwaard door Herodes Agrippa zelf, zijn lichaam werd door engelen opgenomen en voer in een roerloze, onbeheerde boot naar Iria Flavia in Spanje, waar een massieve rots zich rond zijn relikwieën sloot, die later naar Compostela werden overgebracht. De 12de-eeuwse Historia Compostellana geeft een samenvatting van de legende van de heilige Jacobus zoals die in Compostela werd geloofd. Twee ideeën staan centraal: ten eerste dat de heilige Jacobus het evangelie in Spanje en in het Heilige Land predikte; ten tweede dat zijn discipelen na zijn martelaarschap door de handen van Herodes Agrippa I zijn lichaam over zee naar Spanje droegen, waar ze aankwamen in Padrón aan de kust van Galicië, en het landinwaarts meenamen voor de begrafenis in Santiago de Compostela.
De authenticiteit van de heilige relikwieën van Compostela werd bevestigd in de Stier van Paus Leo XIII, "Omnipotens Deus", van 1 november 1884.
De traditie in Compostela plaatste de ontdekking van de relikwieën van de heilige in de tijd van koning Alfonso II (791-842) en van bisschop Theodemir van Iria. Deze tradities vormden de basis voor de pelgrimsroute die in de 9e eeuw begon te ontstaan en het heiligdom gewijd aan Jakobus in Santiago de Compostela, in Galicië in Spanje, werd het beroemdste bedevaartsoord in de christelijke wereld. De Sint-Jacobsweg is een boom van routes die door West-Europa lopen en via Noord-Spanje bij Santiago aankomen. Uiteindelijk werd Jacobus de patroonheilige van Spanje.
De naam "James" in het Engels komt van "Iacobus" (Jacob) in het Latijn. In Oost-Spanje werd Jacobus "Jacome" of "Jaime"; in Catalonië werd het Jaume, in West-Spanje werd het "Iago", en Portugal en Galicië was het Tiago. "De heilige Jakobus ("Sanctus Jacobus") werd "Sant' Iago", wat werd afgekort tot Santiago. Jacobus' embleem was de schelp (of "cockle shell"), en pelgrims naar zijn heiligdom droegen vaak dat symbool op hun hoeden of kleren.