Около 860 года кафедра Ирии Флавии в связи с набегами пиратов была перенесена в Компостелу (ныне Сантьяго-де-Компостела). Затем туда же были перенесены и мощи апостола.

И едва ли не с первых дней, прошедших после обретения, способность апостольских мощей творить чудеса начала обрастать ореолом легенд. Одна из них, ставшая в истории Испании ярким эпизодом, гласит о высшем покровительстве, оказанном святым Иаковом королю Астурии Рамиро I в состоявшейся в 884 году битве с арабами при Клавихо. Впоследствии в честь апостола Иакова в Испании был основан военно-религиозный Орден святого Иакова Компостельского. Одной из главных задач этого ордена была охрана паломников, приходивших поклониться святому Иакову, поскольку в средние века апостол Иаков считался покровителем паломников.

Также часть мощей апостола Иакова Заведеева хранилась в церкви святого Сатурнина в Тулузе (Франция). С XI века наличие частиц мощей святого Иакова отмечается в разных церквях Франции, связанных с паломничеством в Сантьяго-де-Компостела.

Кроме того, частицы мощей апостола Иакова Заведеева хранятся в кафедральном соборе монастыря святых апостолов Иаковов Армянского Иерусалимского Патриархата, в базилике апостола Павла (Сан-Паоло фуори ле Мура), на Остийской дороге в Риме.

В настоящее время единственным в России храмом, освященным во имя этого святого, является церковь апостола Иакова Заведеева в Казенной слободе (Яковоапостольский переулок) в Москве. Деревянный храм на этом месте известен с 1620 года. В 1676 году было построено здание, которое существует и в настоящее время. В храме имеется частица мощей апостола Иакова Заведеева, переданная из Испании.

Сначала VI века изображения апостола Иакова Заведеева отмечены устойчивыми портретными чертами: это человек средних лет с черной бородой и усами.

В иконописи единоличные изображения апостола Иакова Заведеева чрезвычайно редки. К таким уникальным примерам относится икона из монастыря апостола Иоанна Богослова на Патмосе (XIII век), на которой представлена полуфигура апостола Иакова Заведеева – человека средних лет с темными короткими волосами и недлинной раздваивающейся бородой; он облачен в синий хитон и гиматий ярко-розового цвета с искусно прорисованными складками. Ладонью правой руки он касается свернутого свитка, который держит покровенной левой рукой. Взгляд апостола устремлен на молящегося. В левом верхнем углу в небесном сегменте помещена полуфигура Христа, благословляющего апостола. Появление иконы связано, вероятно, не только с интересом к апостольской теме, но и с почитанием апостола Иакова как брата святого, которому посвящен монастырь.

Образ апостола входит в иконографию большинства евангельских событий, ставших неотъемлемой частью декора православных храмов, как в монументальном убранстве, так и в иконописи: «Преображение», «Вознесение», «Благословение на проповедь», сюжеты Страстного цикла («Омовение ног», «Тайная вечеря», «Моление о чаше», «Предательство Иуды», «Уверение Фомы»), сцены апостольского служения.

Фигура апостола Иакова Заведеева входит в состав распространившихся на Руси с XVII века так называемых апостольских чинов, когда в деисусном ряду после 7 традиционных образов помещали иконы 12 апостолов. Образ Иакова Заведеева мог быть как в левой, так и в правой части ряда; одежды апостола различаются по цвету.

В XVII веке разрабатывалась иконография апостольских проповедей и страстей, основанная на текстах канонических и апокрифических деяний. На этих иконах изображены проповедь Евангелия и усекновение главы апостола Иакова. В связи с разработкой апостольской темы в искусстве XVII века сюжеты апостольских страстей и образы апостолов часто включаются в программы росписей храмов.