Апостолу Иакову выпала особая деятельность: он не путешествовал с проповедью по разным странам, как другие апостолы, а учил и священнодействовал в Иерусалиме, имеющем важнейшее значение для христианского мира. Как глава Иерусалимской Церкви в 51 году он председательствовал на Апостольском Соборе в Иерусалиме. Голос его был решающим, и его предложение стало резолюцией Апостольского Собора (Деян.15).

Апостола Иакова вёл подвижническую жизнь. Он был строгий девственник, не пил спиртных напитков, воздерживался от мяса, носил только льняную одежду. Имел обыкновение уединяться в храме и коленопреклонно молился о своём народе. Он так часто простирался на землю в молитве, что кожа на коленях огрубела.

Апостол Иаков нёс своё служение среди самых ярых врагов христианства. Но он был так благоразумен и справедлив, что его уважали не только христиане, но и иудеи, и называли опорой народа и праведником. Пребывая в должности Иерусалимского епископа около 30 лет, он распространил и утвердил Святую Веру в Иерусалиме и во всей Палестине.

Многие из евреев обращались к Церкви по одному доверию к слову праведника. Видя такое влияние, иудейские начальники стали опасаться, как бы весь народ не обратился ко Христу, и решили склонить Иакова к отречению от Христа или умертвить. При большом стечении народа апостола ввели на портик храма и пренебрежительно спросили: «Скажи нам о Распятом». Когда святой заговорил об Иисусе Христе, первосвященники и книжники объявили, что он в заблуждении, и сбросили его на землю.

Иаков поднялся на колени и сказал: «Господи, прости их! Они не ведают, что творят». «Побьём его камнями!» – закричали его враги. Священник из племени Рихава начал отговаривать их. Но в это время один изувер, по ремеслу суконщик, ударил апостола вальком по голове и умертвил его. Вместе с ним умертвили много христиан. Иудейский историк Иосиф Флавий, перечисляя причины падения Иерусалима, говорит, что Господь наказал евреев и за убиение праведного Иакова.