Иоанн родился около 1690 года в Малороссии. Был рекрутирован в петровскую армию и в годы Русско-турецкой войны (1710-1711) попал в плен, был продан в рабство османскому офицеру, начальнику кавалерии. Тот вывез Иоанна в свое родное селение Прокопи (турецкое название Ургюп) в Малой Азии.
Хозяин попытался обратить Иоанна в ислам, это облегчило бы его жизнь в плену, но тот отказался, ответив: «Вы пленили только мое тело, но не мою душу, душа моя свободна, я не могу поклоняться Корану и Магомету, я верую в Истинного Бога».
В плену жизнь Иоанна была суровой. Спал он в конюшне, рядом с животными, за которыми ему было поручено ухаживать, одевался бедно, ходил босым, и каждый день свой проводил в посте и молитве, а по ночам тайком посещал церковь святого Георгия, где читал молитвы и еженедельно причащался.
Все невзгоды принимал Иоанн смиренно, а работу в конюшне выполнял с любовью и усердием, за что подвергался осмеянию других прислужников. Но не держал на них зла Иоанн, напротив, в беде старался помогать своим насмешникам.
За свои трудолюбие, искренность и доброту Иоанн со временем заслужил всеобщие доверие и любовь. Хозяин, желая вознаградить Иоанна, даже предложил ему жить одному в просторном помещении, но тот отказался, ответив, что если суждено ему жить в рабстве вдали от родины, то такова воля Всевышнего, и так нужно для его спасения. Иоанн останется жить в конюшне, в посте и молитве, присматривая за животными, до самой своей кончины 27 мая 1730 года.

Иоанн тяжело заболел, и, чувствуя приближение смерти, послал за священником, дабы причаститься, но тот побоялся войти в дом к мусульманину и передал Иоанну Святые дары, спрятанные в яблоке. Причастившись, праведник скончался.
Турок, хозяин Иоанна, передал тело священникам для захоронения по православному обряду. Иоанн был похоронен на христианском кладбище. На место его погребения приходили многие, независимо от вероисповедания. На могиле его начали происходить чудеса.
Через три года после погребения, одному местному священнику явился сам Иоанн и сообщил, что тело его осталось нетленным. Одновременно с этим знамением на его могиле появился огненный столп. Тогда местные христиане решили вскрыть захоронение и увидели, что мощи действительно нетленны и благоухают. Такими они остаются и в наши дни.
Мощи святого Иоанна Русского были торжественно перенесены в тот самый храм, где святой при жизни молился. Множество чудес исцеления произошло от святыни.
Когда в 1832 году войска египетского султана, проходя через Прокопи, разграбили селение, солдаты решили сжечь мощи святого Иоанна. Когда костер уже пылал, они заметили, что мощи чудом перенеслись обратно в храм. Их вновь вынесли и положили в огонь, тогда нечестивым воинам явился в пламени костра сам святой и пригрозил словами и жестом руки. Испугавшись, они разбежались, бросив и мощи, и все награбленное. На следующий день местные христиане обнаружили мощи посреди пепла и золы, огонь не тронул святыни, мощи святого Иоанна оставались нетленными и лишь потемнели от дыма костра.

После окончания греко-турецкой войны произошел обмен населением между Грецией и Турцией. Греки из Прокопи, забрав мощи святого, переселятся на остров Эвбея, в поселок Ахмед-Ага, который переименуют в Нео-Прокопи. Здесь в 1930 году начнут строительство храма в честь святого Иоанна Русского, которое, усилиями всего православного мира, будет закончено в 1951 году. С тех пор и до наших дней мощи святого пребывают в храме на острове Эвбея. Церковь Иоанна Русского – один из самых значительных памятников греко-российских связей на территории Греции.
Частица мощей святого Иоанна Русского находится также в Свято-Пантелеимоновом русском монастыре на горе Афон.
Не перечесть чудес святого Иоанна, многие из них широко известны. По молитве святому безнадежные больные выздоравливают, бесплодные женщины зачинают, корабли спасаются в штормы.
Память святого Иоанна Русского празднуется в Греции 27 мая, Русской церковью – 9 июня.