Будущий святитель родился в Харькове, окончил кадетский корпус и университет, однако вынужден был эмигрировать с семьей из России после революции . В Сербии он поступил в университет Белграда, на богословский факультет, поскольку всю сознательную жизнь тянулся к служению Богу. Окончил университет в 1925 году. В 1924 году был возведен в звание чтеца.В 1926 году пострижен во ангельский образ митрополитом Антонием (Храповицким). Новым, монашеским именем Михаила стало: Иоанн. Таким образом он был назван в честь раба Божьего, представителя своего рода, святителя Иоанна Тобольского.
После принятия пострига Иоанн настолько отдался желанию следовать за Христом, что, например, один из знавших его лично епископов, Николай (Велимирович), именовавшийся в народе сербским Златоустом, говорил, что если кто хочет видеть сегодняшнего святого, пусть обратится к отцу Иоанну.
Какое-то время отец Иоанн трудился в гимназии города Великая Кикинда, в должности законоучителя, затем – преподавателем в духовной семинарии в городе Битоле. Излагая учебный материал, он старался делать это доступно и ясно. Студенты относились к нему с любовью.
В 1929 году, по решению церковного начальства, отец Иоанн был возведен в сан иеромонаха.
К исполнению долга священника он относился со всей серьезностью и ответственностью. Постоянно заботился о своей пастве. Поучал их словом и примером, регулярно служил Божественную Литургию и причащался Тела и Крови Христовых, строго постился, предавался молитвенным бдениям (иногда даже и не ложился в постель, оставаясь на полу, прямо перед образами святых).
В этот период отец Иоанн написал несколько значимых (впоследствии широко известных) богословских работ (например, «Учение о Софии, Премудрости Божией», «Как Православная Церковь чтит Божию Матерь»).
Можно также особо рекомендовать к прочтению проповеди и письма святого и книгу «Апокалипсис мелкого греха», руководство православным мирянам к искоренению повседневных грехов.
В 1934 году отец Иоанн удостоился посвящения в епископа и смиренно отбыл к месту нового служения – в Шанхай.
Помимо участия в богослужениях и проповеди, организации приходской жизни, миссионерства, благотворительности, святитель занимался и тем, что лично навещал многих больных, воодушевляя их добрым пастырским словом, исповедуя и приобщая Святых Даров. Рассказывают, что в случае необходимости владыка шёл к больному в любое время дня и ночи.
В 1949 году, в связи с усилением в Китае коммунистических настроений, епископ Иоанн вынужден был отбыть на Филиппинский остров Тубабао, где пребывал в специально обустроенном лагере вместе с другими беженцами.
Проявляя заботу о пастве, владыка ездил в Вашингтон и просил о принятии беженцев. Его просьбы и, конечно же, молитвы, не остались безрезультатными. Существенная часть беженцев смогла переселиться в Америку, а другая – в Австралию.
В 1951 году владыка был назначен архиепископом Западноевропейского Экзархата, подчиненного Русской Зарубежной Церкви.
В 1962 году, с благословения руководства, перебрался на территорию США, где возглавил Сан-Францисскую епархию.
Местная христианская община пребывала там не в лучшем состоянии. Помимо общих трудностей (в том числе материального характера) нормальному функционированию кафедры не способствовали внутренние раскольнические настроения и движения.
С приездом святителя жизнь в епархии стала налаживаться. Однако не все приняли доброе начинание архиерея с восторгом. Нашлись завистники и недоброжелатели. Против владыки стали возводиться интриги, посыпались доносы церковному руководству.
Между тем, помощью Божьей эта ситуация была разрешена в пользу святителя Иоанна.
2 июля 1966 года, в период посещения, с пастырской миссией, города Сиэтла, во время келейной молитвы сердце владыки остановилось и он тихо отошёл к Небесному Царю. Утверждается, что владыка заблаговременно знал о приближении смерти.
Святой Иоанн почитается Церковью не только как выдающийся святитель, но и как чудотворец.