Холі Гуруджі народився 11 вересня 1923 року і отримав ініціацію в саньясу в 1942 році. Він жив поруч з Махапрабхуджі більше 20 років, віддано записуючи бхаджани (духовні пісні) і сатсанги (лекції) Шрі Махапрабуджі протягом всього часу.
Холі Гуруджі досяг стану реалізації допомогою чистої відданості і служіння своєму Вчителеві. Його медитація і молитви стали духовною допомогою всьому світу. «Увійдіть до Царства Божого через браму жертовності», - заохочував він усіх шукачів.
Парамханс Свамі Мадхаванандаджі багато подорожував по всій Індії й світу, невпинно поширюючи послання Сат Санатана Дхарми і йоги згідно навчань свого вчителя Бхагавана Шрі Діп Нараян Махапрабхуджі. Він закликав до всесвітнього братства і служінню людству без упереджень і дискримінації за національною чи релігійною ознакою або через положення в суспільстві. Він проповідував любов, розуміння і толерантність до всіх, що коротко виражено в його посланні «Одне у всьому, і все - в одному».
Як майстерний співак, він часто передавав ці навчання за допомогою бхаджанів. Холі Гуруджі написав сотні бхаджанів і книги на хінді та гуджараті.
У книзі «Ліла Амрит» він записав історії чудесних життів Шрі Девпуріджі і Шрі Махапрабхуджі. Він заснував кілька ашрамів в Раджастхані та Гуджараті.
Холі Гуруджі увійшов до Махасамадхі 31 жовтня 2003 року.