શિરડીમાં જયારે સાંઈ બાબા પધાર્યા ત્યારે એક મસ્જીદ ને પોતાનું રહેવાનું સ્થાન બનાવ્યું. એમણે એવું શા માટે કર્યું. શું ત્યાં રહેવા માટે બીજું કોઈ સ્થાન ન હતું અથવા એમણે જાણીજોઈને એવું કર્યું? મસ્જિદમાં રહેવાના કારણે ઘણા લોકો એને મુસલમાન માનતા હતા, પરતું તે ત્યાં રહીને રામનવમી ઉજવતા, દીપાવલી અને ધૂળેટી પણ રમાડતા હતા. તે મસ્જિદમાં દરરોજ દીવો સળગાવતા હતા. આ બધા કાર્ય કોઈ મુસલમાન મસ્જિદમાં કેવી રીતે કરી શકે છે?
હકીકત માં સાંઈ બાબા મસ્જિદમાં રહેતા પહેલા એક લીમડાના વૃક્ષની નીચે રહેતા હતા. એની પાસે એક ખંડર બની ચુકેલી મસ્જિદ હતી. આ મસ્જિદમાં કોઈ નમાજ પઢતા ન હતા. લીમડાના ઝાડ ની પાસે રહેવાના ત્રણ મહિના પછી બાબા કોઈને પણ જણાવ્યા વગર શિરડી છોડીને ચાલ્યા ગયા. લોકોએ એમને ઘણા શોધ્યા, પરતું તે ન મળ્યા. ભારતના મુખ્ય સ્થાનો નું ભ્રમણ કરવાના ૩ વર્ષ પછી સાંઈ બાબા ચંદ પાશા પાટિલ (ધૂપખેડા ના એક મુસ્લિમ જાગીરદાર) ની સાથે એની સાળીના લગ્ન માટે બળદગાડી માં બેસીને જાનૈયા બનીને આવ્યા.
જાન જ્યાં ઉભી હતી ત્યાં સામે ખંડોબા નું મંદિર હતું, જ્યાના પુજારી મ્હાલસાપતિ હતા. આ વખતે તરુણ ફકીરના વેશમાં બાબા ને જોઇને મ્હાલસાપતિ એ કહ્યું, ‘આઓ સાંઈ’. બસ ત્યારથી બાબા નું નામ ‘સાંઈ’ પડી ગયું. મ્હાલસાપતિને સાંઈ બાબા ‘ભગત’ ના નામથી બોલાવતા હતા.
બાબાએ અમુક દિવસ મંદિર માં પસાર કર્યા, પરતું એમણે જોયું કે મ્હાલસાપતિ ને સંકોચ થઇ રહ્યો છે, તો તે સમજી ગયા અને તે જાતે જ મંદિર માંથી બહાર નીકળી ગયા. પછી એમણે ખંડેર પડેલી મસ્જિદ ને સાફ-સુથરા કરીને પોતાનું રહેવાનું સ્થાન બનાવી લીધું. આ એક એવી જગ્યા હતી, જેને મસ્જિદ કહેવું ઉચિત ન હતું. એમાં કોઈ પણ પ્રકારની કોઈ મીનાર ન હતી. ન તો ત્યાં ક્યારેય નમાજ પઢવામાં આવી.
હકીકતમાં એ સમયે શિરડી ગામમાં ખુબ જ ઓછા લોકો ના ઘર હતા. કોઈ પણ વ્યક્તિ કોઈ ફકીર ને કેવી રીતે એમના ઘરમાં રાખી શકે. કોઈ મહેમાન હોય તો અમુક દિવસ માટે રાખી શકાય છે, પરતું જેને સંપૂર્ણ જીવન જ શિરડીમાં પસાર કરવાનું હોય તો એને એમની અલગ જ વ્યવસ્થા કરવી જોઈએ. એવામાં બાબા ને એક જ જગ્યા નજરમાં આવી, જે કોઈના કામ માં આવી રહી ન હતી અને તે હતી ખંડેર બની ચુકેલી મસ્જિદ. તેઓ એ ખંડેરમાં રહેવા લાગ્યા.