Sa poésie a influencé la littérature persane, mais aussi turque, turque ottomane, azerbaïdjanaise, pendjabi, hindi et ourdou, ainsi que la littérature de certaines autres langues turques, iraniennes et indo-aryennes, notamment le chagatai, le pachto et le bengali.
En raison de querelles entre différentes dynasties au Khorāṣān, de l’opposition aux Khwarizmid Shahs qui étaient considérés comme sournois par son père, Bahā ud-Dīn Wālad ou de la peur du cataclysme mongol imminent, son père a décidé de migrer vers l’ouest, pour finalement s’installer dans la ville anatolienne de Konya, où il a vécu la majeure partie de sa vie, a composé l’une des gloires suprêmes de la littérature persane et a profondément affecté la culture de la région.
A la mort de son père, Rumi, 25 ans, hérite de son poste de directeur d’une école islamique. L’un des étudiants de Baha’ ud-Din, Sayyed Burhan ud-Din Muhaqqiq Termazi, a continué à former Rumi à la charia ainsi qu’à la tariqa, en particulier celle du père de Rumi. Pendant neuf ans, Rumi a pratiqué le soufisme en tant que disciple de Burhan ud-Din jusqu’à la mort de ce dernier en 1240 ou 1241. La vie publique de Rumi a alors commencé : il est devenu un juriste islamique, émettant des fatwas et prononçant des sermons dans les mosquées de Konya. Il a également servi comme Molvi (enseignant islamique) et a enseigné à ses adhérents dans la madrassa. Au cours de cette période, Rumi s’est également rendu à Damas et y aurait passé quatre ans.
C’est sa rencontre avec le derviche Shams-e Tabrizi le 15 novembre 1244 qui change complètement sa vie. D’enseignant et juriste accompli, Rumi s’est transformé en ascète.
Dans la nuit du 5 décembre 1248, alors que Rumi et Shams parlaient, Shams fut appelé par la porte de derrière. Il est sorti pour ne plus jamais être revu. L’amour de Rumi pour, et son deuil à la mort de, Shams ont trouvé leur expression dans une effusion de poèmes lyriques, Divan-e Shams-e Tabrizi. Lui-même partit à la recherche de Shams et retourna à Damas.
Rumi trouva un autre compagnon à Salaḥ ud-Din-e Zarkub, un orfèvre. Après la mort de Salah ud-Din, le scribe de Rumi et étudiant préféré, Hussam-e Chalabi, a assumé le rôle de compagnon de Rumi. Hussam a imploré Rumi d’écrire plus. Rumi a passé les 12 années suivantes de sa vie en Anatolie à dicter les six volumes de ce chef-d’œuvre, le Masnavi, à Hussam.
En décembre 1273, Rumi tomba malade et mourut le 17 décembre à Konya.