Asıl adı Osman olup Bağdat’ta doğdu. Bağdâdî nisbesi kendisine “Rûhî” mahlasıyla şiir yazan on kadar şairden ayırmak için sonradan verilmiştir. Yakın arkadaşı, tezkire sahibi Ahdî’nin verdiği bilgiye göre babası, Ayas Paşa maiyetinde Kanûnî Sultan Süleyman’ın ordularıyla Bağdat’a giderek orada yerleşen Rumelili bir sipahi idi. Buna göre Mecmûa-i Terâcim’de onun 941’de (1534) doğduğunun kaydedilmesi  şüphe ile karşılanmalıdır. Şiirlerinden, bir dönem için baba mesleğini seçip sipahilik yaptığı ve askerlik mesleğinde ilerleyerek kendisine bir kasabanın dirliğinin verildiği anlaşılmaktadır (Tanyaş, s. 14). Bağdat valisi olan paşalara sunduğu kasideleri bu döneme ait olmalıdır. Serâzat bir ruha sahip olan Rûhî askerî görevlerden ayrılınca diyar diyar dolaşarak meşrebine uygun ortamlar aradı, ancak hiçbir yerde yerleşemedi. Bu yıllarda şairlik yeteneği farklı tecrübe ve duyuşlarla gelişti, şiirinin konuları arasında sosyal hayat ve eleştiri önemli bir yere sahip oldu, tasavvuf alanında da ilerledi. Esrar Dede, Rûhî’nin Mevlevî olduğunu, seyahati sevdiğini, İstanbul’a giderek bir müddet Galata Mevlevîhânesi’nde kaldığını, daha sonra Konya’da Mevlânâ Türbesi’ni ziyaret edip Hicaz’a ve Şam’a gittiğini yazmaktadır. Onun bu seyahatlerinde Anadolu şehirleriyle İstanbul önemli bir yer tutar. Bunun sebebi babasının buralarda bulunmuş olması yanında Osmanlı ülkesinde şairlerin gördüğü itibar olmalıdır. Ancak gezdiği yerlerde umduğunu bulamadığı şiirlerinden anlaşılmaktadır. Kendi ifadesine göre devlet ve sanat büyükleriyle tanışmak, onlara hizmet etmek, takdirlerini kazanmak için Necef, Kerbelâ, Dımaşk ve Erzurum’u dolaştı. Şiirlerinde, dolaştığı yerlerde karşılaştığı riyakâr insanlardan, rüşvet yolunu tutan kadılardan, mürüvvetsiz beylerden ve kendi talihinden sık sık şikâyette bulundu. 1602-1604 yılları arasında Şam kadısı olan Azmîzâde Mustafa Hâletî’nin himayesini kazandı. Rûhî kalenderane bir hayatı çeşitli zorluklar içinde geçirerek Şam’da vefat etti. Ölümüne Buhûrîzâde Mustafa Itrî Efendi, “Gitti Rûhî adem iklîmine âh” mısraını (1014) tarih düşürmüştür.
     Vahdet-i vücûd anlayışını benimseyen Rûhî tasavvufu şiirine bir malzeme olarak kullanan kalender, hoş edalı, derviş gönüllü bir şairdir. Divanındaki ifadelerine dayanarak onu Mevlevî, Bektaşî ve Hurûfî sayanlar olmuşsa da bir tarikata intisap ettiği bilinmemektedir. Rûhî’ye göre asıl hüner hayatta “rengîn-edâ” sahibi olabilmektir. Bilhassa şiir ve şair hakkında gazellerinde sık sık tanımlamalar yaparken nazımda sözün kudretini ön planda tutar. Ona göre kelimeler cansız birer varlık, sevgiyi anlatmak için en güçlü vasıta olan şiir bir sihir, şair ise bunlara can veren bir sihirbazdır. Nüktedan, gerçekten sanatkâr ve kudretli bir şair olan Rûhî bu özelliklerine mukabil şiirinde asla büyüklük taslamamıştır. Onun mısralarında samimilik, sadelik ve lirizm hâkimdir. Okuyucuya pürüzsüz, konuşma diline yakın bir ifadeyle meramını kolayca anlatmış, özellikle toplumun aksayan yönlerini çok iyi teşhis etmiş, çağının kusurlarını, insanların mal mülk hırsını iğneleyici bir üslûpla ortaya koymuştur. Arapça ve Farsça’yı şiir yazabilecek derecede bilmesine rağmen dil ve anlatımda sadeliği tercih edip külfetli sözlerden kaçınmıştır. İçtenlik ve lirizmin hâkim olduğu gazellerinde rindane bir üslûp vardır. Çoğunlukla aruz vezninin düz kalıplarını tercih eder ve bunları hatasız kullanır. Şiirlerinde en çok oğlu Fazlî ile de dost olduğu bilinen hemşehrisi Fuzûlî’nin etkisi ve aynı coğrafyada kendisiyle benzer bir hayatı yaşayan Fuzûlî’ye bağlılığı hissedilir. Öte yandan Hurûfî şairi Nesîmî’yi hem meşrep hem söyleyiş yönünden önemsediği görülür.
     Rûhî’nin günümüze ulaşan eseri Külliyyât-ı Eş‘âr-ı Rûhî-i Bağdâdî adıyla İstanbul’da basılan divanıdır. Ancak burada kaside, tarih ve gazelleri eksiktir. Divanın ilmî neşrini gerçekleştiren Coşkun Ak çeşitli nüshalar üzerinde yaptığı inceleme sonunda şaire ait ikisi manzum mektup olmak üzere kırk kaside, değişik kişiler için yazılmış altı mersiye, bir terkibibend, bir terciibend, üç muaşşer, iki müsemmen, yedi müseddes, bir muhammes, doksan dört tarih, iki murabba, üç değişik beyitli manzume, bir muamma, sekiz gazelin tahmîsi, 1115 gazel, yirmi sekiz rubâî, yirmi altı kıta ve padişahı öven dokuz beyitlik bir manzume tesbit etmiştir. Rûhî’nin ölümsüz eseri hiç şüphesiz terkibibendidir. Hayatının sonlarına doğru yazdığı anlaşılan, Hâkim Mehmed Efendi, Cevrî, Sâmî, Fehîm, Sünbülzâde Vehbî, Abdî, Râşid Efendi, Şeyh Galib, Leylâ Hanım, Ziyâ Paşa, Kâzım Paşa ve Muallim Nâci gibi pek çok şairin nazîre yazdığı ve bazılarıyla birlikte basıldığı (İstanbul 1304) terkibibend sahasında eşsiz kabul edilmektedir. Rûhî’nin tenkitçi ve alaycı yönünü gözler önüne seren on yedi bentlik bu eserde şair gerçek dervişlere karşılık riyakâr, kalpleri paslı, imanı zayıf kişilerden de bahsetmiş, cömert geçinen, ellerinden bir dirhemi alınınca kıyametler koparanlara çatmış, daima mihnet ve meşakkat içinde bulunan rindlerin hali için Allah’a serzenişte bulunmuştur. Ayrıca felekten şikâyet ederek dünyanın fâniliğini anlatmış, paranın gücünü, insanların paraya esir oluşunu dile getirip mürüvvetsiz kişilerden ihsan bekleyenlere, hırs ve tamah sahibi kişilere, şan ve şöhret düşkünlerine, âlim geçinen cahillere, sahte mürşidlere çatarak dünyada değer verilen boş şeylere lânet yağdırmıştır. Terkibibend, onun bizzat gözlem ve tecrübelerini aktarmak bakımından önemli olduğu gibi XVI. yüzyıl toplumunun aksayan yönlerini göstermesi bakımından da değerli bir belge niteliğindedir.