1961 yılında Ayvalık'ın Altınova Mahallesi’nde dünyaya geldi. Öğrenimine Ayvalık İlçesinde yer alan Sakarya İlköğretim Okulu'nda başladı ve Ayvalık Lisesi'nde eğitimini tamamladı.
1981-1983 yılları arasında vatani görevinin ardından, çeşitli dernek ve vakıflarda yöneticilik görevlerinde bulundu. Ayvalıkgücü Spor Kulübü'nde bir dönem yöneticilik yaptı. Rahmi Gençer, 2005-2014 yılları arasında Ayvalık Ticaret Odası Başkanlığı ve Türkiye Odalar ve Borsalar Birliği Konsey Başkan Yardımcılığı görevlerini yürüttü. 30 Mart 2014 yılındaki yerel seçimlerde Ayvalık Belediye Başkanlığı'na seçildi.
Rahmi Gençer, 31 Mart 2019 Yerel Seçimlerinde CHP'den Balıkesir İli, Ayvalık İlçesi Belediye Başkan adayı oldu.
