चौबे बिहार के बक्सर से लोकसभा सदस्य हैं। वे 1970 के दशक में जेपी आंदोलन में सक्रिय रूप से शामिल थे। उन्हें आपातकाल के दौरान मीसा के तहत हिरासत में लिया गया था। ‘घर-घर में हो शौचालय का निर्माण, तभी होगा लाडली बिटिया का कन्यादान’ का नारा देने का श्रेय भी चौबे को जाता है। साथ ही उन्होंने महादलित परिवारों के लिए 11,000 शौचालय बनाने में भी मदद की।
मई 2014 के आम चुनाव में 16वीं लोकसभा के लिए वे चुने गए। वे ऊर्जा पर संसद की प्राक्कलन एवं स्थायी समिति के सदस्य हैं। वे केंद्रीय रेशम बोर्ड के भी सदस्य हैं। भागलपुर के दरियापुर के रहने वाले चौबे बिहार विधानसभा के लिए लगातार 5 बार चुने गए। वे 1995-2014 तक बिहार विधानसभा के सदस्य रहे। वे बिहार सरकार में 8 साल तक स्वास्थ्य, शहरी विकास और जन स्वास्थ्य अभियांत्रिकी सहित अहम विभागों के पदभार संभाल चुके हैं।
उन्होंने पटना विश्वविद्यालय छात्रसंघ के अध्यक्ष के तौर पर अपने राजनीतिक करियर की शुरुआत की थी। वे 1974 से 1987 तक अखिल भारतीय विद्यार्थी परिषद की राष्ट्रीय कार्यकारिणी के सदस्य रहे। चौबे ने 1967-68 में बिहार सरकार के खिलाफ छात्र आंदोलन में भाग लिया था। उन्होंने केरल में 1972-73 में अखिल भारत छात्र नेता सम्मेलन में भी भाग लिया था।