پس از انتخاب ابوالحسن بني‏ صدر به رياست جمهوري، به دليل آن كه مجلس شوراي اسلامي، نامزدهاي معرفي شده از طرف او براي احراز پست نخست‏ وزيري را واجد صلاحيت‏هاي اسلامي و انقلابي نمي‏ دانست كار اختلاف مجلس با بني‏ صدر بالا گرفت.

در نهایت قرار براین شد که از میان هیئت پنج نفره‏ ای از نمایندگان مجلس، فردی به عنوان نخست وزیر معرفی گردد. از این رو پس از بررسی ‏های طولانی و پس از حذف دو نفر از آنان به دلیل حزبی بودن،نظر هیئت سه نفره به اتفاق آرا بر این قرار گرفت که محمدعلی رجایی شایستگی تصدی مسؤولیت خطیر نخست وزیری را دارد. در جریان رای اعتماد مجلس که ۱۵۳ رای موافق اخذ شد، شهید رجایی با سه جمله خود را اینگونه معرفی کرد: من مقلد امام، فرزند مجلس و برادر رییس جمهورم. بنی‏ صدر ابتدا در برابر این انتخاب بنای مخالفت گذاشت ولی وقتی احساس کرد در مقابل مجلس کاری از پیش نخواهد بُرد به ناچار با این پیشنهاد موافقت نمود. اما در هر فرصت ممکن از تضعیف شخصیت شهید رجایی در افکار عمومی با به کارگیری تعابیر و القاب زشت و ناپسند خودداری نمی‏ کرد. در برابر این جسارت‏ها و توهین‏ های بنی‏ صدر به عنوان رییس جمهور، شهید رجایی با توجه به حساسیت جو موجود، تمامی این تلخی‏ ها و اهانت‏ها را در کمال صبر و بردباری و متانت تحمل و در مواقع لزوم با ارایه استدلال‏های محکم و منطقی به ایرادات مکرر بنی صدر پاسخ می‏ داد. سرانجام کارشکنی‏ های بنی‏ صدر و اختلاف‏ آفرینی او کار را به جایی رسانید که بنا به توصیه حضرت امام، مجلس شورای اسلامی مسأله عدم کفایت سیاسی او را با توجه به اخباری که دالّ بر مسلّح کردن منافقین توسط او بود به بحث گذاشت و با رای مثبت به آن، بنی صدر از ریاست جمهوری عزل گردید.