وی در آنجا از محضر استادانی چون حضرات آیات عبدالکریم حائری یزدی، سید محمد حجت کوه کمره ای، سید صدرالدین صدر، سید محمد تقی خوانساری و امام خمینی(ره) بهره مند گردید و به اجتهاد رسید. این عالم ربانی در سال ۱۳۳۵ حسبالامر آیت اللَّه بروجردی به کرمانشاه مهاجرت کرد و در حوزه جدیدالتأسیس آن به تدریس معارف اسلامی پرداخت. آیت اللَّه اشرفی پس از قیام مردمی ۱۵ خرداد ۱۳۴۲ و به تبعیت از امام خمینی(ره)، مبارزات خود را در منطقه غرب کشور آغاز کرد و با نشر اعلامیه و نوار سخنرانی، زمینه گسترش قیام را فراهم آورد. این عالم مجاهد در هدایت مردم و روشنگری علیه رژیم طاغوت نقش مهمی ایفا کرد و رهبری نهضت را در منطقه غرب ایران برعهده گرفت. وی پس از پیروزی انقلاب به نمایندگی امام(ره) و امامت جمعه کرمانشاه منصوب شد و به امور شرعی، اجتماعی و فرهنگی مردم همت گماشت. ایشان همچنین با آغاز جنگ تحمیلی، علی رغم کهولت سن، مسافت طولانی و راههای صعب العبور را به عشق دیدار دلاورمردان جبهه توحید می پیمود و حضور ایشان، سبب دلگرمی رزمندگان می گردید. آیت اللَّه اشرفی در طول دوران نمایندگی حضرت امام در استان کرمانشاه، دو بار مورد سوء قصد قرار گرفت و سرانجام در روز جمعه ۲۳ مهر ۱۳۶۱ شمسی پس از هشتاد سال جهاد، تقوا، پرهیزگاری و خدمت، در محراب عبادت نماز جمعه به دست منافقین کوردل به شهادت رسید. پیکر مطهر این عالم مجاهد پس از تشییع باشکوه در کرمانشاه و خمینی شهر، در گلزار شهدای تخت فولاد اصفهان به خاک سپرده شد.