پس از کشته شدن علی توسط ابن ملجم طبق وصیت وی، او بهطور ناشناس در منطقهای نزدیک به شهر کوفه دفن شد. چنین روایت شده که بیش از صد سال بعد، خلیفه عباسی، هارون الرشید، به شکار گوزن در خارج کوفه رفت و گوزن به محلی پناه برد که در آن محل سگهای شکاری او را دنبال نکردند. در پرس و جو که راز این مکان چیست، به هارون الرشید گفته شد که آن محل دفن علی ابن ابیطالب است. هارون الرشید بعد از اینکه این امر توسط جعفر صادق تأیید شد، دستور داد که آرامگاهی در همان محل ساخته شود و در زمان کوتاهی شهر نجف در اطراف آرامگاه رشد کرد. مکان دیگری که ادّعا میشود آرامگاه علی است، شهر مزارشریف در افغانستان میباشد.