مورخان گزارش داده‏اند که پس از شهادت امام کاظم(ع)، مردم مدينه به لحاظ شخصيتي که احمد داشت، به در خانه او رفته و با وي بيعت کردند و او پيشاپيش جمعيت به مسجد پيغمبر رفت و خطبه‏اي خواند و به مردم گفت: "اي کساني که با من بيعت نموده‏ايد! بدانيد که من خودم با برادرم علي (علي بن موسي الرضا(ع)) بيعت کرده‏ام و او واجب الاطاعة است. بر من و شما است که از او اطاعت کنيم". سپس از منبر پايين آمده و به اتفاق همه مردم به در خانه برادرش رفته و با حضرت بيعت کردند.

درباره آمدن احمد بن موسي(ع) به ايران و انگيزه او گزارش‏هاي گوناگون وجود دارد و اين قسمت از زندگي وي فاقد شفافيت است. برخي عقيده دارند. احمد در بغداد ساکن بود و آن گاه که خبر شهادت و در گذشت ناگهاني امام رضا(ع) را شنيد، شديداً ناراحت شد و گريه نمود. آن گاه با همراهاني بسيار (حدود سه هزار نفر) به خون خواهي و انتقام از مأمون خروج کرد و روي به ايران نهاد. بر پايه اين گزارش او در قم و ري با سپاهيان مأمون جنگيد و سرانجام به خراسان آمد و در جايي نزديک اسفراين طي جنگ با لشکريان مأمون کشته شد.

بعضي ديگر باور دارند که احمد پيش از درگذشت امام رضا(ع) و مقارن با ولايت عهدي او همراه جماعتي قصد ايران کرده تا به برادرش ملحق شود. بر اساس اين گزارش حرکت او به طرف فارس بود. اين گزارش نيز به صورت‏هاي گوناگون بيان شده است. برخي آورده‏اند که عامل مأمون در نزديکي شيراز با او جنگيد. هنگامي که ياران احمد شنيدند امام رضا(ع) وفات يافته است، متفرق شدند و به سوي شيراز رفتند.
مورّخان در خصوص شهادت و يا وفات و محل دفن احمد نيز اختلاف دارند. اين اختلاف مبتني بر آن است که وي به اسفراين رفته و در آن جا به شهادت رسيده و يا در شيراز وفات يافته و يا به شهادت رسيده است. برخي عقيده دارند وي در اسفراين به شهادت رسيد و در همان جا دفن شد و زيارتگاه او همان جا است. بر اين اساس قبر احمد در اسفراين و يا مکان‏هاي ديگر بوده و آرامگاه شيراز مربوط به احمد بن موسي نيست.(4)
برخي ديگر باورد دارند که احمد در شيراز در جنگ با عامل مأمون شهيد شد و يا اين که در شيراز مخفي شد و بعد وفات نمود و در همان جا دفن گرديد.(5) امين بعد از گزارش آناني که محل دفن احمد را اسفراين و يا مکان ديگر مي داند، مي نويسد: "... و هذا غريب مخالف للمشهور من ان مشهده شيراز...".

حقيقت امر آن است که به طور قاطع نميتوان گفت قبر وي در کجا است، ولي شواهد و قرائن ديدگاه آناني را که قايل هستند شيراز محل دفن احمد مي باشد، تأييد ميکند و مشهور همين است. محسن امين بعد از بيان عقيده آناني که محل دفن احمد بن موسي را در اسفراين و يا مکان ديگر مي دانند، مي نويسد: اين عقيده بعيد و مخالف با عقيده مشهور است که محل شهادت و قبر او شيراز مي باشد.

تاريخ وفات احمد دقيقاً معلوم نيست، ولي برخي تاريخ وفات را حدود 203 که همزمان با شهادت امام هشتم(ع) است ذکر نموده‏اند.