Музей был создан 29 ноября 1918 года. Для "обозрения" музей был открыт 15 июня 1919 года. Это была коллекционная выставка фарфора, картин, скульптур и других предметов, переданных из имений и городской управы, в качестве музейного оборудования были использованы витрины бывшего галантерейного магазина "Славянский базар". Музей постоянно устраивал выставки историко-краеведческого и санитарно-просветительного характера. В 1922 году фонды насчитывали около 2,5 тыс. единиц хранения.
В 1928 году Музей родного края, возникший как музей Саранского уезда, меняет ой статус. Он становится музеем округа, связи с преобразованием Мордовского округа в Мордовскую автономную область стал называться Мордовским областным краеведческим музеем.
В 1930-е годы значительно возросло количество экспонатов, хранящихся в музее. Фонды насчитывали более пяти тысяч единиц хранения. В это время в музей поступили уникальная этнографическая коллекция мордовского ученого-просветителя М. Е. Евсевьева и личная библиотека профессора Саратовского университета А. А. Гераклитова.
В 1934 году Мордовская автономная область была преобразована в Мордовскую Автономную Советскую Социалистическую Республику, и музей стал именоваться Центральным краеведческим музеем Народного комиссариата просвещения МАССР.
В 1935 году Центральный краеведческий музей переезжает в новое здание - в бывшую Трехсвятскую церковь, где и размещался до 2017 года.
Указом Президиума Верховного Совета МАССР от 26 марта 1946 года музей стал называться Центральным краеведческим музеем Министерства просвещения МАССР. А в 1953 году был переименован в Республиканский краеведческий музей Министерства культуры МАССР.
В 1950 - 60-е годы музей неоднократно закрывался на капитальный ремонт и перестройку экспозиции. В 1956 году впервые было установлено музейное оборудование и осуществлено художественное оформление. 9 июня 1957 года состоялось открытие "обновленного" музея.
Появились новые интересные материалы электрификации и газификации, о промышленных и сельскохозяйственных предприятиях Мордовии, о работе тыла во время Великой Отечественной войны, о Героях Советского Союза М. П. Девятаеве, А. Г. Котове. В музей поступили большие архивы народного артиста МАССР и заслуженного артиста РСФСР В. А. Зорина, мордовской народной сказительницы Е. П. Кривошеевой. В 1962 году в Республиканском краеведческом музее создается отдел истории советского общества. Сотрудниками отдела проделана большая собирательская работа для создания экспозиции, которая открылась в 1964 году. В это время музей окончательно приобрел структуру краеведческих музеев, которая в целом сохранилась до настоящего времени.
Особо значимыми в истории музея были годы работы над экспозицией. Новое время требовало новых решений. С 1981 по 1985 год строилась экспозиция музея, которая просуществовала 32 года – вплоть до переезда музея в новое здание, специально построенный музейно-архивный комплекс.
Республиканский краеведческий музей был первым, и долгие десятилетия единственным, музейным учреждением в республике, и появление других музеев, так или иначе, связано с ним. Так, в 1960 году, когда открылась Мордовская республиканская картинная галерея им. Ф. В. Сычкова, для нее из фондов краеведческого музея было передано большое количество картин русской живописи, произведений мордовских художников и работ скульптора С. Д. Эрьзи. В настоящее время это Мордовский республиканский музей изобразительных искусств им. С.Д. Эрьзи.
В 1980-е годы при организации в Саранске муниципального Мемориального музея военного и трудового подвига 1941- 1945 гг. копии из фондов МРОКМ стали основой для формирования коллекций нового музея.
Сотрудниками краеведческого музея создана целая сеть филиалов и народных музеев в республике. В настоящее время у музея девять филиалов в районах:
Ардатовский краеведческий музей
Дубенский краеведческий музей
Инсарский историко-краеведческий музей
Ковылкинский краеведческий музей
Рузаевский краеведческий музей
Чамзинский краеведческий музей
Учитывая большую научно-методическую работу, которую проводит музей в республике, были изменены его официальное название и статус. С мая 1995 года он именуется как Мордовский республиканский объединенный краеведческий музей (МРОКМ).
В 2001 году Мордовский республиканский объединенный краеведческий музей включен в число особо ценных объектов культурного наследия Республики Мордовия.
8 августа 2005 г. постановлением Правительства РМ музею присвоено имя основоположника научного краеведения Мордовии – Ивана Дмитриевича Воронина.
Ныне МРОКМ им. И.Д. Воронина – крупнейшее хранилище памятников природы, истории, материальной и духовной культуры мордовского народа, один из ведущих научно-методических центров республики с высококвалифицированными музейными специалистами.
