После переезда советского правительства в 1918 году из Петрограда в Москву в зданиях на улице Ильинка обосновался Центральный комитет российской компартии и его аппарат. Именно здесь, в структурных подразделениях ЦК, начали создаваться текущие делопроизводственные партийные архивы, ставшие непосредственными историческими предшественниками будущего РГАНИ. Даже после того, как в 1929 году было принято решение об образовании «единого партийного архива», в который должны были передаваться документы, утратившие свое значение для текущей работы, многие документы высших органов партии признавались секретными и оставались в зданиях ЦК. Эти документы не были сконцентрированы в одном месте, и практика их хранения в структурных подразделениях ЦК сохранялась практически до конца его деятельности.
1991 год резко изменил судьбу архивных документов ЦК КПСС. Указом Президента РСФСР от 24 августа 1991 г. архивы КПСС были национализированы. 12 октября того же года Постановлением Правительства РСФСР на базе архивных структурных подразделений ЦК КПСС был образован Центр хранения современной документации (ЦХСД). В ноябре 1991 года на работу во вновь образованный государственный архив были приняты первые сотрудники, а в начале 1992 года состоялись презентация архива для средств массовой информации и открытие его читального зала.
В марте 1999 года в соответствии с Постановлением Правительства Российской Федерации «О федеральных государственных архивах» ЦХСД был переименован в Российский государственный архив новейшей истории (РГАНИ), а распоряжением Правительства Российской Федерации в декабре 2011 года на базе РГАНИ создано федеральное казенное учреждение «Российский государственный архив новейшей истории» (РГАНИ).
При передаче документов ЦК КПСС в состав Архивного фонда России выяснилось, что принципы их фондирования, хранения, учета и описания отличаются от принятых в государственном архивном деле. В архивных подразделениях ЦК КПСС отсутствовали такие виды работ как научная публикация документов, выставочная деятельность, использование документов через читальный зал и т.п. Это и многое другое предопределило необходимость поэтапного становления и организации работы РГАНИ с целью его превращения из ведомственного, закрытого типа архивохранилища в один из ведущих архивов России.
В 2016 году в истории архива начался новый этап. В рамках выполнения поручения Президента Российской Федерации от 17 августа 2010 года № Пр-2387 о перемещении из комплекса зданий на Старой площади организаций, функции которых непосредственно не связаны с обеспечением деятельности Президента Российской Федерации, РГАНИ осуществил перемещение фондов и структурных подразделений в новое здание по адресу: Софийская набережная, дом 34, стр. 1. В кратчайшие сроки, благодаря сплоченной работе коллектива архива, весь документальный массив и прилагающийся к нему научно-справочный аппарат был перевезён в новое здание. В 2017 году полностью завершился процесс переезда. В декабре 2018 года читальный зал РГАНИ вновь открыл свои двери для исследователей.
В 2021 году коллективу архива за большой вклад в развитие архивного дела была объявлена благодарность Президента Российской Федерации.