С первых дней существования библиотек в рамках Института Маркса-Энгельса (ИМЭ) и Института Ленина (ИЛ) громадное внимание уделялось комплектованию фондов, основное направление которого было определено в 1921 г. (ИМЭ) и 1923 г. (ИЛ).
Библиотеки, разумеется, собирали всю литературу, цитированную и упоминаемую К. Марксом, Ф. Энгельсом и В. И. Лениным. Но наряду с этим комплектовалась литература по социальной истории и всем направлениям человеческой мысли. Постоянной заботой было комплектование справочно-библиографической литературы на всех европейских языках.
Институту К. Маркса и Ф. Энгельса выделялись большие средства на закупку литературы за рубежом. Первоначальным ядром книжного фонда стали две коллекции, купленные в 1921 г., – библиотека Т. Маутнера (Вена) и К. Грюнберга (Берлин). Литература приобреталась в крупных антиквариатах Европы. Правительственным постановлением библиотека была освобождена от таможенного досмотра, сборов и пошлин, а особо ценные издания пересылались дипломатической почтой. 
Заказы на литературу определялись по антикварным каталогам двухсот фирм, в год прорабатывали около 3000 каталогов. Литература закупалась также зарубежными корреспондентами Института, приобреталась через Госфонд из национализированных библиотек, путем межбиблиотечного обмена. С 1924 г. библиотека начала получать обязательный экземпляр Книжной палаты. Обязательный экземпляр, несмотря на сложности, возникавшие в отдельные периоды, стал основой пополнения фонда русской литературой.
Основой фонда библиотеки Института В. И. Ленина послужили приобретения литературы у частных лиц, дарения и обязательный экземпляр Книжной палаты.
После слияния Института В. И. Ленина и Истпарта (1928 г.) в библиотеку влились русские эмигрантские библиотеки, привезенные еще в 1923 г. в Истпарт из Германии, Франции, Англии. Эти коллекции и стали базой фонда нелегальных и запрещенных в России изданий.
В 1931 г. после объединения двух Институтов библиотека правительственным постановлением была объявлена центральным книгохранилищем партии.
Библиотека закупала в СССР и за рубежом интересные частные коллекции, среди них библиотеки Бунда, Л. Меньщикова, А. Корнилова, М. Штирнера, Д. Маккая, А. Гельферта и многие другие.
С середины 30-х гг. в библиотеках СССР были организованы фонды специального хранения, включавшие литературу на русском и иностранных языках, изъятую из общего пользования. Спецфонд библиотеки ИМЭЛ являлся одним из крупнейших в стране. В обстановке усиления борьбы с внутрипартийной оппозицией библиотека имела возможность приобретать так называемую белогвардейскую и эмигрантскую литературу. Одно время она получала ее больше, чем секретариат И. Сталина.
Библиотека должна была стать и стала базой исследовательской работы, ее документы легли в основу многих публикаций российских и зарубежных ученых.
М. Д. Дворкина