Рабочих рук не хватало, денег не было, зато с книгами – раздолье! Москва – город книжный, до 1917 года каждая из богатых дворянских усадеб могла похвастаться солидной библиотекой, весомую часть которой, как правило, составляли книги на европейских языках. Все, что не сгорело в буржуйках в холодные и голодные послереволюционные годы, свозили в центральный книжный фонд Наркомпроса на Новинском бульваре, ставший для Рудомино неиссякаемым источником: «И уже так к декабрю месяцу мы набрали, вероятно, может быть, тысячи две книг… Отапливали печуркой. Кто-то за мамину подушку дал мне печку тут же, на лестнице, какой-то инженер провел трубу прямо в окно. Конечно, эта печка вечно дымила ужасно. Особенно большого тепла она не давала, потому что она стояла в этом большом двухсветном зале Мандельштама… Ужасно руки болели, ужасно – пальцы… Все это мерзло. Мы около самой печки сидели для того, чтобы записать все в инвентарь: книги и так далее. Затем, стекла. Не было замазки [для стекол]… Их как-то чем-то приколачивали… В общем, каждая вещь – это была сверхпроблема. Пол был на три четверти сожжен в камине, который был в этом же самом доме… Это был весь дом Мандельштама, а наверху он сделал свою квартиру с двухсветным залом, с хорами, с антресолями, с мансардой. Вообще, квартира была такая очень подозрительная, подозрительного типа. Мне рассказывали, что в одном из наших журналов – „Русское богатство“ или „Божий мир“ – был роман даже о его жизни с какой-то там артисткой, какие-то афинские ночи были. И действительно некоторые следы в этой квартире мы находили. Но она была для нас ужасна тем, что ее невозможно было отопить, особенно вот этот двухсветный зал этой чугунной печкой».
Библиотеку пытались закрыть: кому, мол, она нужна, кто будет в таких условиях читать книги? «Была каморка холодная, темная, вся заваленная книжной рухлядью. Книги промерзли насквозь, берегла это добро исхудавшая, иззябшая девочка с распухшими от холода пальцами» – эти слова принадлежат Корнею Чуковскому. Но постепенно жизнь наладилась, и на пятый этаж бывшего дома Мандельштама стали приходить самые разные люди: ученые, искусствоведы, переводчики, студенты, но больше всего почему-то архитекторы – Щусев, Жолтовский, Чернышев, братья Веснины. Брали почитать книги, иностранную периодику. Особенно были рады те, кто не любил читать перед обедом советские газеты, для них библиотека на пятом этаже стала глотком свежего воздуха. Все оставались очень довольны работой «девочек» – небольшого коллектива библиотеки, не превышавшего пять человек. Маргарита Рудомино даже привезла из Саратова личную библиотеку матери, преподававшей иностранные языки: учебники английского, немецкого и французского. Она была настоящим патриотом библиотечного дела, каких еще поискать. В 1922 году книжное собрание Неофилологической библиотеки пополнилось за счет 12 тысяч книг, переданных из библиотеки имени Островского. Работы сотрудникам заметно прибавилось. В мансарде над библиотекой поселилась и сама Маргарита Ивановна. А в январе 1924 года здесь состоялся праздник – завбиблиотекой вышла замуж за Василия Москаленко. Они прожили вместе много лет, отметив золотую свадьбу, а начался их медовый месяц в библиотеке.
Лифт по-прежнему не работал, но ученый люд все равно приходил. Однажды заявились непривычные гости – «большая комиссия больших крупных мужчин». Это были явно не студенты университета и не читатели, жаждущие новостей из зарубежных газет и журналов. Среди них был нарком просвещения товарищ Луначарский. Маргарита Рудомино, сама того не ведая, стала свидетельницей исторического визита. День этот запомнился на всю жизнь: вся страна скорбит по поводу кончины Ленина, которого только вчера похоронили, но, судя по всему, наркому было не до траура: «Луначарский, входя, не поздоровался, уходя, не попрощался со мной. Он осмотрел помещение библиотеки на 5-м этаже и в мансарде, оно ему понравилось, и он сказал: „Хорошо. Я беру“. Повернулся и пошел из квартиры. Свита за ним. Когда я услышала слова: „Я беру“, то поняла, что нас будут выселять. У меня, конечно, страшно забилось сердце, я безумно испугалась».