В 1886 г. было основано учреждение, известное как «Бесплатная библиотека имени Грейс Агилар», предназначенное прежде всего для удовлетворения нужд еврейского населения Нью-Йорка. Библиотека имеет долгую и почтенную историю; в конце концов она влилась в современную систему публичных библиотек. Хотя Шифф никогда не входил в ее правление, он выказывал большую заинтересованность ее делами и вносил существенные вклады в фонд ее строительства. В 1887 г. он обращался за помощью библиотеке к мэру Хьюитту, в то же время, когда выступал в защиту «Бесплатной нью-йоркской библиотеки с абонементной системой выдачи». 26 сентября 1892 г. он послал запрос Теодору У. Майерсу, начальнику контрольно-финансового управления Нью-Йорка: «Насколько мне известно, «Бесплатная библиотека им. Г. Агилар» подала прошение в Оценочную комиссию на ассигнования в текущем году в размере 10 тыс. долларов. Прошение подтверждается ростом книгооборота в течение прошлого года, которое превосходило 190 тыс. томов, а по закону общество имеет право просить об увеличении ассигнований, если выдача книг на дом превысила 175 тыс. томов. Вы, несомненно, понимаете, как важно не только для евреев, но и с общей точки зрения, чтобы здоровая литература стала доступной населению многоквартирных жилых кварталов, посреди которых расположена «Бесплатная библиотека им. Г. Агилар». Надеюсь, что Вы не поймете превратно мои мотивы, если я попрошу Вас употребить Ваше влияние в Оценочной комиссии для того, чтобы ассигнования были увеличены. Граждане Нью-Йорка не могут сделать лучшего капиталовложения.
Во время посещения Новой Англии, а также городов на Западе я всегда испытываю чувство унижения, когда смотрю на превосходные бесплатные библиотеки с абонементной системой выдачи, которые содержатся на средства налогоплательщиков, в то время как бесплатные абонементы нашего большого города годами влачат жалкое существование. Мы всячески заботимся о публичном школьном образовании для нашей молодежи, но после того, как наши сыновья и дочери заканчивают школы, мы отказываемся предоставить им, посредством публичных библиотек, возможность продолжить свое образование».
Когда складывалась, путем слияния фондов Астора, Ленокса и Тилдена, нынешняя Нью-Йоркская публичная библиотека, Шифф 14 марта 1895 г. предложил Кернокану, чтобы «Бесплатный нью-йоркский библиотечный абонемент» примкнул к новой системе и воспользовался ее преимуществами: «Разве не следует нам предпринять шагов, направленных на то, чтобы примкнуть к объединенным библиотечным фондам? По-моему, настало время для того, чтобы попечители обсудили целесообразность и практичность объединения различных филиалов «Бесплатного нью-йоркского библиотечного абонемента» с крупной центральной публичной библиотекой, образованной посредством такого слияния».
Интерес Шиффа к высшему образованию, хотя и не ограничивался одним Нью-Йорком, естественно, в первую очередь распространялся на разнообразные учреждения города, ставшего для него родным. Он всегда был благодарен за те возможности, которые стали доступны ему в Америке и Нью-Йорке, и чувствовал себя обязанным помогать муниципальным учреждениям. Вполне естественно, что его мысли обратились к Колумбийскому университету, который сейчас расположен в квартале Морнингсайт-Хайтс, хотя раньше находился в другом месте.
Шифф решил, что посещение Всемирной Колумбовой выставки в Чикаго в 1893 г. станет мощным стимулом для молодых студентов, поэтому 26 апреля он предложил Сету Лоу, президенту Колумбийского университета, оплатить поездку на выставку тем достойным поощрения студентам, которые иначе не смогли бы посетить Чикаго: «Прошу Вас пойти мне навстречу и поступить следующим образом: Вы передадите студентам… что в Ваше распоряжение поступила денежная сумма на названные мною цели, и оговорите срок, в течение которого они могут подавать заявки… Затем Вы, с помощью преподавателей, решите, кто из заявителей достоин поощрения, и выберете тех, кто по всем параметрам больше остальных заслуживает поездки».
За этим последовала переписка: Лоу считал, что предпочтение следует отдать студентам старших курсов, особенно тем, которые изучают архитектуру, на что Шифф, естественно, согласился. В октябре Лоу предложил переслать Шиффу некоторые письма, написанные молодыми людьми после посещения Чикагской выставки. Шифф с готовностью согласился прочесть эти письма – поступок, в высшей степени характерный для него. Гораздо важнее собственно денежного дара он считал последовавший результат. Такой же договор он заключил в 1904 г. с Николасом Мерреем Батлером, когда оплатил нескольким студентам поездку на выставку в Сент-Луис.