В хартии Еврейской теологической семинарии, среди прочих целей, указывалась подготовка учителей для еврейских религиозных школ. Курсы подготовки учителей появились при семинарии в 1904 г. и находились в здании на Сто двадцать третьей улице, но спустя несколько лет стало ясно: из-за большого расстояния от других районов города и из-за того, что учительские курсы считались чем-то второстепенным по сравнению с основным раввинским курсом, результат оказался не столь удовлетворительным, как надеялись основатели. Чтобы исправить положение, Шифф создал специальный траст. Хотя в первую очередь он хотел покончить с нехваткой учителей в Нью-Йорке, он также имел в виду родственное учебное заведение в Цинциннати, и созданный им фонд, известный как «Фонд в поддержку еврейских учительских колледжей», был передан под управление попечителей, двое из которых должны были жить «к востоку от Аллеганских гор» и один – «к западу от Аллеганских гор». Шифф внимательно и заботливо следил за работой двух этих учреждений. Хотя он отказался входить в совет попечителей, он всегда встречался с ними, читал присылаемые ему отчеты, подтверждая их получение, и принимал самое деятельное участие в работе обоих учебных заведений. Каждый год он переводил крупные суммы быстро растущему Учительскому институту в Нью-Йорке и призывал своих знакомых жертвовать средства на те же цели.
Движение за создание Еврейской ассоциации молодых людей пользовалось его всемерной поддержкой, особенно в Нью-Йорке, начиная с 1879 г. В 1884 г. его ввели в состав правления нью-йоркского отделения; особый интерес он выказывал к литературному обществу и другим образовательным проектам ассоциации. 10 января 1897 г., на свое пятидесятилетие, он решил сделать ассоциации подарок: построить здание, в котором оно впоследствии находилось много лет, на углу Девяносто второй улицы и Лексингтон-авеню. Здание было достроено и торжественно открыто 30 мая 1900 г.
Он оказывал большую помощь в строительстве здания Еврейской ассоциации молодых женщин на Сто десятой улице, в чем принимала участие также его дочь, жена Феликса М. Варбурга. Даже движение за образование Национального совета молодежных еврейских ассоциаций, которое позже инициировал его зять Феликс Варбург, судя по всему, зародилось в его голове. 22 июля 1907 г. он писал Персивалю С. Менкену: «Мне кажется, что следует создать Национальную лигу еврейских ассоциаций молодых людей. По-моему, сейчас почти в каждом крупном городе Соединенных Штатов имеется Еврейская ассоциация молодых людей, и, по-моему, если эти ассоциации сумеют поддерживать прочные связи друг с другом, это будет способствовать распространению традиций среди молодого поколения американских евреев. Возможно, Вы и Ваши друзья подумаете над моими словами, и мы далее обсудим мое предложение, когда представится подходящее время».
Он активно поддерживал этот Совет, а также Еврейское благотворительное общество, отпочковавшееся от него в годы войны и позже ставшее его преемником.
В 1864 г. в Нью-Йорке возникла Ассоциация еврейских бесплатных школ, целью которой было дать бесплатное религиозное образование тем детям, чьи родители не имели возможности посылать их в школы при синагогах или нанимать частных учителей. Связь Шиффа с этим обществом началась еще до 1880 г., когда его выбрали директором. Впоследствии он разрабатывал план создать детский сад под покровительством ассоциации. Письмо от президента, Майера С. Айзекса, в 1884 г. свидетельствует о том, что уже в то время Шифф оказывал ассоциации значительные услуги.
По мере того как росло еврейское население Нью-Йорка, Шифф оказывал всемерную поддержку общинным еврейским религиозным школам, известным под названием «Талмуд Тора». 9 ноября 1903 г. он написал Максу Лабеткину, президенту школы «Талмуд Тора» на Восточном Бродвее, 225, что школа «сделает благое дело», если ее правление «сумеет открыть ряд филиалов». Через десять дней он писал: «Я намерен сделать взнос в размере 25 тыс. долларов на счет школы «Талмуд Тора» с целью приобретения дополнительного здания в другом районе, помимо Восточного Бродвея, для открытия филиала. Хотя я готов предоставить совету попечителей точный выбор места, где будет расположен филиал, советую разместить школу не в том районе, из которого сейчас к Вам приходит значительное число учеников».
Время от времени он инспектировал такие школы и не стеснялся с критикой, если был недоволен работой учителей и их методами. 7 января 1910 г. он позаботился еще об одной школе, так называемой «Талмуд Торе в верхней части города». Он предложил выкупить закладную и освободить правление школы от выплаты процентов на 10 лет. После этого срока закладная должна была быть погашена в соответствии с изложенными им условиями. Директора учебного заведения, приняв его предложение, спрашивали, не будет ли он возражать против того, чтобы религиозное обучение в школе велось по ортодоксальным канонам. На это Шифф с готовностью согласился.