Крупнейшим событием в изучении физиологии нервной системы за последние десятилетия явились установленные Павловым и его школой закономерности высшей нервной деятельности, лежащие в основе поведения человека и животных. Основным объектом, единицей исследования являлся при этом рефлекс. Изучение высшей нервной деятельности, проведенное Павловым, с неоспоримой убедительностью доказало идею Сеченова, что деятельность головного мозга в самых сложных своих проявлениях осуществляется по рефлекторному принципу. Основной акцент в исследованиях Павлова сделан, однако, не на изучении закономерностей поведения, а на изучении закономерностей механизма рефлекторной деятельности, лежащей в основе поведения.
Изучение закономерностей высшей нервной деятельности с ее элементарной единицей — рефлексом требовало специальных условий эксперимента. Основным требованием такого эксперимента являлось создание условий, в которых наиболее четко выступала бы рефлекторная деятельность нервной системы. Выбранный Павловым и использованный в качестве объекта исследования закономерностей высшей нервной деятельности слюнной рефлекс привел к необходимости выключения всего многообразия поведения животного. Последнее достигалось помещением животного в такие условия, в которых на него действовало минимальное количество внешних раздражителей и все многообразие его поведения угашалось. Основным функциональным индикатором разыгрывающихся процессов нервной деятельности явился слюнной рефлекс. Открытые закономерности высшей нервной деятельности блестяще проиллюстрировали эффективность павловского метода. Установив основные закономерности высшей нервной деятельности, Павлов показал, что в основе сложных актов поведения животных (например, сторожевого акта поведения собак) лежат те же закономерности, которые были обнаружены при изучении слюнного рефлекса. Этим было показано, что открытые и изученные при помощи слюнного рефлекса закономерности высшей нервной деятельности являются универсальным механизмом нервной деятельности, лежащим в основе актов поведения.
Согласно схеме, предложенной Павловым, поведение животных складывается из безусловных рефлексов, сочетание которых дает сложное безусловно-рефлекторное поведение, и условных рефлексов. Такое строгое разделение рефлекторной деятельности на врожденную и индивидуально приобретенную было тем шагом, без которого невозможно изучение высшей нервной деятельности. Пищевой, половой, оборонительный, ориентировочный, материнский и некоторые другие рефлексы являются, согласно положению павловской школы, той врожденной основой, на которой строится все дальнейшее поведение. Это четкое выделение группы врожденных рефлексов было совершенно необходимым и оправданным при изучении закономерностей рефлекторной деятельности. Однако, когда мы переходим от изучения закономерностей рефлекторной деятельности нервной системы к изучению закономерностей поведения, там оказывается невозможным проводить такое четкое разделение актов поведения на условные и безусловные. Акты поведения оказываются в большинстве случаев результатом сложной интеграции условных и безусловных рефлексов, которые переплетаются в единый, целостный акт поведения. Последнее становится очевидным, как только исследователь переходит от изучения животного в камере и станке к более сложным условиям экспериментирования.
Когда собака, стоящая в станке, отдергивает лапу при ударе индукционным током, — это акт поведения, в основе которого лежит безусловный оборонительный рефлекс. Когда собака отдергивает лапу при вспыхивании лампочки, сочетавшемся с ударом электрического тока, — это акт поведения, в основе которого лежит условный оборонительный рефлекс. Однако, когда собака, происходящая от трусливых родителей или воспитанная в изолированных условиях, начинает проявлять пассивно-оборонительную реакцию (трусость) по отношению к незнакомому человеку — убегает, прячется или распластывается на земле, — перед нами более сложное поведение, чем выше описанные акты деятельности, в основе которых лежат условные и безусловные рефлексы. Помещение этого поведения в рубрику «условных» или «безусловных» рефлексов не является столь простым делом, как в предыдущих случаях. Основное затруднение сводится к следующему.
Изучая различные акты поведения собак, мы нашли, что сходное по конечному выражению поведение может обусловливаться различными причинами. В одних случаях определенный акт поведения формируется в результате индивидуального опыта животного; в других он может формироваться под ведущим влиянием врожденных факторов.