Становление представлений об элементарном мышлении (рассудочной деятельности) животных и ее проявлениях в разных сферах поведения имеет достаточно длинную историю. На всех этапах развития науки вопрос о наличии мышления у животных, степени его развития и роли в психике и поведении решался неоднозначно.

Представления человека о поведении животных развивались вместе с его общими знаниями о природе. Во всех сферах своей деятельности с древнейших времен человек в той или иной степени зависел от животных, и поэтому для него было важно понимать закономерности их поведения. Задолго до первых научных исследований в этой области у людей постепенно накапливались эмпирические знания о повадках и образе жизни животных, об основах их взаимодействия в сообществах. В процессе одомашнивания диких животных формировались и первые представления о наследственной основе поведения, поскольку одновременно с хозяйственно полезными морфологическими признаками человек производил отбор и по полезным признакам поведения, таким как отсутствие агрессивности, «контактность», послушание, сторожевое поведение и т. д.

Наблюдения за дикими и прирученными животными способствовали появлению первых представлений об особенностях их психологии, постепенно вырабатывались приемы дрессировки. Укреплялась уверенность в том, что во многих случаях животные проявляют сообразительность, т. е. обнаруживают зачатки разума.

По мере накопления фактов о сложности и целесообразности поведения самых разных животных росло стремление не только преувеличивать их разумность, но и приписывать им чисто человеческие свойства — сознание, волю, любовь, злобу и т. п. Такой подход к оценке поведения животных называется антропоморфическим (от anthropos— человек, morphe— форма). В той или иной степени он нередко обнаруживается и теперь. Одна из актуальных задач современной науки о поведении — преодоление антропоморфизма.

С появлением и развитием естествознания (еще с середины XVIII века) оформилось подразделение поведения животных на две категории. Одну из них назвали «инстинктом» (от лат. instinctus— побуждение). Это понятие появилось в трудах философов еще в III веке до н. э. и означало способность человека и животных выполнять определенные стереотипные действия в силу внутреннего побуждения. Вторую категорию явлений называли «разумом», но этим термином обозначали не собственно разумные поступки (как в настоящее время), а любые формы индивидуальной пластичности поведения, в том числе и те, которые обеспечиваются обучением (тенденция сводить понятие «разум животных» к более простым процессам отчасти сохраняется и по сей день).

Характерный для того периода развития науки подход к поведению животных можно найти в трудах французского натуралиста Ж. Бюффона (1707–1788). В книге «Всеобщая и частная естественная история» (1810) он попытался систематизировать данные не только о морфологических особенностях разных видов животных, но и об их образе жизни, нравах и привычках. Ученый выступил с критикой антропоморфического подхода в трактовке поведения животных. Описывая поразительные по сложности ритуальные действия общественных насекомых, Бюффон подчеркивал, что они являются механическими. В трудах Бюффона нет описаний тех форм поведения, которые можно было бы отнести к собственно разумным. Однако при описании «естественной истории» отдельных видов он указывал, что одни животные «умнее других», т. е. допускал различия в их умственных способностях.

Бюффон выступил против применения понятия «разум» к более элементарным формам поведения животных и тем самым способствовал созданию основ классификации отдельных форм поведения.

Одно из первых научных определений инстинкта дал немецкий ученый Г. Реймарус (1694–1768). Он допускал наличие у животных действий которые можно сопоставить с разумным поведением человека. Реймарус, так же как и его современники и предшественники включал в эту категорию прежде всего способность к подражанию и обучению.

Систематическое изучение поведения животных начинается с середины XIX века. Одним из первых экспериментальное исследование и сравнительную оценку некоторых его проявлений провел директор Парижского зоопарка Фридрих Кювье (1773–1837), брат знаменитого палеонтолога Г. Кювье. В своей работе Кювье стремился опираться на регулярные наблюдения за животными в привычной для них среде обитания, однако доступными для него были в основном обитатели зоопарка. С ними Кювье даже проводил некоторые эксперименты. Особую известность получили его опыты с бобрами, воспитанными в неволе в изоляции от сородичей. Они сыграли существенную роль в понимании природы инстинкта. Кювье обнаружил, что бобренок-си-рота успешно строил хатку, несмотря на содержание в неподходящих для этого условиях и на отсутствие возможности научиться таким действиям у взрослых бобров. Вместе с тем Ф. Кювье удалось зафиксировать и немало других, не менее важных, но не получивших столь же широкой известности фактов. На основе наблюдений за животными в Парижском зоопарке он описал и сопоставил поведение млекопитающих нескольких отрядов (грызунов, жвачных, лошадей, слонов, приматов, хищных), причем многие из них стали объектом научного исследования впервые.

Ф. Кювье собрал многочисленные факты, свидетельствовавшие об «уме» животных, и попытался проанализировать их в поисках границы между «умом» и инстинктом, а также между умом человека и «умом» животных. Кювье отметил разную степень «ума» у животных. Он не использовал четких критериев «умственных способностей», тем не менее многие характеристики в дальнейшем подтвердились с помощью точных методов исследования. Например, Кювье ставил грызунов ниже жвачных только на основании того, что они не отличают человека, который за ними ухаживает, от остальных. В отличие от грызунов, жвачные животные хорошо узнают своего хозяина, хотя могут и «сбиться», когда тот меняет одежду. По мнению Ф. Кювье, хищные и приматы (их называли тогда «четверорукими») «обладают, кажется, таким умом, который только может быть у животных… По-видимому, орангутан обладает наибольшим умом». Следует отметить, Ф. Кювье принадлежит одно из первых и во многом точное описание повадок орангутана и некоторых других обезьян.