Корреспондентами Ферма были крупнейшие ученые его времени: Декарт, Этьен и Блез Паскали, де-Бееси, Гюйгенс, Торричелли, Валлис. Письма посылались либо непосредственно корреспонденту, либо в Париж аббату Мерсенну (соученику Декарта по колледжу); последний размножал их и посылал тем математикам, которые занимались аналогичными вопросами.

Одной из первых математических работ Ферма было восстановление двух утерянных книг Аполлония «О плоских местах».

Крупную заслугу Ферма перед наукой видят обыкновенно во введении им бесконечно малой величины в аналитическую геометрию, подобно тому, как это несколько ранее было сделано Кеплером в отношении геометрии древних. Он совершил этот важный шаг в своих, относящихся к 1629 году, работах о наибольших и наименьших величинах, — работах, открывших собою тот из важнейших рядов исследований Ферма, которые являются одним из самых крупных звеньев в истории развития не только высшего анализа вообще, но и анализа бесконечно малых в частности.

В конце двадцатых годов Ферма открыл методы нахождения экстремумов и касательных, которые, с современной точки зрения, сводятся к отысканию производной В 1636 году законченное изложение метода было передано Мерсенну, и с ним могли познакомиться все желающие.

До Ферма систематические методы вычисления площадей разработал итальянский ученый Кавальери. Но уже в 1642 году Ферма открыл метод вычисления площадей, ограниченных любыми «параболами» и любыми «гиперболами» Им было показано, что площадь неограниченной фигуры может быть конечной.

Ферма одним из первых занялся задачей спрямления кривых, т. е. вычислением длины их дуг. Он сумел свести эту задачу к вычислению некоторых площадей.

Таким образом, понятие «площади» у Ферма приобретало уже весьма абстрактный характер. К определению площадей сводились задачи на спрямление кривых, вычисление сложных площадей он сводил с помощью подстановок к вычислению более простых площадей. Оставался только шаг, чтобы перейти от площади к еще более абстрактному понятию «интеграл».

У Ферма есть много других достижений. Он первым пришел к идее координат и создал аналитическую геометрию. Он занимался также задачами теории вероятностей. Но Ферма не ограничивался одной только математикой, он занимался и физикой, где ему принадлежит открытие закона распространения света в средах.

Несмотря на отсутствие доказательств (из них дошло только одно), трудно переоценить значение творчества Ферма в области теории чисел. Ему одному удалось выделить из хаоса задач и частных вопросов, сразу же возникающих перед исследователем при изучении свойств целых чисел, основные проблемы, которые стали центральными для всей классической теории чисел. Ему же принадлежит открытие мощного общего метода для доказательства теоретико-числовых предложений — так называемого метода неопределенного или бесконечного спуска, о котором будет сказано ниже. Поэтому Ферма по праву может считаться основоположником теории чисел.

В письме к де-Бесси от 18 октября 1640 года Ферма высказал следующее утверждение: если число а не делится на простое число р, то существует такой показатель к, что а — делится на р, причем к является делителем р– 1. Это утверждение получило название малой теоремы Ферма. Оно является основным во всей элементарной теории чисел. Эйлер дал этой теореме несколько различных доказательств.

Во второй книге своей «Арифметики» Диофант поставил задачу представить данный квадрат в виде суммы двух рациональных квадратов. На полях, против этой задачи, Ферма написал:

«Наоборот, невозможно разложить ни куб на два куба, ни биквадрат на два биквадрата и вообще ни в какую степень, большую квадрата, на две степени с тем же показателем Я открыл этому поистине чудесное доказательство, но эти поля для него слишком узки». Это и есть знаменитая Великая теорема.

Теорема эта имела удивительную судьбу. В прошлом веке ее исследования привели к построению наиболее тонких и прекрасных теорий, относящихся к арифметике алгебраических чисел. Без преувеличения можно сказать, что она сыграла в развитии теории чисел не меньшую роль, чем задача решения уравнений в радикалах. С той только разницей, что последняя уже решена Галуа, а Великая теорема до сих пор побуждает математиков к исследованиям.

С другой стороны, простота формулировки этой теоремы и загадочные слова о «чудесном доказательстве» ее привели к широкой популярности теоремы среди не математиков и к образованию целой корпорации «ферматистов», у которых, по словам Дэвенпорта, «смелость значительно превосходит их математические способности». Поэтому Великая теорема стоит на первом месте по числу данных ей неверных доказательств.

Сам Ферма оставил доказательство Великой теоремы для четвертых степеней. Здесь он применил новый метод. Ферма пишет, что «поскольку обычные методы, находящиеся в книгах, были недостаточны для доказательства столь трудных предложений, то я, наконец, нашел совершенно особый путь для их достижения. Я назвал этот способ доказательства бесконечным или неопределенным спуском».

Именно этим методом были доказаны многие предложения теории чисел, и, в частности, с его помощью Эйлер доказал Великую теорему для n=4 (способом, несколько отличным от способа Ферма), а спустя 20 лет и для n=3.

Этот метод Ферма описывал в своем письме к Каркави (август 1659 года) следующим образом:

«Если бы существовал некоторый прямоугольный треугольник в целых числах, который имел бы площадь, равную квадрату, то существовал бы другой треугольник, меньший этого, который обладал бы тем же свойством. Если бы существовал второй, меньший первого, который имел бы то же свойство, то существовал бы, в силу подобного рассуждения, третий, меньший второго, который имел бы то же свойство, и, наконец, четвертый, пятый, спускаясь до бесконечности. Но если задано число, то не существует бесконечности по спуску меньших его (я все время подразумеваю целые числа). Откуда заключают, что не существует никакого прямоугольного треугольника с квадратной площадью».