В высшем научно-техническом образовании видное место занимала математика. Резко возросла необходимость применения ее к решению практических задач, выдвигавшихся естествознанием и техникой (в области физики, химии, астрономии, геодезии, термодинамики, кинематики механизмов, строительного дела, баллистики и т. д.). Однако новые математические исследования возникали не только в результате непосредственных практических запросов данного времени, но и в силу внутренней логики развития математики как науки.
В последнее десятилетие XVIII в. методы анализа бесконечно малых достигли значительного совершенства. Зародившись в сфере механики земных и небесных тел, новые математические методы в развитом, обогащенном виде были приложены французским ученым Ж. Л. Лагранжем (1736—1813) и его школой к физике и астрономии. Большое значение для строгого обоснования анализа бесконечно малых имели также труды Огюстена Луи Коши (1789—1857).
В качестве основного математического аппарата новых отраслей механики и физики усиленно разрабатывалась в эти десятилетия теория дифференциальных уравнений с частными производными.
Важным достижением математической науки явилось открытие и введение в употребление геометрической интерпретации комплексных чисел. Основные заслуги в этой области принадлежат норвежцу, работавшему в Дании, Касперу Весселю (1745—1818), который был также одним из основоположников векторного исчисления, французскому математику Ж. Арганду и другим ученым. К первой четверти XIX в. относится создание О. Л. Коши основ теории функций комплексного переменного. Английский математик У. Р. Гамильтон (1805—1865), давший одно из первых точных изложений теории комплексных чисел, явился вместе с тем одним из создателей векторного анализа (в 40-х годах XIX в.). Возникновение векторного, а затем тензорного исчисления играло огромную роль в развитии математической физики и в приложении математики к решению задач механики.
Расширение предмета математики выдвинуло задачу ее обоснования, т. е. пересмотра ее исходных положений, создания строгой системы определений и доказательств, а также критического рассмотрения логических приемов, применяемых при этих доказательствах, точность и последовательность которых особенно существенна при построении обширных, иногда весьма отвлеченных математических теорий.
Возникшая еще в середине XVIII в. теория вероятностей (раздел математики, позволяющий по вероятностям одних случайных событий устанавливать вероятности других случайных событий, связанных каким-либо образом с первыми) получает в конце XVIII и в начале XIX в. дальнейшее развитие в трудах французских ученых П. С. Лапласа (1749—1827), А. М. Лежандра (1752—1834), С. Пуассона (1781 — 1840) и немецкого ученого Карла Фридриха Гаусса (1777—1855). Она находит к этому времени применение в естествознании (астрономия) и технике (геодезия, баллистика).
В начале XIX в. был разработан ряд теорем теории вероятностей, указывающих условия возникновения тех или иных закономерностей в результате действия большого числа случайных факторов. Сюда относятся теоремы Лапласа (1812 г.) и Пуассона (1837 г.). В работе Пуассона впервые получил применение и термин «закон больших чисел».
Последующий период развития теории вероятностей и ее приложения к решению практических задач связан с именами русских математиков М. В. Остроградского (вопросы математической статистики), В. Я. Буняковского (применение теории вероятностей к статистике, демографии и страховому делу) и П. Л. Чебышева (1821 —1894), который дал в 1843 г. строгое доказательство теоремы Пуассона. В своей работе «О средних величинах» (1867 г.) Чебышев чрезвычайно просто доказал закон больших чисел при весьма общих предположениях.
В конце XVIII и в начале XIX в. оформились новые направления в геометрии. Возникает дифференциальная геометрия, изучающая геометрические образы методами анализа бесконечно малых и в первую очередь методами дифференциального исчисления. Гаспар Монж (1746—1818), сыгравший большую роль в развитии дифференциальной геометрии, явился также одним из основоположников начертательной геометрии, разрабатывающей методы изображения тел на плоскости. Успехи начертательной геометрии были непосредственно связаны с прикладными задачами составления чертежей машинного оборудования, зданий, промышленных и транспортных сооружений. Существенное значение имели и работы Гаусса по внутренней геометрии поверхностей.
Н. И. Лобачевский. Гравюра.
Однако основы геометрических представлений, унаследованные со времен древнегреческого математика Эвклида (III в. до н. э.), оставались непоколебленными вплоть до 20-х годов XIX в., когда великий русский ученый Николай Иванович Лобачевский (1793—1856) произвел подлинную революцию в математической науке, выдвинув и развив систему неэвклидовой геометрии, в основу которой положена аксиома, утверждающая, что на плоскости через точку, лежащую вне данной прямой, возможно проведение нескольких прямых, не пересекающих эту прямую. Несколько позже, в 1832 г. венгерский геометр Янош Больяй (1802—1860) независимо от Лобачевского пришел к сходным выводам. Мысль о том, что наряду с обычной эвклидовой геометрией возможны и неэвклидовы геометрические системы, возникала также у Гаусса.
Полагая, что истинность геометрической теории проверяется только опытом, Лобачевский высказал мысль, что дальнейшие опытные исследования обнаружат неточность соответствия общепринятой эвклидовой геометрии реальным свойствам пространства при изучении некоторых явлений, например при астрономических наблюдениях. Развитие науки блестяще подтвердило это предположение.
Б. Риман в 1854—1866 гг. выдвинул новую неэвклидову геометрическую систему, опять-таки получившую реальное истолкование в ходе последующего научного развития.