Сохранились студенческие записи лекций Лобачевского (от 1817 года), где им делалась попытка доказать пятый постулатЕвклида, но в рукописи учебника «Геометрия» (1823) он уже отказался от этой попытки. В «Обозрениях преподавания чистой математики» за 1822/23 и 1824/25 годы Лобачевский указал на «до сих пор непобедимую» трудность проблемы параллелизма и на необходимость принимать в геометрии в качестве исходных понятий, непосредственно приобретаемые из природы.
7 (19) февраля 1826 года Лобачевский представил для напечатания в «Записках физико-математического отделения» сочинение: «Сжатое изложение начал геометрии со строгим доказательством теоремы о параллельных» (на французском языке)[31]. Но издание не осуществилось. Рукопись и отзывы не сохранились, однако само сочинение было включено Лобачевским в его труд «О началах геометрии» (1829—1830), напечатанный в журнале «Казанский вестник». Это сочинение стало первой в мировой литературе серьёзной публикацией по неевклидовой геометрии, или геометрии Лобачевского.
Наглядное представление геометрии Лобачевского: через точку M проходят две прямые, параллельные прямой D
Лобачевский считает аксиому параллельности Евклида произвольным ограничением. С его точки зрения, это требование слишком жёсткое, ограничивающее возможности теории, описывающей свойства пространства. В качестве альтернативы предлагает другую аксиому: на плоскости через точку, не лежащую на данной прямой, проходит более чем одна прямая, не пересекающая данную. Разработанная Лобачевским новая геометрия не включает в себя евклидову геометрию, однако евклидова геометрия может быть из неё получена предельным переходом (при стремлении кривизныпространства к нулю). В самой геометрии Лобачевского кривизна отрицательна. Уже в первой публикации Лобачевский детально разработал тригонометрию неевклидова пространства, дифференциальную геометрию (включая вычисление длин, площадей и объёмов) и смежные аналитические вопросы.
Однако научные идеи Лобачевского не были поняты современниками. Его труд «О началах геометрии», представленный в 1832 году советом университета в Академию наук, получил у М. В. Остроградского отрицательную оценку. В иронически-язвительном отзыве на книгу Остроградский откровенно признался, что он ничего в ней не понял, кроме двух интегралов, один из которых, по его мнению, был вычислен неверно (на самом деле ошибся сам Остроградский[32]). Среди других коллег также почти никто Лобачевского не поддержал, росли непонимание и невежественные насмешки.
Венцом травли стал издевательский анонимный пасквиль (подписанный псевдонимом С. С.), появившийся в журнале Ф. Булгарина «Сын отечества» в 1834 году[33]:
Для чего же писать, да ещё и печатать, такие нелепые фантазии? <…> Как можно подумать, чтобы г. Лобачевский, ординарный профессор математики, написал с какой-нибудь серьёзной целью книгу, которая немного бы принесла чести и последнему приходскому учителю? Если не учёность, то по крайней мере здравый смысл должен иметь каждый учитель, а в новой геометрии нередко недостает и сего последнего. <…> Новая Геометрия <…> написана так, что никто из читавших её почти ничего не понял.
Судя по содержанию этой заметки, её писал человек с математическим образованием, вероятнее всего, кто-то из окружения Остроградского (в статье содержатся те же необоснованные критические замечания, что и в отзыве Остроградского). Степень участия в затее самого Остроградского историкам выяснить не удалось.
Титульный лист книги Лобачевского «Воображаемая геометрия»
Попытка Лобачевского напечатать в том же журнале ответ на пасквиль была проигнорирована редакцией. Несмотря на осложнения, Лобачевский, уверенный в своей правоте, продолжал работу. В 1835—1838 годах он опубликовал в «Учёных записках» статьи о «воображаемой геометрии», а затем вышла наиболее полная из его работ «Новые начала геометрии с полной теорией параллельных».
Титульный лист немецкого издания «Геометрических исследований по теории параллельных» (1840)
Не найдя понимания на Родине, Лобачевский попытался найти единомышленников за рубежом. В 1837 году статья Лобачевского «Воображаемая геометрия» на французском языке (Géométrie imaginaire) появилась в авторитетном берлинском журнале Крелле, а в 1840 году Лобачевский опубликовал на немецком языке небольшую книгу «Геометрические исследования по теории параллельных», где содержится чёткое и систематическое изложение его основных идей. Два экземпляра получил Карл Фридрих Гаусс, «король математиков» той поры. Как много позже выяснилось, Гаусс и сам тайком развивал неевклидову геометрию, однако так и не решился опубликовать что-либо на эту тему, полагая, что научная общественность ещё не готова воспринять столь радикальные идеи. Ознакомившись с результатами Лобачевского, он восторженно отозвался о них, но лишь в своих дневниках и в письмах близким друзьям. Например, в письме астроному Г. Х. Шумахеру (1846) Гаусс так оценил труд Лобачевского:
Вы знаете, что уже 54 года (с 1792 г.) я разделяю те же взгляды (с некоторым развитием их, о котором не хочу здесь упоминать); таким образом, я не нашёл для себя в сочинении Лобачевского ничего фактически нового. Но в развитии предмета автор следовал не по тому пути, по которому шёл я сам; оно выполнено Лобачевским мастерски, в истинно геометрическом духе. Я считаю себя обязанным обратить Ваше внимание на это сочинение, которое, наверное, доставит Вам совершенно исключительное наслаждение[34].
Гаусс выразил свою симпатию к идеям русского учёного косвенно: он рекомендовал избрать Лобачевского иностранным членом-корреспондентом Гёттингенского королевского научного общества как «одного из превосходнейших математиков русского государства». Гаусс также начал изучать русский язык, чтобы ознакомиться с деталями открытий казанского геометра[35]. Избрание Лобачевского состоялось в 1842 году и стало единственным прижизненным признанием научных заслуг Лобачевского. Однако положения Лобачевского оно не укрепило, ему осталось работать в родном университете ещё четыре года. Его новая статья (решение некоторых проблем анализа) вновь получает резко отрицательный отзыв Остроградского (1842).
Как выяснили историки науки, венгерский математик Янош Бойяи независимо от Лобачевского и немного позднее (1832) опубликовал свою версию неевклидовой геометрии. Но и его работы не привлекли внимания современников.
Лобачевский умер непризнанным, не дожив до торжества своих идей всего 10-12 лет. Вскоре ситуация в науке коренным образом изменилась. Большую роль в признании трудов Лобачевского сыграли исследования Э. Бельтрами (1868), Ф. Клейна (1871), А. Пуанкаре (1883) и др. Построенные ими модели — (Проективная модель, Конформно-евклидова модель и модель псевдосферы) — доказали, что геометрия Лобачевского непротиворечива в той же мере, что и евклидова геометрия[36].
Осознание того, что у евклидовой геометрии имеется полноценная альтернатива, произвело огромное впечатление на научный мир и придало импульс другим новаторским идеям в математике и физике. В частности, геометрия Лобачевского оказала решающее влияние на появление римановой геометрии, «Эрлангенской программы»Феликса Клейна и общей теории аксиоматических систем[37].