В 1950 году защитила диссертацию на соискание учёной степени кандидата физико-математических наук (тема — «О топологии действительных алгебраических кривых на алгебраической поверхности»), а в 1954 году — докторскую диссертацию (тема — «Краевые задачи для уравнений с частными производными с малым параметром при старших производных и задача Коши для нелинейных уравнений в целом»[9])[8].
В 1973 году, после смерти И. Г. Петровского, стала заведующей кафедрой дифференциальных уравнений мехмата МГУ и возглавляла её вплоть до своей кончины в 2001 году[10][11]. Для студентов мехмата читала курс «Уравнения с частными производными»[8]. По инициативе О. А. Олейник на мехмате МГУ в 1973 году был организован семинар имени И. Г. Петровского по дифференциальным уравнениям и математическим проблемам физики, труды которого регулярно издаются в МГУ[12].
В теории уравнений в частных производных эллиптического типа О. А. Олейник в 1949 году дала применительно к задаче Дирихле определение регулярной граничной точки и доказала[15], что данная точка регулярна для эллиптического уравнения общего вида тогда и только тогда, когда она регулярна для уравнения Лапласа; в силу этого задача Дирихле для такого уравнения в заданной области разрешима при любой непрерывной граничной функции в том и только в том случае, когда она разрешима в рассматриваемой области для уравнения Лапласа[16]. В позднейших работах О. А. Олейник была построена теория линейных уравнений 2-го порядка с неотрицательной характеристической формой, для которых она в общем случае доказала единственность обобщённого решения первой краевой задачи. Вместе со своим учеником Е. В. Радкевичем она получила достаточные условия гипоэллиптичности, которые в предположении аналитичности коэффициентов являются также и необходимыми[17].
В 1954—1957 гг.[18][19][20] О. А. Олейник для скалярного квазилинейного уравнения первого порядка дала определение обобщённого решения задачи Коши с произвольной ограниченной измеримой начальной функцией и доказала глобальную теорему о существовании такого решения, изучив также его единственность и зависимость от начальной функции; она показала также, что всякое такое решение можно представить как предел решений соответствующего параболического уравнения с малым параметром при старшей производной[21]. В 1957 году О. А. Олейник совместно с Н. Д. Введенской разработала[22] порядок применения метода сеток для численного решения квазилинейного параболического уравнения[23].
В 1957 году О. А. Олейник доказала[24] для некоторых квазилинейных гиперболических систем, встречающихся в механике (в задачах газовой динамики, теории пластичности и теории «мелкой воды»), теоремы единственности обобщённого решения задачи Коши[25]. Эта и последующие работы О. А. Олейник вместе с исследованиями Э. Хопфа положили начало интенсивному развитию теории разрывных решений гиперболических уравнений и систем[3].
Работа О. А. Олейник «Об уравнениях типа уравнений нестационарной фильтрации» (1957)[26] стала основой для развития математической теории нестационарной фильтрации жидкости и газов в пористых средах. Математическим аппаратом данной теории служат нелинейные параболические уравнения, которые вырождаются при некоторых значениях искомой функции или её производной. Применительно к задачам Коши для таких уравнений О. А. Олейник впервые дала определение обобщённого решения, доказав его существование и единственность[27].
Обратившись к задачам гидродинамики, О. А. Олейник построила математическую теорию пограничного слоя: для предложенных Л. Прандтлем в 1904 году уравнений, описывающих пограничный слой, она доказала существование, единственность и устойчивость решений основных задач[27].
В области математической теории упругости О. А. Олейник исследовала асимптотику решений краевых задач для системы уравнений теории упругости и для бигармонического уравнения. Она доказала принцип Сен-Венана для нецилиндрических тел и получила для широких классов уравнений и систем его аналоги — энергетические неравенства; ею была решена задача об условиях, при которых решение уравнений теории упругости с конечной энергией в неограниченном цилиндре убывает на бесконечности[28].
Вклад О. А. Олейник в математику и механику получил международное признание, и её работы цитируются во многих научных монографиях и статьях по теории дифференциальных уравнений в частных производных. В англоязычной математической литературе особенно часто цитируется написанная О. А. Олейник в соавторстве с Е. В. Радкевичем книга «Second Order Equations with Non-negative Characteristic Form»[29].
О. А. Олейник — автор более 370 научных статей и 8 монографий. Она подготовила 57 кандидатов физико-математических наук, из которых 20 позже стали докторами наук; при этом А. М. Ильин был избран академиком РАН, Т. Д. Джураев — академиком АН Узбекистана, Чжоу Юйлинь — академиком Китайской АН[30].
Государственная премия СССР (1988) — за цикл работ «Исследования краевых задач для дифференциальных операторов и их приложения в математической физике»[33]
Oleinik O. A., Radkevich E. V. Second order equations with nonnegative characteristic form. — Providence, Rhode Island: Plenum Press, 1973. — vii + 259 p. — ISBN 0-306-30751-0.
Олейник О. А. Лекции об уравнениях с частными производными. Ч. 1. — М.: Изд-во Моск. ун-та, 1976. — 110 с.
Oleinik O. A., Shamaev A. S., Yosifian G. A. Mathematical problems in elasticity and nomogenization. — Amsterdam: North-Holland, 1992. — xiii + 398 p. — (Studies in mathematics and its applications). — ISBN 0-444-88441-6.
Олейник О. А. Лекции об уравнениях с частными производными. 3-е изд. — М.: БИНОМ. Лаборатория знаний, 2007. — 260 с. — (Классический университетский учебник). — ISBN 978-5-94774-623-5.
Олейник О. А. О задаче Коши для нелинейных уравнений в классе разрывных функций // Успехи математических наук. — 1954. — Т. 9, вып. 3 (61). — С. 231—233.
Олейник О. А., Введенская Н. Д. Решение задачи Коши и краевой задачи для нелинейных уравнений в классе разрывных функций // ДАН СССР. — 1957. — Т. 113. — С. 503—506.
Олейник О. А., Иосифьян Г. А.Смешанная задача для системы уравнений теории упругости и принцип Сен-Венана // Комплексный анализ и его приложения / Под ред. Н. Н. Боголюбова. — М.: Наука, 1978. — 672 с. — С. 459—472.
Олейник О. А., Иосифьян Г. А. Принцип Сен-Венана в плоской теории упругости и краевые задачи для бигармонического уравнения в неограниченных областях // Сибирский математический журнал. — 1978. — Т. 19, № 5. — С. 1154—1165.
↑Мехмат МГУ 80. Математика и механика в Московском университете / Гл. ред. А. Т. Фоменко. — М.: Изд-во Моск. ун-та, 2013. — 372 с. — ISBN 978-5-19-010857-6. — С. 92.
Вишик М. И., Мышкис А. Д., Олейник О. А.Дифференциальные уравнения с частными производными // Математика в СССР за сорок лет. 1917—1957. Т. 1. Обзорные статьи / Гл. ред. А. Г. Курош. — М.: Физматгиз, 1959. — 1000 с. — С. 563—636.
Садовничий В. А.Ольга Арсеньевна Олейник (1925—2001) // О людях Московского университета. — 3-е изд., дополненное. — М.: Издательство Московского университета, 2019. — С. 333—337. — 356 с. — 3000 экз. — ISBN 978-5-19-011397-6.