Науковий напрям “Спектроскопія атомів і молекул” є одним з фундаментальних напрямів сучасної фізики. Даний напрям поширюється на такі явища нелінійної оптики: атомна і молекулярна спектроскопія; математична обробка і інтерпретація спектроскопічного експерименту; квантова динаміка і спектроскопія багатозарядних іонів; когерентна і нелінійна оптика.

Запропоновані нові підходи і розроблений комплекс прикладних програм для вирішення зворотних і прямих завдань обробки і інтерпретації експериментальних даних з особливостями (фрактальний шум, перемежана, статечні для дробу тренди, пропуски в даних і ін.). Розвиваються ідеї по вживанню вейвлет-перетворення для усунення обчислювальної нестійкості некоректних завдань. Запропоновано використовувати базис адаптивних вейвлетов в разі миттевопротікаючих процесів в нелінійних динамічних системах, редукції складних сигналів і томографії. На основі безперервного вейвлет-перетворення і методу похідної спектрометрії розроблений алгоритм підвищення дозволу спектральних ліній, частково і повністю перекритих. Використовуючи концепцію дробової похідної, створений метод визначення аналітичної форми спектральних ліній і їх параметрів на основі розподілів Гауса, Лоренца і Цалліса.

Спектроскопія багатозарядних іонів, яка почала в 80-і роки інтенсивно розвиватися в провідних наукових центрах світу у зв'язку з прогресом в області технології здобуття пучків важких іонів, є одним з напрямів сучасній атомній спектроскопії. Для дослідження спектрів багатозарядних іонів, які із-за сильного обурення власним полем випромінювання не можуть бути описані в рамках теорії обурень стандартними методами квантової електродинаміки, був потрібний розвиток нових методів в квантовій теорії. На кафедрі були закладені основи нового методу в квантовій теорії, який може відкрити нові можливості для опису квантово-електродинамічних ефектів в спектрах випромінювання багатозарядних іонів. В рамках методу була побудована теорія нестабільних зв'язаних станів атомних систем, процесів випромінювання і автоіонізаційного розпаду без звернення до теорії обурень і квазістаціонарного наближення, а також побудована теорія природного розширення спектральних ліній атомів, застосовна і у разі, коли взаємодія атома з власним полем випромінювання не є малим обуренням. Показано, що в разі перекривання рівнів станів з однаковими повним моментом, його проекцією і парністю, яке може мати місце для важких багатозарядних іонів, взаємодія атома з власним полем випромінювання стає ефективно сильною і може наводити до істотної відмінності форми контура спектральної лінії від лоренцевскої. Проведені розрахунки контурів спектральних ліній He- і Li- подібних іонів урану показали, що в таких спектрах можуть спостерігатися непертурбативні ефекти, наприклад, розщеплювання спектральних ліній, обумовлене взаємодією атома з власним полем випромінювання.

В області когерентної оптики ведуться наступні наукові дослідження: 1) розробка нових методів оптичної ехо-камера-спектроскопії, у тому числі у фемтосекундному діапазоні тривалості; 2) розробка нових фізичних принципів оптичної обробки інформації на основі довгоживучої фотонної ехо-камери і тригерного оптичного надвипромінення; 3) розробка теоретичних основ лазерного охолоджування твердих тіл і оптимальних режимів роботи лазерних рефрижераторів; 4) дослідження актуальних проблем квантової оптики і, серед них, - проблеми посилення стислого світла в режимі тригерного оптичного надвипромінення, а також проблеми квантової пам'яті на основі оптичного субвипромінювання.