Нелинейно-оптические методики спектроскопии и микроскопии занимают заметную нишу в современных исследованиях в области биологии и медицины. Основным преимуществом этих методик является химическая селективность, быстродействие, высокое пространственное разрешение, а главное возможность для трехмерной визуализации клеток на достаточно высокой глубине внутри тканей.

Успехи в применении нелинейной микроскопии во многом обусловлены развитием технологии твердотельных генераторов фемтосекундных импульсов. Для реализации нелинейных процессов при жесткой фокусировке достаточно использовать неусиленные импульсы с энергиями от единиц до сотен наноджоулей при сохранении мегагаецовой частоты повторения импульсов. Такая энергия достаточна для эффективной генерации нелинейного сигнала и при этом не достигается порог разрушения биотканей, а высокая частота повторения импульсов обеспечивает возможность и получения сканированных изображений в видеорежиме. Наша группа обладает современным набором фемтосекндных лазеров на кристаллах Ti:Sapphire, хром-форстерита, иттербия, оптических параметрическим генератором, позволяющим получить импульсы в диапазоне от 0.5 до 1.5 мкм, сканирующими и широкопольными микроскопами, высокочувствительными CCD камерами и фотоэлектронными умножителями. Такой набор экспериментальной техники обеспечивает возможность проведения исследований на самом высоком в рамах основных тенденций развития методик нелинейно-оптической микроскопии.

Методики нелинейно-оптической многофотонной микроскопии биологических объектов можно разделить на безмаркерные и использующие различные техники мечения биологических объектов. Наибольшую распространённость в биологических исследованиях получили методики на основе двухфотонной флуоресцентной микроскопии. Эта методика позволяет добиться визуализации биологической ткани на глубине вплоть до 2 мм от поверхности с клеточным пространственным разрешением за счет высокой локализации флуоресцентного отклика молекул в фокусе излучения накачки. Однако, большинству молекулярных объектов не присущи естественные флуоресцентные свойства, что обычно решается использованием флуоресцентных меток различной природы. Но этот путь может быть неприемлемым при исследовании живых объектов, так как флуоресцентные метки (органические или неорганические), часто достаточно сильно возмущают биологическую систему. Соответственно, эта методика не может быть в больном объеме использована в медицинских целях применительно к людям, и поэтому одной из основных тенденций нелинейно-оптической микроскопии является развитие альтернативных нелинейно-оптических методик. В частности, микроскопия на основе процессов генерации второй и третьей оптической гармоник (ГВГ и ГТГ) позволяет визуализировать трехмерные объекты различной природы и структуры, сохраняя преимущества двухфотонной флуоресцентной микроскопии, такие как высокая яркость сигнала и большая глубина проникновения, при этом не требуют наличия флуоресцентных меток. Методы нелинейной ГВГ и ГТГ микроскопии находят все более широкое применение, поскольку являются относительно технически простыми в реализации (требуется только один источник сверхкоротких импульсов в инфракрасной области спектра). Однако, существуют сложности в интерпретации механизмов, приводящих к генерации оптических гармоник. Например, в микроскопии на основе  генерации третьей гармоники контраст обеспечивается за счет скачка линейного показателя преломления, а также нелинейно-оптической восприимчивости третьего порядка. С помощью ГТГ быть выявлены скрытые границы раздела, оптические неоднородности, и полости. Также контраст визуализации различных биологических объектов существенно зависит от условий фазового согласования и фокусировки, что требует дополнительных учета дополнительных факторов. Область применения и эффективность нелинейно-оптических методик могут быть еще более расширены за счет применения химически селективных методов детектирования комбинационных резонансов. К таким методикам относится техника когерентного антистоксова рассеяние света (КАРС),  вынужденное комбинационное рассеяние света (ВКР). Это мощные неразрушающие методы визуализации, который обеспечивает уникальную комбинацию химической  селективности, чувствительности, высокого пространственного и спектрального разрешения, что определяет их преимущества для экспресс диагностики объектов различной природы. Безмаркерная микроскопия, основанная на когерентном антистоксовом рассеянии света, является один из наиболее информативных методов, что делает его одним из наиболее перспективных методик,  несмотря на высокую стоимость систем  и сложности в реализации.

Можно отметить другие современные тенденций развития нелинейно-оптических систем для биологических исследований. Во-первых, это использование более длинноволновых источников импульсной оптической накачки, относительно наиболее широко распространённых Ti:Sapphire лазеров с центральной длиной волны около 800 нм.  Излучение в ближнем инфракрасном диапазоне  обладают большей проникающей способностью — рассеяние оптического излучения  масштабируется  как 1\l⁴.  Кроме того, в биологических тканях существуют «терапевтические окна» (например, в области 1200 – 1300 нм), что дает возможность реализации трехмерной микроскопии биологических объектов с очень большей глубиной проникновения и позволяет уменьшить нагрев биологических тканей. Кроме того, применение инфракрасных сверхкоротких возбуждающих импульсов позволяет расширить и сместить спектр двух и трехфотонного  поглощения маркировочных  красителей и генетически встраиваемых белков в «красную» область, что усиливает  возможности морфологического и функционального анализа процессов в исследуемых тканях и клетках. С этой тенденцией напрямую связаны вопросы совершенствования лазерных источников сверхкоротких импульсов, как с технической точки зрения, так и со стороны уменьшения их стоимости.

Мультимодальность измерений, а именно параллельное использование нескольких нелинейно-оптических методик для получения взаимодополняющей информации об исследуемом объекте, является другим современным  направлением развития нелинейно оптических систем. Примером мультимодальных измерений биологических тканей может служить одновременное использование  методик на основе генерации второй и третьей гармоник (ГВГ и ГТГ, соответственно. ГВГ используется для регистрации объектов с нарушенной центральной симметрией (например, коллагены), в то время как ГТГ высокоэффективна на интерфейсах, что удобно для регистрации мембран клеток или  других липид/вода интерфейсов. Методика ГТГ также удобно сочетается с двухфотонным возбуждением флуоресцирующих белков. Эта тенденция требует выполнения ряда технических условий, связанных с использованием нескольких источников сверхкоротких импульсов, проведения  регистрации  полезного сигнала на разных длинах волн, и главное сложным анализом получаемых данных.