Обробка даних в експерименті 2D

Загальна процедура обробки будь-якого 2D-масиву даних є однаковою. Послідовність виконання операцій обробки представлена на рис. 5.25. Окремі математичні операції над отриманим масивом даних стають зрозумілими, якщо згадати, що дані являють собою квадратну матрицю даних у якій виміри відповідають інтервалам t₁ та t₂ двомірного експерименту. З математичної точки зору обидва виміри є еквівалентними, тому кожний рядок (вимір t₁) та кожна колонка (вимір t₁) масиву являють собою інтерферограму. Якщо спочатку виконати Фур’є-перетворення всіх рядків, то отримаємо матрицю, в якій в одному вимірі міститиметься спектр, а в іншому – інтерферограма. Наступне Фур’є-перетворення всіх колонок дасть матрицю, що і є двомірним спектром. Всі інші процедури є допоміжними, хоча й необхідними для отримання якісного 2D спектру.

Рис. 5.25. Типова схема обробки двомірного масиву даних. Праворуч наведені додаткові або альтернативні процедури

Деталі вибору параметрів на кожній стадії залежать від досконалості приладу, умов збору даних і природи досліджуваного зразка. Тому тут представлені тільки основні принципи обробки даних. Всі вони є узагальненням ідей, що описані у розділі 2 для обробки одномірних спектрів. Техніка обробки даних для двомірних спектрів є особливо важливою, оскільки від оператора залежить вибір параметрів обробки, а отже і вигляд кінцевого спектру. Для вигляду кінцевого спектру найбільш важливим є тип згладжувальної функції. Вона сильно розрізняється для наборів даних в абсолютних значеннях та в фазочутливих модифікаціях. Тому спочатку ми обговоримо випадок фазочутливих спектрів.

Застосування згладжувальних функцій переслідує три мети:

• зменшити артефакти, що пов'язані з обрізанням масиву даних

• підвищити розділення спектра

• оптимізувати співвідношення сигнал/шум

У зв'язку з тим, що при записі 2D спектрів використовується недостатній час збору даних, то, як правило, в обох вимірах має місце обрізання даних, коли вибірка закінчується раніше, ніж інтерферограма спаде до нуля. Зокрема, коли застосовується нульове заповнення, що у вимірі t₁ має місце практично завжди, то для того, щоб нейтралізувати викривлення спектру, які пов'язані з обрізанням даних, згладжувальна функція повинна звести СВІ до нуля до того, як закінчиться збір даних. При використанні більших величин часу збору даних по t₂ відпадає потреба у використанні нульового заповнення, оскільки периферійна ділянка спектру має нульову інтенсивність через дію згладжувальної функції. Обробка таких спектрів не відрізняється від обробки спектрів 1D. Загалом, деяке підвищення розділення без погіршення співвідношення сигнал/шум може бути досягнутим за допомогою будь-якої з функцій підвищення розділення що описані в розділі 2.7. Найбільш популярними є перетворення Лоренц-Гауса, зміщений синусоїдальний дзвін або, нарешті, квадратичний синусоїдальний дзвін. Дві останні функції гарантують спад сигналу до нуля, тому вони придатні також для обробки t₁-даних перед нульовим заповненням. У кожному з вимірів занадто сильне посилення сигналу веде до появи навколо сигналу областей з негативною інтенсивністю (канав). Для оптимізації результатів слід точно вибирати параметри функції згладжування. Часто перший СВІ у матриці 2D-даних можна використовувати як зручний еталон 1D-спектру для візуалізації ефекту впливу різних функцій згладжування. Сучасне програмне забезпечення спектрометрів дозволяє робити інтерактивну зміну параметрів згладжування з контролем результатів безпосередньо на моніторі. Альтернативою нульовому заповненню t₁ даних для наборів даних з високим співвідношенням сигнал/шум є розширення t₁-интерферограм шляхом лінійної екстраполяції, коли наступні точки інтерферограми розраховують, виходячи з відомих попередніх точок. Таким методом набір даних можна збільшити в 2-4 рази. При цьому не тільки вповільнюється спад СВІ, але й зменшується потреба в згладжуванні сильно обрізаних даних. Обидва методи дозволяють збільшити розділення по f₁. Подальше нульове заповнення можна застосовувати для поліпшення оцифровування кінцевого спектра.

Набори даних у вигляді абсолютних значень (найчастіше вони отримуються за допомогою обчислення магнітуди) вимагають застосування функцій які більш сильно підвищують розділення спектра. Це необхідно для придушення небажаних внесків сигналів дисперсії в піки, що містять фазовий перекіс. Найчастіше для цього використовується функція синусоїдального дзвона або квадратичного синусоїдального дзвона. Такі функції добре підходять для антифазних піків, що дають внесок у сигнали COSY, оскільки на початку вибірки для них характерна нульова інтенсивність. У міру збору даних СВІ, інтенсивність таких сигналів зростає. Проте, у більшості 2D експериментів присутні зфазовані сигнали, для яких найбільша інтенсивність спостерігається на початку СВІ. У такому випадку застосування незміщених функцій згладжування, веде до сильного послаблення сигналу і зниження чутливості.