Интенсивность рефлексов
Рассеивающие электроны на самом деле не локализованы в узлах кристаллической решетки, а как бы “размазаны” в пространстве между узлами. Поэтому амплитуды рассеяния принимают непрерывное множество значений от нуля до максимальных величин, определяемых условиями дифракции.
Так что в реальных кристаллах удобно рассматривать непрерывное периодическое распределение электронной плотности n(r) в пространстве векторов r(x,y,z) с кристаллическими координатами (x,y,z), принимающими непрерывные значения.Соответственно и векторы рассеяния могут принимать непрерывное множество значений в пространстве Фурье. Будем обозначать их S(X,Y,Z). Здесь X, Y и Z – координаты в пространстве векторов рассеяния.
Тогда амплитуду рассеяния можно представить так [9]:
A(S) = 
, (4.14)
где интегрирование ведется по объему кристалла.
Измеряемая на рентгенограммах интенсивность рассеянного излучения всегда пропорциональна квадрату модуля амплитуды рассеяния
I ~ |A|2 = AA*. (4.15)
Мы далее будем считать, что A выражена в таких единицах, что можно просто записать
I = AA*. (4.16)
Рассеяние агрегатами цепных молекул кроме резких рефлексов характеризуется и непрерывно изменяющейся интенсивностью. Такую же непрерывную интенсивность дает некогерентное комптоновское атомное рассеяние. В случае необходимости его нужно отделить от непрерывного рассеяния, вызванного дифракцией на молекулах.
Интеграл (4.14), определяющий значение амплитуды рассеяния A(S) объектом с электронной плотностью n(r), является интегралом Фурье, обладающий свойством обратимости. Это свойство состоит в возможности вычислить n(r) с помощью обратного преобразования Фурье от функции A(S)
. (4.17)
Основная трудность структурного анализа заключается в том, что наблюдаемая на опыте интенсивность дает знание только модуля структурной амплитуды |A(S)| = 
, тогда как входящая в выражение (4.17) величина 
характеризуется также и некоторой фазой a.
Функция n(r), описывающая распределение рассеивающего вещества, является действительной. Поэтому из формулы (4.14) следует, что
A(–S) = A*(S), (4.18)
т.е. что в центросимметричных точках пространства рассеяния амплитуды рассеяния одинаковы по величине модуля |A(S)|=|A(–S)| и противоположны по фазе. Это положение носит название теоремы Фриделя. Согласно ей, наблюдая дифракционную картину от объекта, мы не можем сказать, центросимметричен он или нет, так как распределение интенсивности в дифракционной картине, определяемое величинами |A|2, всегда центросимметрично.
Представление любой исходной функции n(r) в виде интеграла Фурье (4.17) по экспоненциальной функции expi(rS) с непрерывно изменяющимся коэффициентом A(S) является обобщением представления в виде ряда Фурье
(4.19)
для того случая, когда n(r) — функция периодическая. Действительно, можно представить себе, что периоды n(r) (4.19) бесконечно увеличиваются, тогда в пространстве рассеяния 
бесконечно сближаются друг с другом и переходят в непрерывную функцию A(S), и выражение (4.19) при этом обращается в интеграл (4.17).
Таким образом, получая из дифракционного эксперимента значения |A(S)| и находя тем или иным способом фазы a, можно построить синтез Фурье (4.17) и тем самым воссоздать строение рассеивающего объекта. Для кристаллов такое построение является построением ряда (4.19).
Получение изображения объекта расчетным путем на основании дифракционных данных можно истолковать следующим образом. Образование изображения в оптике (например в оптическом или электронном микроскопе) можно разделить на два этапа. Первый состоит в рассеянии падающих волн объектом, т.е. этот этап точно такой же, как и при рассеянии рентгеновских лучей — разложение Фурье.
На втором этапе, в котором рассеянные пучки с помощью линз сводятся в изображение объекта, происходит синтез Фурье.
Поскольку линз для рентгеновских лучей не существует, второй этап — образование изображения — осуществляется уже с помощью вычислений.Поэтому с полным основанием можно сказать, что синтез Фурье по экспериментальным данным есть не что иное, как «математический рентгеновский микроскоп», дающий увеличенное приблизительно в 100 млн раз изображение атомной структуры.
Основной недостаток этого “микроскопа” — отсутствие прямых указаний о значении фаз рассеяния. Их приходится в большинстве случаев находить путем расчета пробных моделей. При рассеянии кристаллами, особенно центросимметричными, имеются пути прямого определения фаз.
Аналогия с образованием изображения в микроскопе помогает понять еще одно свойство преобразования Фурье (4.17). Амплитуда A может быть измерена не по всему объему пространства рассеяния, а лишь в пределах значений 
. Поэтому фактический расчет n(S) ведется не по формуле (4.17) в бесконечных пределах, а в пределах конечного шара радиуса Smax:
. (4.20)
Это эквивалентно уменьшению «разрешающей способности» микроскопа, которая зависит, следовательно, от длины волны l. Изображение объекта получается искаженным в результате возникновения так называемых волн обрыва.
Наиболее сложным моментом при нахождении координат атомов в элементарной ячейке является определение фазовых множителей, соответствующих каждому отраженному от решетки пучку. Эта задача решается по-разному для низкомолекулярных веществ и для биологических макромолекул.
В рентгеноструктурном анализе биологических полимеров решающую роль сыграл метод изоморфного замещения. Белки и нуклеиновые кислоты не заполняют целиком элементарную ячейку, в ней всегда имеется значительное число молекул растворителя. Это дает возможность в ряде случаев заменить несколько молекул растворителя в кристалле на вещества, содержащие атомы тяжелых металлов (например, ввести анионы n-ClHgC6H4SO3–, или AuCl4–, катионы Hg(NH3)2+ и т.п.), нe нарушая конформации биологической молекулы, т.е.
- изоморфно [9]. Расположение рассеянных пучков рентгеновских лучей для такого изоморфно замещенного кристалла будет совпадать с расположением рефлексов от незамещенных кристаллов, так как параметры ячейки, характеризуемые векторами a, b, c, не изменяются, но значения интенсивности каждого рассеянного пучка претерпевают определенные изменения. Поэтому для каждого пучка определяются две величины, соответствующие кристаллу незамещенного биополимера, и кристаллу, в котором проведено замещение тяжелым металлом. Из этих рентгенограмм удается получить информацию о фазах.Функцию n(r) можно наглядно представить в виде серии карт электронной плотности для различных параллельных срезов через элементарную ячейку, на которых изображены системы линий, соединяющих точки с одинаковой электронной плотностью наподобие горизонталей на топографических картах.
В качестве иллюстрации на рис. 4.21 изображен участок карты электронной плотности гексаметилентетрамина [3].
Рис. 4.21. Карта электронной плотности гексаметилентетрамина
Отметим, что в большинстве случаев отдельные атомы на таких картах не прорисовываются. Однако, поскольку геометрия фрагментов хорошо известна из данных по рентгеноструктурному анализу низкомолекулярных соединений, детальное расположение отдельных атомов, как правило, удается вписать в полученное изображение макромолекулы.
На основе подобных карт с учетом других данных, полученных с помощью различных биохимических и физико-химических методов, были определены конформации множества белковых молекул. Так, по лауэграммам, подобным изображенным на рис. 4.16, установлена конформация молекулы миоглобина (рис. 4.22) [10].
Использование рентгеноструктурных данных для определения конформации белковых молекул было проиллюстрировано в гл. 1 на примере структуры молекулы цитохрома с.
Рис. 4.22. Конформация миоглобина, установленная на основе рентгеноструктурного анализа лауэграммы (см.
рис. 4.16)Кроме того, оказывается возможным построение моделей и гораздо более крупных структур. На рис. 4.23 приведен пример реконструкции четвертичной структуры молекулы гемоглобина. Здесь также видны группы гема, схематически представленные плоскими площадками.
Рис. 4.24 иллюстрирует лауэграмму, полученную при дифракции на ориентированном геле одного из простейших организмов - вируса табачной мозаики, а на рис. 4.25 приведен результат реконструкции фрагмента вируса [11].
Рис. 4.23. Четвертичная структура гемоглобина, установленная рентгеноструктурным анализом. Молекула состоит из из четырех полипептидных цепей: двух a-цепей и двух b-цепей. С каждой цепью связана одна группа гема, к которой присоединяется молекула кислорода
Рис. 4.24. Рентгенограмма ориентированного геля вируса табачной мозаики
Рис. 4.25. Строение сложной молекулы вируса табачной мозаики (белковые молекулы “нанизаны” на цепочку РНК)