Методы многомерного анализа, глава первая Морлезонского балета Опции

[IvanKur]

Здраствуйте.

Прочел пару книг по многомерному анализу (российских авторов), хотел бы разобраться:
То что написано ниже методы многомерного анализа?
А куда вписать метод ординаций и обобщенные аддитивные модели и что это такое?
И еще может у кого-нибудь есть англоязычное название этих методов из списка ниже, ну хотя бы 3. и 4. раздела

1.Корреляционный анализ
Линейная корреляция
Ранговая корреляция (Спирмена и Кендалла)
Множественная корреляция
Дисперсионный анализ
Однофакторный дисперсионный анализ
Многофакторный дисперсионный анализ

2.Регрессионный анализ
Линейная регрессия
Расчёт уравнения регрессии
Построение регрессионной прямой
Множественная линейная регрессия
Нелинейная регрессия
Бинарная логистическая регрессия
Мультиномиальная логистическая регрессия
Порядковая регрессия
Пробит-анализ

3.Распознование образов и типологии объектов (методы классификации)
Классификация при наличии обучающих выборок (дискриминантный анализ)
Классификация без обучения (параметрический случай): расщепление смесей вероятностных распределений
Классификация без обучения (непараметрический случай): метод кластер-анализ

4.Снижение размерности исследуемого многомерного признака и отбор наиболее информативных показателей
Метод главных компанент
Факторный анализ
Многомерное шкалирование.

[Игорь]

Ответ практически на любой вопрос (без углубления в тему, но с указанием дальнейших путей изучения) можно найти в Википедии. На Ваш вопрос ответ находится тут http://en.wikipedia.org/wiki/Multivariate_statistics. Там же можете найти искомые английские наименования.

А вообще, вывод о том, является ли статистический метод многомерным, зависит от числа измерений признаков. Например, если объект (пациент и т.д.) характеризуется одним признаком, то анализ будет одномерным, если более, чем одним (совокупность признаков, относящихся к одному объекту измерений, называется вектором), то анализ будет многомерным.

Из указанных Вами методов (хотя их распределение именно по таким разделам вызывает возражение) к многомерным относятся все методы из разделов 3 и 4, а также множественная и логистическая регрессии, многофакторный дисперсионный анализ.

[плав]

Довольно часто противопоставляют многомерные и многофакторные методики (multivariate & multivariable). Многофакторые методики - статистические модели в которых изучается влияние ряда признаков на одну зависимую переменную. Многомерные методики - те, в которых изучается распределение признака в многомерном пространстве (т.е. зависимой переменной нет). Соответственно, модели в которых есть зависимая переменная (регрессия, дисперсионный анализ) будут относится к многофакторным методам, а те модели, в которых зависимой переменной нет (кластерный анализ, методы снижения размерности, многомерное шкалирование) будут относится к многомерным.
Однако, подчеркну, это одно из толкований и, соответственно, не является правильным или не правильным. Можно задавать вопрос о применимости метода для конкретной задачи, поскольку разделение является условным с математической точки зрения (сравните линейный регрессионный анализ и корреляционный анализ - по приведенным выше определениям они относятся к разным группам).
Кроме того, как отмечал Игорь разделение приведенное выше достаточно странное, поскольку дисперсионный анализ и регресионный анализ (линейный) являются более близкими родственниками, чем линейная регрессия и логистическая регрессия (первые объединяются понятием общей линейной модели, с оценкой методом наименьших квадратов, а логистическая регрессия оценивается методом максимального правдоподобия - общая линеаризуемая модель). Дискриминантный анализ - родственник общей линейной модели, а кластерный ближе к факторному анализу, так же как и многомерное шкалирование.
Поэтому разделяя методы надо отвечать на вопрос - по какому признаку? По методу оценивания? По типу задачи? По...?

[IvanKur]

Огромное, Спасибо.
У меня вопросы?

Метод главных компанент, когда пространство двухмерно, а компонента одна, одно и то же что метод наименьших квадратов?

Какие методы многомерого анализа относят к проекционным?

Факторный анализ включает в себя метод главных компанент, а еще какие методы существуют в факторном анализе?

А метод ординаций к какому из методов относится?

[Игорь]

Современный факторный анализ включает 2 основных метода:
1. Метод главных факторов.
2. Метод максимума правдоподобия.

Эти методы отражают 2 основных подхода к решению проблемы: 1) выделение дисперсий, пропорциональных собственным значениям [редуцированной] корреляционной матрицы и 2) итерационный подход.

Метод главных компонент, по определению Лоули, это - вариант метода главных факторов, когда корреляционная матрица не редуцируется.

Наилучший источник по факторному анализу - Харман Г. Современный факторный анализ. - М.: Статистика, 1972. Обязательно найдите эту книгу, если хотите грамотно ознакомиться с предметом. Отмечу в этой связи, что оригинальное издание Хармана (2 издание, 1968 года, на английском языке) совершенно официально свободно (!) доступно в Интернете в рамках Канадского проекта Million Book Project по ссылке:
http://www.archive.org/download/ModernFact...orAnalysis.djvu

[IvanKur]

Спасибо.

[плав]

Метод главных компанент, когда пространство двухмерно, а компонента одна, одно и то же что метод наименьших квадратов?

Нет. Метод наименьших квадратов - это методика оценки неизвестных коэффициентов уравнения. Он обычно противопоставляется методу максимального правдоподобия.

Факторный анализ включает в себя метод главных компанент, а еще какие методы существуют в факторном анализе?

Строго говоря, метод главных компонент (principal component) не является факторным анализом. Факторный анализ преполагает обязательное наличие общих факторов, а PCA - не обязательно. При расчетах это выражается в том как определяются в корреляционной матрице, которая используется для расчетов диагнональные элементы. В PCA они равны 1, а в факторном анализе нет.
Методами извлечения факторов в ФА являются методы максимального правдоподобия, множественных коммунальностей, центроидный метод и метод главной оси и ряд других. Они дают разные результаты, поэтому для приведения результатов к общему виду используются методы вращения полученного решения. Их опять-таки довольно много, но они распадаются на две большие группы - ортогональное вращение (факторы не коррелируют) и неортогонального вращения. На самом деле выбранный тип вращения осей важнее метода получения решения

[IvanKur]

Спасибо.
А Ординации к чему относятся?

[nokh]

http://ordination.okstate.edu/overview.htm