Версия для печати темы

Нажмите сюда для просмотра этой темы в обычном формате

Форум врачей-аспирантов _ Медицинская статистика _ Импутация данных при машинном обучении

Автор: kont 17.08.2017 - 18:30

Уважаемые форумчане, у меня такой вопрос. Любая предикативная модель строится на полных данных и предсказывает на полных данных. Например, мы строили модель на предикторах х1,х2,х3,х4,х5,х6 и предсказывали Y.
Подсовываем модели валидационные данные(не тестовая выборка), но там, 2 переменных, например 1 и 3-ая в ряде наблюдений имеет или пустоту или нулы. На NULL понятно не умножить, а вот пустота может расценивать как 0 и можно получить неверное предсказание.
Есть ли способы корректного импутирования данных?
Во первых на треин семпл, они могут быть!
Во вторых на треин семпл их может не быть и на тест семпл не быть,а вот на валидационной выборки еще как могут.
Как бороться с пропусками в контексте такой ситуации?

Автор: p2004r 17.08.2017 - 19:31

Так и называется "data imputacion".

Вот например описание https://www.r-bloggers.com/imputing-missing-data-with-r-mice-package/

получаете варианты решения для выборки с пропущенными значениями, замещая их специально сгенеренными, затем обобщаете варианты решения в одно с доверительными интервалами которые естественно станут шире в местах де решение зависит от импутированных значений.

По моему просто и понятно.

Автор: kont 18.08.2017 - 17:20

да там, понятно написано

Автор: kont 18.08.2017 - 18:47

p2004r, вопрос к Вам, как к активному пользователю, в каких случаях мы наблюдаем такое, тут ни одна из предложенных MLP не сработало правильно? Чтобы это значило, и как исправить?

 

 mlp.zip ( 254,78 килобайт ) : 235
 

Автор: p2004r 18.08.2017 - 21:40

Цитата(kont @ 18.08.2017 - 18:47) *
p2004r, вопрос к Вам, как к активному пользователю, в каких случаях мы наблюдаем такое, тут ни одна из предложенных MLP не сработало правильно? Чтобы это значило, и как исправить?


это что, многослойный перцептрон и спецификация слоев?

Автор: kont 19.08.2017 - 20:26

скорее модели много слойного перцептрона, 4 наилучших
входные нейроные-скрытые и выходные
точность хреновая, как видите

Автор: p2004r 21.08.2017 - 15:39

Цитата(kont @ 19.08.2017 - 20:26) *
скорее модели много слойного перцептрона, 4 наилучших
входные нейроные-скрытые и выходные
точность хреновая, как видите


ну так оно так и не обучается гарантированно, там более сложная архитектура нужна сети

Автор: kont 22.08.2017 - 16:07

в сторону какой библиотечки лучше смотреть? Карет не устраивает.

Форум Invision Power Board (http://www.invisionboard.com)
© Invision Power Services (http://www.invisionpower.com)