Информационные технологии - исследование

Каждый день мы оставляем за собой след из данных. Покупки, поездки, звонки, переходы по ссылкам. По отдельности эти записи не значат почти ничего, а собранные в таблицу на десятки тысяч строк они начинают отвечать на вопросы, на которые иначе и ответить нельзя.

Исследовательская область «Информационные технологии» занимается тем, как получать ответы на такие вопросы и как отличать устойчивую закономерность от случайного совпадения. Если вам интересно работать с реальными данными и подтверждать выводы расчётами, приглашаем вас в нашу область.

На этой странице собрано всё, что понадобится по ходу работы. Чем наши исследования отличаются от остальных, где брать данные, как устроены этапы и чего от вас ждут на защите.

Что такое ИТ-исследование

Начнём с того, что обычно вызывает больше всего вопросов. По своему устройству ИВР в нашей области ничем не отличается от исследования по истории, социологии или экономике. Логика работы та же (тема, ключевой вопрос, гипотеза, теоретическая и эмпирическая части, выводы), критерии оценивания общие, дедлайны – те же.

Отличается материал. Вы работаете с набором данных, который принято называть датасетом. Это таблица наблюдений, где строка описывает один объект (клиента, домохозяйство, происшествие), а столбцы содержат то, что о нём известно. Таблицу на несколько десятков тысяч строк нельзя ни прочитать целиком, ни пересказать, поэтому в ход идут статистические методы, от описательных оценок до корреляционного и регрессионного анализа.

У такого исследования есть приятное свойство. Его результат проверяем. Если вы утверждаете, что связь между признаками есть, это утверждение можно пересчитать на тех же данных и либо подтвердить, либо опровергнуть. Оборотная сторона тоже очевидна: утверждать что-либо без расчёта здесь не получится.

За время работы вы пройдёте весь путь аналитика, от сырой выгрузки с пропусками и опечатками до аккуратного вывода с честно обозначенными границами применимости.

Данные для исследования

К любому набору данных мы предъявляем несколько требований.

• Обезличенность. В данных не должно быть сведений, по которым можно установить конкретного человека.
• Достаточный объём и понятная структура. Полтора десятка строк выборкой не считаются, статистические выводы на них, к сожалению, не строятся.
• Известное происхождение. Нужно знать, кто собрал данные, когда и каким способом. Данные неясного происхождения не спасёт никакая статистика.
• Право использовать данные в учебной работе и публиковать результаты анализа.

Какие данные встречаются в работах

Транзакционные данные финансового сервиса

Обезличенные помесячные сведения о поведении клиентов, включая обороты по категориям расходов, участие в программе лояльности и размер полученного вознаграждения. На таких данных удобно изучать структуру потребления, отклик клиентов на условия программы и различия между группами клиентов.

Данные выборочного обследования домохозяйств

Результаты опроса нескольких тысяч семей с социально-демографическими характеристиками, доходами, сбережениями, кредитной нагрузкой и описанием финансового поведения. Обследования повторяются волнами, и часть семей отвечает уже не в первый раз, поэтому по таким данным отслеживают изменения у одних и тех же респондентов во времени.

Данные о дорожно-транспортных происшествиях

Сведения о происшествиях в крупном городе за календарный год. Время и место, состояние дороги и освещение, тип участников, тяжесть последствий. Вопросы здесь звучат вполне по-городскому. Где и когда аварии опаснее, какие условия повышают риск и что из этого следует для организации движения.

Хронология работы

Этапы идут в строгом порядке, и это не формальность. Каждый следующий опирается на результат предыдущего. Если пропустить очистку данных и сразу взяться за модель, получится красивый результат, который ничего не значит.

\

Даты сдачи промежуточных и итоговых материалов задаёт общая лента времени ИВР. Сверяйтесь с ней с самого начала, соблюдение сроков входит в условия допуска к защите.

С чего начать работу

Лента времени и дедлайны

План-проспект

Первый документ, который вы сдаёте, называется планом-проспектом. В нём фиксируется замысел работы, а именно тема, ключевой вопрос, гипотеза, задачи, материал, методы и предварительный список литературы. Общие требования описаны на странице «План-проспект», а здесь собрано то, что специфично для нашей области.

Тема исследования

Тема задаёт узкую область изучения, которую реально раскрыть в рамках ИВР. «Машинное обучение» темой не считается, под таким названием умещается целый учебный курс.

Примеры удачных формулировок:

• «Связь уровня дохода заёмщика и вероятности просрочки по потребительскому кредиту»;
• «Факторы участия домохозяйств в программах сбережений по данным выборочного обследования»;
• «Связь времени суток и тяжести последствий дорожно-транспортных происшествий в крупном городе».

Проверьте свою формулировку по четырём признакам. Она сужена до конкретного набора данных, показателя или модели. Она требует проверки гипотезы или сравнения методов. Данные, которые для неё нужны, у вас есть. У неё видны границы, то есть период, объект и методы.

Убедитесь также, что в ней нет трёх типичных изъянов. Излишняя общность («Анализ данных»), описательность («Что такое регрессия»), две темы, соединённые в одну («Кредитный скоринг и нейросети»).

Поскольку почти вся работа сводится к поиску и проверке зависимостей, в названии обычно появляются слова «связь», «взаимосвязь», «влияние», «факторы». Требованием это не назовёшь, но ориентир хороший.

Ключевой вопрос

Ключевой вопрос показывает, на что отвечает работа. Он вырастает из темы, но не повторяет её. Тема очерчивает поле, вопрос ставит задачу. Примеры формулировок.

• «Связан ли уровень дохода заёмщика с вероятностью просрочки по потребительскому кредиту?»;
• «Есть ли статистически значимая связь между суммой кредита и наличием просрочки?»;
• «Снижается ли тяжесть последствий ДТП в дневное время при прочих равных?».

Если специфика работы такова, что ключевой вопрос поставить нельзя, вместо него формулируется цель, то есть результат, к которому должно привести исследование.

Гипотеза

Гипотезу формулируют до расчётов, подгонять её под полученные цифры нельзя. В статистике гипотезы идут парой.

• нулевая (H₀) утверждает, что эффекта или связи нет;
• альтернативная (H₁) принимается тогда, когда данные противоречат нулевой.

Здесь легко ошибиться, и на защите такая ошибка обходится дорого. Писать, что нулевая гипотеза «ожидается к отклонению», нельзя. Исследователь не знает заранее, что получится, иначе не было бы смысла считать. Если гипотеза не подтвердилась, ничего страшного не произошло. Опишите полученную оценку, объясните возможные причины и укажите, какие данные или методы понадобились бы дальше. Честный отрицательный результат ценится выше натянутого положительного.

Второе требование касается содержательности. То, что расходы растут вместе с доходами, известно и без вашей работы. Уточняйте, у какой группы, при каких условиях и насколько сильно.

Задачи

Задачи складываются в список действий, которые приводят к ответу на ключевой вопрос. Обычно их пять-восемь, и они же задают структуру текста. Сколько задач, столько и разделов в основной части.

Формулируйте их через инфинитив. Изучить, проанализировать, рассчитать, сравнить, оценить. Полезное правило состоит в том, что в хорошо поставленной задаче видны метод, переменные, период и источник данных. Сравните «изучить динамику доходов» с формулировкой «сравнить темпы роста номинальных и реальных доходов с 2015 по 2024 год по данным официальной статистики». Вторую задачу можно выполнить, первую остаётся только имитировать.

Если задача не приводит к расчёту, таблице или графику, скорее всего, перед вами не задача.

Материал исследования

Материалом называют конкретные данные, с которыми вы работаете. На этом этапе стоит потратить время и разобраться в датасете прежде, чем обещать что-то в нём найти. Опишите происхождение данных, объём, период наблюдения, состав полей и их типы.

Например, «обезличенный набор данных о выплатах по программе лояльности за период с 2023 по 2025 год, 10 000 клиентов, поля с идентификатором операции, суммой выплаты, категорией расходов и месяцем».

Если планируете привлекать дополнительные источники (статистические сборники, отраслевые отчёты, исследовательские базы), укажите их сразу, чтобы потом не выяснилось, что доступа к ним нет.

Методы исследования

Методами называют инструменты, которыми вы решаете задачи и проверяете гипотезу. Перечисляйте только те, что действительно применяете. Эффектное название метода, которого нет в тексте, стоит баллов и вызывает на защите ровно один вопрос, где он.

Обычный набор в нашей области выглядит так.

• описательная статистика и визуализация распределений;
• статистические критерии для сравнения групп;
• корреляционный анализ;
• линейная и логистическая регрессия;
• процедуры обработки пропусков, выбросов и нормализации данных.

Считать можно в электронных таблицах, в R или в Python. Начинать проще с таблиц, а когда задача перерастёт их возможности, эксперт области подскажет, куда двигаться дальше.

Литература

К литературе относятся научные работы, на которые вы ссылаетесь, то есть статьи, монографии и методические издания по применяемым методам. Ссылаться можно только на то, что вы прочитали сами.

Литературой не являются энциклопедии и «Википедия», записи в блогах, обучающие видеоролики и ответы генеративных моделей. Научно-популярные материалы помогают войти в тему, и это вполне законный способ разобраться в новом сюжете, но в списке литературы им места нет.

Искать стоит в eLibrary, «КиберЛенинке», Google Scholar, подписанных ресурсах библиотеки НИУ ВШЭ, а также в публикациях статистических служб и регуляторов.

Теоретическая часть

Теоретическая часть содержит обзор литературы и методологическую основу работы. Она нужна для того, чтобы читатель понял, откуда взялась ваша гипотеза и почему вы проверяете её именно так. Позже она становится основой введения и первой главы.

В нашей области в неё обычно входят такие элементы.

1. определение ключевых понятий и описание изучаемого явления;
2. обзор работ, в которых решались сходные задачи, с ответом на вопрос, какие данные и методы использовались, к каким выводам пришли авторы и что осталось неясным;
3. описание набора данных, его происхождения, структуры, объёма и известных ограничений;
4. описание подготовки данных, включая обработку пропусков и выбросов, нормализацию и отбор признаков;
5. результаты разведочного анализа, то есть описательные статистики, распределения и первые оценки связей;
6. формулировка гипотезы, вытекающая из теории и разведочного анализа.

Каждое упоминание чужой работы сопровождается оформленной ссылкой. И ещё одно. Теоретическая часть должна читаться как связное рассуждение, а списка пересказов по одному абзацу на статью лучше избегать.

Эмпирическая часть

Эмпирическая часть отвечает на единственный вопрос, как именно вы получили свои выводы. Порядок работы обычно такой.

1. описать данные, на которых проверяется гипотеза, и обосновать выборку;
2. обосновать выбор модели или статистического критерия, объяснив, почему он подходит вашим данным и вашей гипотезе;
3. привести формулировку модели и условия её применимости;
4. выполнить расчёты и проверить гипотезу;
5. интерпретировать результат, то есть коэффициенты, уровень значимости и доверительные интервалы;
6. оформить результаты в виде подписанных таблиц и графиков;
7. сформулировать выводы и обозначить ограничения.

Есть два правила, за которыми в нашей области следят особенно внимательно.

Первое: статистическая связь причиной не является. Корреляция даёт повод выдвинуть гипотезу, но сама по себе ничего не доказывает. Поэтому в выводах пишут «выявлена статистически значимая связь», а от формулировки «доказано, что доход влияет на просрочку» лучше воздержаться.

Второе: выводы живут ровно в тех границах, в которых собраны данные. Результат, полученный по клиентам одного сервиса за один год, не распространяется на всех и навсегда. Ограничения нужно проговорить в заключении, это признак аккуратности автора.

Структура и оформление текста

Общие требования к ИВР немногочисленны. Основная часть делится на главы в соответствии с задачами, а эмпирической части предшествует теоретическая. Для наших работ обычно подходит такая схема.

• титульный лист по шаблону Лицея и оглавление;
• введение, где приводятся тема, ключевой вопрос и комментарий к нему, гипотеза, задачи, методы с обоснованием выбора и обзор источников данных;
• глава 1 с теоретическими основами и постановкой гипотезы (обзор литературы, описание и подготовка данных, разведочный анализ);
• глава 2 с проверкой гипотезы (модель и её обоснование, расчёты, результаты);
• глава 3, если она нужна, с интерпретацией результатов и их практическим значением;
• выводы и заключение, где подводятся итоги по задачам, даётся ответ на ключевой вопрос, описывается судьба гипотезы, ограничения и перспективы;
• список литературы и приложения с объёмными таблицами, графиками и программным кодом.

Обоснование актуальности, объект и предмет в учебном исследовании необязательны. Их вписывают тогда, когда есть что сказать по существу, ради строки в оглавлении заполнять эти разделы не нужно.

Литературный обзор может стать отдельной главой, частью введения или распределиться по тексту. Выбирайте тот вариант, от которого работа станет связнее.

Отдельно напомним про подписи. У каждой таблицы и каждого рисунка должны быть номер, название и указание на источник данных, включая случай, когда источником служат ваши собственные расчёты.

Вёрстка в LaTeX

Текст работы в нашей области верстается в LaTeX и сдаётся в формате PDF. Причина простая. В исследовании с формулами, таблицами оценок и десятком рисунков текстовый редактор рано или поздно начинает жить своей жизнью, а LaTeX сам держит в порядке нумерацию, перекрёстные ссылки и библиографию. Собирать документ удобно в Overleaf, его не нужно устанавливать на компьютер.

Вот что мы смотрим в свёрстанной работе.

• формулы набраны формульными окружениями. Скриншоты формул и записи вида “H0” обычным текстом не принимаются;
• таблицы и рисунки подключены плавающими окружениями с подписью через \caption, а в тексте упоминаются по ссылке \ref, поэтому нумерация переживает любые правки;
• графики вставлены в векторном формате (PDF или EPS) и остаются читаемыми при печати;
• список литературы собран через BibTeX или biblatex со стилем по ГОСТ, ссылки в тексте расставлены командой \cite;
• программный код и объёмные выгрузки вынесены в приложение и оформлены окружением listings или verbatim.

Начинайте верстать сразу, вместе с первой главой. Перенос готового текста из редактора в LaTeX за неделю до сдачи отнимает куда больше времени, чем может показаться, и обычно не заканчивается ничем хорошим.

Вместе с PDF сохраните исходные файлы. Они понадобятся, когда по работе придут правки.

Те же содержательные пункты, только короче, должны прозвучать в презентации на защите.

Академические нормы

Работа пишется научным стилем, без оценочных суждений, разговорных оборотов и обращений к читателю. Перед сдачей сверьтесь с критериями оценивания, комиссия смотрит именно на них.

Генеративные модели. Ими можно пользоваться для поиска литературы, проверки грамматики и наведения порядка в черновике. Написание текста работы и получение результатов им поручать нельзя, сгенерированные «данные» и «расчёты» результатом исследования не являются. Если вы пользовались такими инструментами, укажите это в разделе о методах.

Работа с данными. Если набор данных передан вам с ограничениями на распространение, публиковать его целиком в приложении нельзя, приводите агрегированные таблицы и результаты расчётов. Сведения, по которым можно установить конкретного человека, в работе не используются ни при каких условиях.

Все работы проходят проверку в системе «Антиплагиат» НИУ ВШЭ.

Подготовка к защите

На доклад отводится семь-десять минут, и это меньше, чем кажется. Замысел и методы опишите коротко, основное время оставьте результатам, именно в них ценность работы.

Презентация поддерживает выступление и не дублирует его. Минимум текста, читаемые графики с подписанными осями, единый стиль. Прогоните доклад вслух хотя бы раз, засекая время.

Вопросы комиссии почти всегда уточняющие, их задают, чтобы разобраться в работе. В нашей области спрашивают в основном об одном и том же. Откуда взялись данные, почему выбран этот метод и где проходят границы полученных выводов. Ответы на эти три вопроса стоит продумать заранее.

Полезные ссылки

• Критерии оценивания ИВР
• Тема и ключевой вопрос
• План-проспект
• Теоретическая часть
• Литературный обзор
• Структура текста
• Оформление работы
• Защита ИВР