Высшая школа экономики, Москва, 2011 hse.ru

1. Проект "Оценка результатов обучения в высшем образовании" (Assessment of Higher Education Learning Outcomes, AHELO) в России Вебинар для вузов-участников проекта AHELO-Инженерные науки25 апреля 2012 Высшая школа экономики, Москва, 2011 www.hse.ru

2. Программа вебинара • Представление проекта AHELO: цели, задачи, методология, характер и тематика оценочных заданий, инструментарий для оценки контекста результатов обучения. • Предварительные результаты реализации проекта в России. • Роль и задачи институционального координатора, администраторов тестирования в участвующих вузах. Порядок взаимодействия с Национальным контактным центром AHELO.   • Определение целевых групп студентов и преподавателей. Подготовка списков студентов и преподавателей и процедура выборки. • Приглашение студентов и преподавателей к участию в исследовании. Организационная и техническая подготовка к проведению тестирования студентов. • Обсуждение возможного перечня инженерных специальностей для тестирования студентов по направлению «гражданская инженерия». • Работа с данными исследования. Перспективы для дальнейшей работы консорциума участвующих вузов.

3. I. AHELO – Инновационный (groundbreaking) международный проект в области образования

4. Конечная цель - разработка комплексного, объективного и научно обоснованного подхода к оценке результатов обучения в ВО (альтернатива международным рейтингам вузов); получение международно сопоставимой информации о результатах обучения в ВО на уровне вузов, факультетов, образовательных программ Цель feasibility study (2008-2012) - оценка принципиальной возможности международного измерения уровня знаний и практических навыков студентов вузов, обучающихся в различных языковых, культурных и институциональных контекстах; разработка соответствующих инструментов измерения для оценки общих знаний и компетенций и специальных знаний и компетенций для двух пилотных дисциплин – Экономика и Инженерные науки Цель проекта фото фото Высшая школа экономики, Москва, 2011

5. Направления проекта фото фото фоо Высшая школа экономики, Москва, 2011

6. 17 стран-участниц(Швеция, Великобритания и Саудовская Аравия – наблюдатели) Страны-участницы фото фото Высшая школа экономики, Москва, 2011

7. 2 Этапа проекта 1-я фаза(pre-implementation phase) – разработка и апробация инструментария (2010 – 2011) Перевод, адаптация и верификация для оценки компетенций студентов Разработка инструментария для оценки контекста результатов обучения Проведение фокус-групп Проведение исследования на небольшой выборке студентов 2-я фаза(full implementation phase) – проведение полевого исследования на основе репрезентативной стратифицированной выборки во всех вузах (2011 -2012) фото фото Высшая школа экономики, Москва, 2011

8. Методология проекта (2) • Основа - методология проекта Tuning Educational Structures in Europe • Признание разнообразия программ обучения и степеней • Не унификация, а сопоставимость и общее понимание • Платформа для выработки университетами согласованных контрольных параметров (в терминах результатов обучения и компетенций ) по предметным областям, необходимых для обеспечения сопоставимости, совместимости и прозрачности программ. • Результаты обучения - ключевые знания и навыки, которыми должен овладеть студент в ходе процесса обучения; то, что учащийся должен знать, понимать и уметь демонстрировать после завершения обучения (уровень компетенции) • OECD (2011) A Tuning-AHELO Conceptual Framework of Expected Desired/Learning Outcomes in Engineeringhttp://dx.doi.org/10.1787/5kghtchn8mbn-en фото фото Высшая школа экономики, Москва, 2011

9. 1. Инструментарий AHELOдля оценки компетенций студентов • Онлайнтестирование продолжительностью 90 мин., состоящее из 2 типов заданий: • - 3 варианта заданий открытого типа с конструируемым ответом (в каждом варианте 5-6 заданий) • - 10 заданий с выбором единственного правильного ответа (тестовые задания) • 2. Инструментарий AHELOдля оценки контекста результатов обучения • Заполнение онлайн вопросников (10 мин.) • Для студентов • Для преподавателей • Для институциональных координаторов и администрации вузов • 3. Дополнительный инcтрументарий для оценки контекста результатов обучения (AHELO+) • Заполнение онлайн вопросников (15 мин.) • Для студентовwww.hse.ru/ahelo/q • Для преподавателей www.hse.ru/ahelo/f Инструментарий проекта фото фото Высшая школа экономики, Москва, 2011

10. Ожидаемые результаты и эффекты проекта • Международный инструментарий для оценки качества ВО и возможности учета лучшего зарубежного опыта при совершенствовании национальной оценки качества • Международно сопоставимые данные об уровне подготовки студентов • Международное позиционирование российских вузов в международном образовательном пространстве • Привлечения внимания иностранных учащихся и преподавателей к российским образовательным программам • Возможности участия в разработке комплексной международной системы оценки качества подготовки в вузах и учета особенностей, интересов и потребностей отечественного образования в этом международном процессе фото Высшая школа экономики, Москва, 2011

11. II. Предварительные результаты реализации проекта AHELO в России

12. Основные результаты • Большой интерес и поддержка со стороны российских вузов (реализация новых подходов к оценке качества с учетом требований рынка труда, переход на ФГОС-3, переход на Болонские принципы, в том числе в области качества, предложения МОН по проведению внешней аттестации для студентов-бакалавров …) • Реализация проекта AHELO в России как крупного межвузовского горизонтального проекта, направленного на формирование системы независимой оценки качества высшего образования фото фото Высшая школа экономики, Москва, 2011

13. Вузы-участники проекта (1) Консорциум 19 вузов (Экономика), 17 – участие во 2-й фазе Российская академия народного хозяйства и государственной службы при Президенте Российской Федерации Государственный университет управления Дальневосточный федеральный университет Казанский (Приволжский) государственный университет Московский государственный институт международных отношений (Университет) МИД России  Московский государственный университет им. М.В.Ломоносова Московский государственный университет экономики, статистики и информатики Национальный исследовательский университет «Новосибирский государственный университет» Российский экономический университет им. Г.В. Плеханова Санкт-Петербургский государственный университет Санкт-Петербургский государственный университет экономики и финансов Северный (Арктический) федеральный университет Северо-Восточный федеральный университет им. М.К. Аммосова Сибирский федеральный университет Уральский федеральный университет имени первого Президента России Б.Н. Ельцина Финансовый университет при Правительстве РФ Южный федеральный университет Алтайский государственный университет фото фото Высшая школа экономики, Москва, 2011

14. География проектав России по Экономике фото фото Высшая школа экономики, Москва, 2011

15. Вузы-участники проекта (2) Консорциум вузов (Инженерные науки) (в процессе формирования) Дальневосточный федеральный университет Донской государственный технический университет Московский государственный технический университет им. Н.Э. Баумана Национальный исследовательский Иркутский государственный технический университет Казанский национальный исследовательский технический университет им. А.Н. Туполева Национальный исследовательский технологический университет МИСиС Пермский национальный исследовательский политехнический университет Санкт-Петербургский государственный политехнический университет Северный (Арктический) федеральный университет им. М.В.Ломоносова Северо-Восточный федеральный университет им. М. К. Аммосова Сибирский федеральный университет Национальный исследовательский Томский политехнический университет Тюменский государственный нефтегазовый университет Уральский государственный  горный университет Уральский государственный университет путей сообщения Уральский федеральный университет им. первого Президента РФ Б.Н. Ельцина Южный федеральный университет Южно-Российский государственный технический университет фото фото Высшая школа экономики, Москва, 2011

16. География проектав России по Инженерным наукам фото фото Высшая школа экономики, Москва, 2011

17. Что уже сделано 1-я фаза Сформирован консорциум вузов-участников Апрель-июнь 2011 - проведены фокус-группы во всех вузах (18 на русс. языке, 3 на англ. яз, всего 204 студента) Июнь-сентябрь 2011 – обработаны и проанализированы результаты фокус-групп Сентябрь 2011 - завершен ATAV (адаптация, перевод и верификация)оценочныхзаданий+ пост-верификация с учетом результатов фокус-групп и рекомендаций модераторов из вузов Октябрь 2011 – завершен ATAV инструментов для оценки контекста результатов обучения (анкеты для преподавателей, студентов, администрации вузов) Создана система коммуникации и сетевого взаимодействия с вузами: сайт проекта www.hse.ahelo, регулярные тренинги и вебинары для вузов-участников 2-я фаза Январь-февраль 2012 - Проведение выборки из целевых групп студентов и преподавателей Февраль 2012- Апробация онлайн системы тестирования Февраль-март 2012 - Организационная и техническая подготовка к проведению поля фото Высшая школа экономики, Москва, 2011

18. Текущая и дальнейшая работа • Март – май 2012 – проведение основного исследования в вузах (тестирования и опроса студентов, опроса преподавателей и институциональных координаторов) • До конца июня 2012 – оценка заданий с конструируемыми ответами • Июнь – август 2012 - обработка и представление данных. Качественный и количественный анализ ОЭСР • Август- октябрь - Подготовка отчетных материалов для ОЭСР. Внутренний анализ результатов • Декабрь 2012, Итоговая национальная конференция - Обсуждение возможностей использования методологии, инструментария и результатов AHELO в ходе текущей работыпо внедрению ФГОС-3 и созданию независимой комплексной системы оценки качества высшего образования в России • Середина марта 2013, итоговая международная конференция (Университет прикладных наук Утрехта) - Обсуждение возможностей реализации полномасштабного международного мониторингового исследования качества на основе методологии AHELO (PISA для высшего образования) как реальной альтернативы международных рейтингов фото фото Высшая школа экономики, Москва, 2011

19. III. Роль и задачи институционального координатора, администраторов тестирования. Взаимодействие в НКЦ

20. Задачи институциональных координаторов • Ознакомление со всеми рабочими документами, необходимыми для исследования, рассылаемыми НЦ • ВАЖНО! Получение, проверка и обеспечение строгой конфиденциальности и безопасности всех тестовых материалов и инструментария, получаемых на протяжении всего периода подготовки и проведения исследования • Подготовка необходимых документов для проведения исследования • Своевременное определение и резервирование аудиторий (компьютерных классов) для проведения исследования • Определение и подготовка администраторов тестирования, взаимодействие с ними и с внешними наблюдателями в ходе проведения исследования • Проверка всех материалов, которые должны быть возвращены и переданы в НЦ ОЭСР (2011) Руководство по координации работы с учебными заведениями http://www.hse.ru/ahelo/docs фото фото Высшая школа экономики, Москва, 2011

21. Требования к администраторам тестирования • Наличие опыта проведения или мониторинга тестирования и оценивания студентов (экзаменов, зачетов и т.д.) • Должны иметь опыт использования компьютерных и онлайн систем оценивания (быть способны загрузить и запустить онлайн систему, решить возможные технические проблемы студентови т.д.) • Желательно не иметь прямых профессиональных контактов со студентами, которые участвуют в тестировании Численность АТ • От вуза – один АТ на одну аудиторию, если аудитория большая – 1 АТ на 40 студентов • От НЦ – один или несколько независимых наблюдателей ВАЖНО!Желательно присутствие непосредственно на тестировании (или в пределах досягаемости) ИТ-сотрудника фото фото Высшая школа экономики, Москва, 2011

22. Задачи администраторов тестирования • Помощь ИК в тех. и орг. подготовке тестирования • Получение, проверка, установка и обеспечение конфиденциальности установленной версии всех тестовых материалов • Проверка готовности помещений и рабочих мест (не позднее чем за 30 мин. до начала тестирования) • Совместно с ИК - встреча студентов, проверка и отметка прибывших и отсутствующих студентов по списочным листам (будут подготовлены НЦ в формате Excel после процедур выборки) • Сопровождение студентов до рабочих мест, выдача им индивидуальных логинов и паролей • Предварительное объяснение правил тестирования и установочные рекомендации • Мониторинг во время тестирования (обход, отслеживание процесса выполнения студентами заданий на компьютере) и напоминание о времени тестирования • Сопровождение студентов при необходимости выхода из аудитории • Ведение отчета о прохождении тестирования • Завершение тестирования • Сбор всех вспомогательных материалов и черновиков после тестирования ОЭСР (2011) Руководство по проведению тестированияhttp://www.hse.ru/ahelo/docs фото фото Высшая школа экономики, Москва, 2011

23. Порядок взаимодействия с НКЦ (1) фото фото Высшая школа экономики, Москва, 2011

24. Порядок взаимодействия с НКЦ (2) фото фото Высшая школа экономики, Москва, 2011

25. IV. Целевые группы студентов и преподавателей. Выборка

26. План/порядок подготовки выборки фото фото Высшая школа экономики, Москва, 2011

27. Основные требования к разработке выборки • Случайная стратифицированная выборка (одноступенчатая или многоступенчатая) • Доля участия – 75 % от включенных в выборку • Ожидаемый размер выборки для студентов – 200 человек от вуза (150 человек – реальное участие с учетом 25% не участвующих) • Если менее 200 или чуть более 200 – включаются все • Ожидаемый размер выборки для преподавателей – 40 человек от вуза (30 человек – реальное участие с учетом 25% не участвующих) • Если менее 40 или чуть более 40 – включаются все • ВАЖНО! Не допускается замена не участвующих студентов и преподавателей (‘volunteer sampling’) ОЭСР (2011) Руководство по формированию выборкиhttp://www.hse.ru/ahelo/docs фото фото Высшая школа экономики, Москва, 2011

28. Целевая группа студентов В целевую группу студентов входят: • 4-й курс бакалавритата или специалитета по направлениям инженерной подготовки, соответствующих профилю «Гражданская инженерия» • Студент должен быть официально зачислен, регулярно посещать занятия, не относиться к категории студентов, готовящихся к отчислению В целевую группу не входят и должны быть исключены при выборке: • Студенты на стажировке в период исследования • Студенты на производственной практике в период исследования • Студенты, обучающие дистанционно или заочно (в случае нехватки выборки из студентов-очников в выборку можно включать студентов, обучающихся по очно-заочной/вечерней форме) В целевую группу входят, но должны быть изъяты из выборки в случае попадания в выборку • Студенты с ограниченными возможностями ВАЖНО! В общий список вуза включаются все студенты (в том числе подлежащие исключению или изъятию из выборки). Студенты, исключенные из выборки должны быть указаны в конце общего списка и помечены как исключенные фото фото Высшая школа экономики, Москва, 2011

29. Целевая группа преподавателей В целевую группу входят: • все преподаватели, относимые к категории ППС, в чьи трудовые обязанности входит в том числе подготовка студентов-бакалавров (или специалистов) по направлению подготовки Инженерные науки по профильным для студентов-инженеров дисциплинам в течение текущего учебного года, включая период проведения исследования В целевую группу не входят (должны быть исключены при выборке): • Преподаватели, обучающие не по профильным предметам (например, преподаватели истории) • Преподаватели, обучающие профильным предметам студентов не-инженеров • Преподаватели, в том числе совместители, исследовали, АУП, не имеющие текущих преподавательских обязанностей В целевую группу входят, но могут бытьизъяты из выборки в случае попадания в • Преподаватели, преподающие профильные дисциплины для студентов, но имеющие большую доп. административную нагрузку ВАЖНО! В общий список вуза включаются все преподаватели (в том числе подлежащие исключению или изъятию из выборки). Преподаватели, исключенные из выборки должны быть указаны в конце общего списка и помечены как исключенные фото фото Высшая школа экономики, Москва, 2011

30. Подготовка списка студентов Шаг 1: Подготовка полного списка студентов, на основании рамки (таблицы), подготовленной НЦ и включающей: • Пол студента • Уровень успеваемости (по используемой в вузе 5 или 10-балльной шкале) • Широкое направление подготовки (в соответствии с МСКО) • Узкое направление подготовки (в соответствии с МСКО) • ФИО студента • Дата рождения студента • E-mail студента • Номер студенческого (ID) студента • Тел. студента • Статус студент- включен/изъят/исключен из выборки • Доп. основание для стратификации – обучение на бюджетной или платной основе • Другие основания для стратификации? (для обсуждения) Шаг 2: Подготовка анонимного списка студентов Шаг 3: Отправка полного анонимного списка студентов в НЦ Шаг 4: Автоматизированная случайная выборка + присвоение ID (НЦ) Шаг 5: выдача логинов и паролей для тестирования (МК) Шаг 6: передача логинов и паролей НКЦ вузам (не позднее чем за 3 дня до начала тестирования) фото фото Высшая школа экономики, Москва, 2011

31. Подготовка списка преподавателей Шаг 1: Подготовка полного списка преподавателей на основании рамки (таблицы), подготовленной НЦ Шаг 2: Подготовка анонимного списка преподавателей Шаг 3: отправка полного анонимного списка преподавателей в НЦ Шаг 4: автоматизированная случайная выборка (НЦ) Шаг 5: Автоматизированная случайная выборка + присвоение ID (НЦ) Шаг 6: выдача логинов и паролей для опроса (МК) Шаг 7: передача логинов и паролей НКЦ вузам (вместе с паролями студентов либо в день завершения тестирования студентов – опрос преподавателей проходит в течение недели после тестирования студентов ) фото фото Высшая школа экономики, Москва, 2011

32. Дальнейшая работа с выборкой • Рассылка институциональным координаторам списков с присвоенными логинами и паролями ВАЖНО! Не рассылать никому логины и пароли до проведения тестирования • Идентификация попавших в выборку студентов и преподавателей • Приглашение к участию в исследовании: подготовка и рассылка пригласительных писем • Мотивирование, бонусы и поощрения для студентов • Мотивирование преподавателей • Обеспечение явки студентов (административные меры) фото фото Высшая школа экономики, Москва, 2011

33. V. Приглашение студентов и преподавателей к участию. Организационная и техническая подготовка тестирования

34. Мотивирование и приглашение студентов • Рассылка писем на основании проекта письма от НКЦ (аналогично для преподавателей) • Выдача международных сертификатов об участии – согласовано с межд. консорциумом Дополнительные возможности: • Дополнительные баллы, кредиты • Подарочные сертификаты, например, кредит-сертификат в университетский книжный магазин • Денежное вознаграждение (нежелательно) • Подарки и презенты (USB, сувениры с университетской символикой…) • Лотереи среди студентов (значимые подарки показавшим лучшие результаты…) • Анонсирование и PR проекта и важности участия в исследовании на университетских сайтах, газетах и т.д….. ВАЖНО! По возможности – организация питания студентов после прохождения тестирования фото фото Высшая школа экономики, Москва, 2011

35. Планирование времени тестирования Общее время тестирования – не менее 3 часов, включая: • Тех. и орг. подготовку (загрузка заданий, проверка компьютеров, рабочих мест и т.д.) – не менее 30 мин. • Встречу студентов, проверку участников по спискам, сопровождение до рабочих мест, выдачу инд. паролей и логинов – не менее 30 мин. • Объяснение правил участия, установочные рекомендации – 10 мин. • Тестирование – 90 мин. (студент сам распределяет время между двумя модулями заданий) • Заполнение вопросника (AHELO) – 10 мин. • Заполнение вопросника (AHELO+) – 10 мин. • Завершение работ, благодарности – 10 мин. Тестирование студентов – один или несколько дней Преподаватели и ИК заполняют вопросники онлайн в свободное время фото фото Высшая школа экономики, Москва, 2011

36. Планирование и заказ аудиторий Требования к аудиториям для тестирования • Адекватная температура в помещении • Освещение, вентиляция, отсутствие лишнего шума, наличие в доступности туалетных комнат с указателями • Наличие одного стационарного работающего компьютера (с клавиатурой, монитором, мышью и интернет-соединением) на каждого студента • Наличие места для проходя АТ между рабочими местами (оптимально не менее 60 см.) • Наличие микрофонов и громкой связи – при необходимости • Наличие одного компьютера на каждого АТ • Наличие как минимум двух дополнительных свободных компьютера для ИК и АТ, а также на случай поломки других компьютеров фото фото Высшая школа экономики, Москва, 2011

37. Подготовка рабочих мет и расходных материалов Наличие необходимых расходных и вспомогательных материалов • ручки, карандаши и ластики, чистые листы бумаги (желательно цветные) • Калькуляторы разрешены для AHELO-Инженерные науки На рабочем месте студента не должно быть: • Верхних вещей и сумок • Никаких электронных приборов (мобильных телефонов, коммуникаторов, планшетников, электронных книг и т.д.) • Никаких расходных и вспомогательных материалов кроме ручки, карандаша, ластика и бумаги) • Книг и бумаг • Напитков и еды, кроме воды в пластиковых бутылках фото фото Высшая школа экономики, Москва, 2011

38. Подготовка компьютеров Минимальные системные требования к компьютерам • Интернет-браузер: Internet Explorer 6+, Firefox 3.6+, Safari 3.0+, Opera 10.5+, Chrome 6+ • Разрешение экрана монитора: 1024 х 768 или выше • Действующее интернет-соединение • Специальное ПО не требуется, необходима предустановленная Java, разрешены всплывающие окна в баузере ВАЖНО! Не допускается использование собственных ноутбуков студентов Желательно поставить дополнительную защиту на компьютеры для предотвращения: • возможности доступа в источникам информации в интернетеили каким-либо другим источникам информации • изменения установок онлайн системы тестирования (либо более внимательная работа администраторов тестирования по контролю за соблюдением процедуры) фото фото Высшая школа экономики, Москва, 2011

39. Ваши вопросы? Для обсуждения: 1. Возможный перечень инженерных специальностей для тестирования студентов по направлению «гражданская инженерия». 2. Работа с данными исследования. Перспективы для дальнейшей работы консорциума участвующих вузов, в том числе в части анализа программ подготовки инженеров с точки зрения ожидаемых результатов обучения и формируемых компетенций .

40. Контактное лицопо вопросам реализации проекта AHELO в РоссииМешкова Татьяна Анатольевнаtmeshkova@hse.ru+7(495)531-00-02, +7(985)960-41-54 101000, Россия, Москва, Мясницкая ул., д. 20 Тел.: (495) 621-7983, факс: (495) 628-7931 www.hse.ru Для получения дополнительной информацииwww.hse.ru/ahelo/ www.oecd.org/edu/ahelo