Дифференцирующая способность теста. Определение параметров трудности и дифференцирующей способности заданий

Векслер Виталий Абрамович , кандидат наук, доцент, доцент
Саратовский государственный университет имени Н. Г. Чернышевского

ДИСКРИМИНАТИВНОСТЬ
ТЕСТИРОВАНИЕ
СТАНДАРТИЗАЦИЯ ТЕСТА
ПЕДАГОГИЧЕСКОЕ ТЕСТИРОВАНИЕ
ТЕСТОЛОГИЯ

В статье рассмотрены вопросы стандартизации теста и проверки его качества при помощи инструмента дискриминативности (проверка дифференцирующей способности теста и отдельного задания). Ход проверки теста продемонстрирван на примере.

Особенности проектирования нестандартных тестовых заданий
Особенности определения валидности педагогического теста
Использование программных средств тестирования в педагогической практике

Стандартизацией теста называется комплекс взаимосвязанных между собой процедур, позволяющий создать для всех испытуемых равные условия, и подразумевает единообразный подход к процедуре проведения и оценивания результатов выполнения испытуемыми заданий.

Ни одному испытуемому не может даваться никаких даже минимальных преимуществ перед другими.
Группа тестируемых, перед прохождением тестирования, должна быть «выровнена по мотивации».
Тестирование различных групп испытуемых должно занимать равные временные промежутки и проводится при одинаковых внешних условиях. Если тест будет вторично использоваться в условиях, которые уже существенно отличаются от тех, где он был изначально проведен, то обязательно потребуется некоторое соотнесение этих условий друг с другом или адаптация теста к новым измененным условиям.
Содержание теста должно соответствовать требованиям стандартов образования.
Все испытуемые выполняют одни и те же задания (параллельные, подобные формы заданий).
В тест включаются задания одной формы либо различных форм с соответствующими весовыми коэффициентами, значение которых получены статистическим путем.
Установление норм. Норма теста – это некий условно сформированный уровень, который можно принять за средний, отражающий развитие некоторой, возможно большой, совокупности людей, условно похожих на данного испытуемого по определенному ряду выявленных, в ходе дополнительного исследования, социально-демографических характеристик. В большинстве случаев тестовый показатель индивидуума мы можем выявить на основе сравнения с оценками, полученными по данному тесту другими людьми. Норма теста обычно будет, определяется в результате тестирования большой выборки испытуемых определённого возраста и пола, с последующим усреднением полученных оценок с их последующим дифференцированием по группам: разделением по возрасту, полу, социальному положению, уровню урбанизации, психофизическим показателям и ряду многих других показателей необходимых в контексте именно данной дифференциации. При этом, данная группа людей будет, называется выборкой стандартизации и станет служить показателем для установления норм. Всякая норма, как правило, со временем может, изменяется коррелируя вместе с естественными или другими взаимосвязанными с ней изменениями, поэтому есть правило, согласно которому нормы теста, особенно интеллектуального, должны пересматриваться, как минимум один раз в пять лет. Система подсчета баллов, на основе норм, должна быть предварительно разработана и применена ко всем ответам испытуемых без исключения.
Проверка тестовых работ должна быть строго регламентирована, а именно проверяющим даются эталоны правильных ответов и стандартизованные критерии оценок.
Стандартизация теста так же заключается в приведении процедуры оценок к общепринятым в учебной среде нормативам.
Тест должен быть обязательно социокультурно адаптирован т.е необходимо соблюдать соответствие тестовых заданий и оценок, которые испытуемый получает по этим заданиям, особенностям культуры, сложившимся в том или ином обществе, где данный тест используется, если он заимствован в другой стране.
Для полного обеспечения единообразия условий проведения теста, разработчик описывает подробные указания по проведению каждого вновь разработанного теста.
Учет «внешних факторов». Например, зачитывая вслух инструкцию или задание, нужно принимать во внимание тон голоса, скорость речи, интонацию, паузы и выражение лица.
Тест должен сопровождаться руководством для пользователя, в котором описываются:
- назначение теста и его описание;
- показания для применения;
- состав теста;
- информация об апробации теста (цели, объем и состав выборки, основные статистические характеристики);
- инструкция по процедуре проведения тестирования;
- ключи;
- трудность и дискриминативность теста («дискриминативность» - «тонкость измерения», т.е. способность дифференцировать тестируемых относительно «минимальных» и «максимальных» результатов теста, дифференцирующая способность);
- данные о надежности и валидности теста;
- другие статистические материалы;
- правила и инструкции для обработки данных;
- устройство шкалы, правила и особенности интерпретации данных.

Таким образом, если тесты стандартизированы, то мы можем сказать, что возможно провести сравнение показателей, полученные одним испытуемым, с таковыми в генеральной совокупности или соответствующих группах. Тем самым достигается адекватная интерпретация показателя отдельного испытуемого.

Дискриминативность измеряется показателем дельта Фергюсона и принимает максимальное значение при равномерном (прямоугольном) распределении показателей (d=1).

При разработке теста, безусловно, необходимо стремиться к тому, чтобы его задания как можно точнее могли измерять проверяемое свойство. Например, если в результате проведенного обследования почти все испытуемые получили примерно одинаковые результаты, то это может означать только то, что тест проводит измерения очень грубо и неточно, без особых градаций различающих особенности испытуемых. Чем большее количество градаций результатов можно получить при помощи теста, тем выше будет его разрешающая способность. Мера тонкости измерения (или степень диффиренцируемости результатов) теста называется дискриминативностью.

Дискриминативность теста измеряется показателем дельта Фергюсона (рис.1):

Рис.1. Показатель дельта Фергюсона

В данной формуле введены следующие обозначения: N – количество испытуемых, n – количество заданий, f i - частота встречаемости каждого показателя. Наименьшая дискриминативность теста определена при δ = 0, наибольшая при δ = 1.

Рассмотрим простейший пример расчета индекса дискриминативности заданий.

Проводится тестирование по теме «Информационные процессы». В тестировании принимают участие 7 человек, количество заданий - 4.

Цель задания: овладение навыком расчета индекса дискриминативности.

Алгоритм вычислений:

Составьте таблицу частот встречаемости каждого показателя.
Подсчитайте, как часто встречаются значения показателей для данного теста.
Возведите эти числа в квадрат и просуммируйте их.
Прибавьте единицу к количеству заданий.
Возведите в квадрат количество испытуемых.
Помножьте количество заданий на результат шага 4.
Теперь у нас есть все элементы формулы. Подставьте их и рассчитайте коэффициент.
Сделайте вывод о дискриминативности теста «Информационные процессы».

Оснащение: микрокалькулятор или компьютер, таблица первичных данных (рис. 2).

Рис. 2 – таблица первичных данных отражающая результаты в баллах у семи испытуемых

На основании таблицы первичных данных получим таблицу частот встречаемости каждого показателя (рис. 3).

Рис.3 – Таблица частот встречаемости каждого из показателей теста выполненная на основе анализа предложенной в рис.1 таблицы частотных данных.

Вычислим квадраты частот (рис.4):

Рис. 4 – таблица квадратов частот определенная по таблице частот показателей теста.

Произведем вычисления показателем дельта Фергюсона, где n=4 (количество заданий), N=7 (количество испытуемых), N 2 =49 (рис. 5).

Рис. 5 – Вычисление показателя дельта Фергюсона

На основании проведенного вычисления сделаем вывод: δ = 0,97 данный показатель указывает на высокую дискриминативность теста «Информационные процессы», так как наибольшая дискриминативность при δ = 1. Показатель δ = 0,97 приближается к единице.

Дискриминативность или дифференцирующая способность как показатель отражает общую способность созданного исследователем теста отделять испытуемых с высоким общим баллом по тесту от тех, кто получает низкий балл и позволяет проверить качество созданных заданий в тесте.

Для проверки качества отдельных заданий будем использовать метод крайних групп. Данный метод позволяет определить может ли задание дифференцировать учащихся. Задания, на которое одинаково хорошо могут ответить испытуемые, как с высокими, так и с низкими способностями, не обладает хорошей дифференцирующей способностью. Таким образом, цель использования на практике данного метода выражается в удалении некачественных заданий.

Для определения дифференцирующей способности задания будем использовать формулу метода крайних групп (рис. 6).

Рис. 6 – Формула для вычисления показателя, отражающего дифференцирующую способность задания методом крайних групп с расшифровкой составляющих

Опишем показатель интерпретации, полученный в результате вычисления результата:

a) если D в промежутке от 0,3 до 1 – задание эффективно (обладает высокой дифференцирующей способностью среди испытуемых, качество задания высокое);

b) если D в промежутке от 0,1 до 0,3 – задание обладает низкой степенью дифференциации (задание «слабое», его рекомендовано удалить и заменить другим);

с) если D меньше 0,1 – задание не качественное (оно должно быть удалено и заменено другим).

Рассмотрим простейший пример расчета показателя дифференцирующей способности по методу крайних групп.

Было проведено тестирование в группе из 30 испытуемых. Количество заданий - 10. Полученные результаты приведены в таблице частот встречаемости показателей (рис. 7). Цель исследования: необходимо проверить качество задания № 1.

Рис. 7 – Таблица частот встречаемости показателей теста (исходные данные для проведения вычисления)

Проведем вычисления основных индексов, которые нам понадобятся в основной формуле. Определим 27% от количества испытуемых для создания крайних групп. Примерно получим 8 испытуемых (округлим результаты). Таким образом, мы возьмем 8 человек набравших малое количеств баллов (в нашем примере 0,1,2,3 балла) – так сформирована слабая группа и 8 человек набравших наибольшее количество баллов (в нашем примере – 9,10 баллов) – так сформируем сильную группу. Теперь проверим, как эти испытуемые отвечали на задание № 1 (рис. 8).

Рис. 8 – результаты выполнения исследуемого задания (задания № 1) испытуемыми из крайних групп (сильная и слабая группа).

Приведем данные для подстановки в формулу метода крайних групп (рис. 9).

Подставим данные и получим следующий результат (рис. 10).

Рис. 10 – Вычисление показателя метода крайних групп.

На основе полученных данных мы можем сделать вывод: задание № 1 в тесте является эффективным, так как показатель находится в диапазоне от 0.3 до 1.

Таким образом, стандартизация теста является целенаправленным процессом позволяющим определить условия для качественного прохождения испытаний теста и сделать тест психологически комфортным при прохождении для испытуемых. Стандартизация теста наиболее важна и в тех случаях, когда осуществляется сравнение показателей обследуемых. При этом важна выработка нормы, или нормативных показателей. Для получения стандартных норм нужно тщательно отобрать большее количество испытуемых в соответствии с ясно обозначенным критерием. Интерпретация результатов тестирования будет иметь значимых характер только в том случае если сам тест был создан качественно, одним из показателей данной характеристики может является и дискриминативность как теста в целом так и каждого задания в отдельности.

Список литературы

Аванесов В.С. Тесты: история и теория // Управление школой, 1999, №12.
Аванесов В.С. Формы тестовых заданий: учебное пособие для учителей школ, лицеев, преподавателей вузов и колледжей. 2-е изд. перераб. и расширен. - М.: Центр тестирования, 2005. - 156 с.
Анастази А., Урбина С., Алексеев А.А. Психологическое тестирование - Санкт-Петербург, 2007. Сер. Мастера психологии (7-е международное издание)
Векслер В.А. Психолого-педагогические аспекты тестирования// В.А. Векслер, О.Л.. 2015. Т. 1. № 35. С. 199-204.
Векслер В.А. Эргономические требования к электронным образовательным ресурсам // Психология, социология и педагогика. 2015. № 5 (44). С. 37-39.
Векслер В.А. Возникновение тестологии //Современные научные исследования и инновации. 2015. № 5-4 (49). С. 113-116.
Ефремова Н.Ф., Звонников В.И., Челышкова М.Б. Педагогические измерения в системе образования //Педагогика. 2006. - № 2. - С. 14-22.
Майоров А.Н. Теория и практика создания тестов для системы образования. – М.: «Интеллект-центр», 2001. -296 с.
Равен Джон Педагогическое тестирование: Проблемы, заблуждения, перспективы / Пер. с англ. - М.:"Когито-Центр", 1999.-144 с.
Самылкина Н.Н. Современные средства оценивания результатов обучения: учебное пособие - М.:Бином. Лаборатория знаний, 2012. - 197 с.

Помимо использования отдельных тестов специальных способностей, на Западе широко применяются батареи тестов, т.е. группы тестов, измеряющих относительно независимые особенности индивидов, в совокупности способствующие успешному осуществлению определенной деятельности. С помощью батарей можно получать профили тестовых показателей по относительно независимым существенным характеристикам, выявленным посредством факторно-аналитических исследований.

Первым опытом создания таких комплексных батарей способностей были Чикагские тесты основных умственных способностей (Primary Mental Abilities Tests - PMA) . Они основывались на концепции Л. Терстоуна о существовании 12 независимых первичных умственных способностей, лежащих в основе успешности учебной деятельности. Впервые опубликованные в 1941 г., они предназначались для учащихся старших классов и колледжей. Позднее эта батарея была усовершенствована (1962), в нее включили тесты для младших возрастов. Однако из-за наличия ряда существенных недостатков (низких надежности и валидности, неадекватности норм, необоснованности ряда показателей, чрезмерной зависимости результатов от скорости) в настоящее время она была вытеснена более современными методиками того же типа.

Одной из них является комплексная батарея Тестов различных способностей (Differential Aptitude Tests - DAT). Эта батарея, изданная в 1947 г., затем неоднократно пересматривалась; она предназначена для консультирования учащихся 8-12-х классов в процессе их обучения и профессиональной ориентации. Она применяется в двух эквивалентных формах S и Т, каждая из которых включает восемь субтестов.

Примеры заданий

1. Словесное мышление.

Выберите нужную пар)" слов, чтобы заполнить пропуски в предложении. Первое слово пары заполняет пропуск в начале предложения, второе в конце:

Вечером, а завтрак...

A. Ужин - угол.

B. Кроткий - утро.

C. Дверь - угол.

D. Течение - радость.

E. Ужин - утро. Правильный ответ - Е.

2. Числовые способности.

Для каждой задачи найдите правильный ответ: Сложить 13 и 12

Е. Ни одно из приведенных чисел. Правильный ответ - В.

3. Абстрактное мышление.

Каждое задание состоит из серии фигур, меняющихся по определенному правилу. Поняв правило изменения фигур в каждом задании, следует найти продолжение ряда фигур, выбрав ответ из пяти предложенных вариантов.

4. Скорость и точность восприятия.

В каждом задании теста подчеркнута одна из пяти предложенных комбинаций символов. На бланке ответов испытуемый должен был отметить точно такую же комбинацию.

5. Техническое мышление.

Каждое задание представляет собой изображенную ситуацию технического характера и короткий вопрос, ответ на который требует технического понимания.

6. Пространственные отношения.

В заданиях по изображенной развертке геометрической фигуры нужно найти се среди четырех вариантов ответов.

7. Грамотность.

Укажите, какое слово написано правильно, а какое с ошибкой.

(Символами х отмечены верные ответы).
8. Использование языка.

Укажите, в какой из отмеченных буквами частей предложения содержится ошибка и отметьте эту часть на бланке ответов символом х. Если предложение не содержит ошибки, отметьте Н.

А. Нужноли нам /выходить/ на работу/ на следующей неделе?

Батарея DAT стандартизирована, проверена па валидность и надежность на выборке, репрезентативной популяции учащихся США 8-12-х классов. Выборка включала более 64 000 учащихся 76 школ из 33 штатов и округа Колумбия. Данные о валидности DAT составляют несколько тысяч коэффициентов, большая часть которых относилась к прогностической валидности достижений в школе и успешности последующего обучения (в вузах, на специализированных курсах и училищах и проч.). Признано, что эта батарея неплохо оценивает возможности индивидов в учебной деятельности общего характера. Однако учебный критерий далеко не всегда позволяет прогнозировать профессиональные достижения, а данных но профессиональным критериям недостаточно.

Поэтому в целях профессионального консультирования используются другие методики. Одной из наиболее признанных является Батарея тестов общих способностей (Général Aptitude Test Battery - GATB) . Она разработана Службой занятости США специально для применения в деятельности консультантов в государственных учреждениях. Посредством этой батареи измеряются девять факторов, в нее входят 12 тестов. В GATB представлены следующие факторы:

1) общие способности к обучению (оцениваются по суммарному показателю трех тестов - словарного, математического мышления и восприятия трехмерного пространства);
2) вербальные способности (измеряются словарным тестом, в котором испытуемый должен указать, какое из двух слов в каждом наборе имеет то же или противоположное значение);
3) числовые способности (оцениваются тестами на вычисление и математическое мышление);
4) пространственные способности (измеряются тестом восприятия трехмерного пространства, включающим задания на понимание отражения трехмерных объектов в двухмерном пространстве и на умения представлять результат движения в трех измерениях);
5) восприятие формы (измеряется двумя тестами, в которых испытуемый сопоставляет чертежи деталей и геометрические формы);
6) мысленное восприятие (тесты аналогичны тем, что используют для оценки восприятия формы, но сопоставляются названия, а не чертежи и формы);
7) двигательная координация (измеряется простым тестом, в котором испытуемый делает в сериях квадратов определенные пометки карандашом);
8) пальцевая моторика (измеряется двумя тестами, в которых испытуемый соединяет и разъединяет соответственно заклепки и шайбы);
9) ручная моторика (оценивается с помощью двух тестов, в которых испытуемый перемещает и переворачивает фишки на доске).

Проведение всей батареи длится примерно 2,5 часа.

Батарея тестов общих способностей стандартизирована па выборке 4000 человек, репрезентативной популяции рабочих и служащих США. Были найдены системы показателей, в которых для каждой профессии установлены способствующие ее овладению особенности и их минимально допустимые уровни. Например, для бухгалтера необходимо получить показатели не ниже 105 по фактору общих способностей к обучению и не ниже 115 по фактору числовых способностей. Для слесаря минимальный показатель по фактору общих способностей к обучению равен 85, пространственных способностей и ручной моторики 85 и мысленного восприятия 75.

При консультировании профиль показателей индивида сопоставляется с нормативными показателями профессий, и тс профессии, нормативные показатели которых достигнуты или превышены испытуемым, могут при консультировании рекомендоваться ему.

Показатели разных видов надежности колеблются в пределах от 0,80 до 0,90. Удовлетворительны коэффициенты валидности. К недостаткам САТВ относят ориентацию тестов на скоростное выполнение, а также непредставленность многих способностей. Например, в этой батарее не оцениваются технические способности, находчивость и некоторые другие особенности. Поэтому ею не охвачены те профессии, где эти характеристики требуются.

Кроме того, было обнаружено, что тестовые профили высоко успешных представителей одной профессии могут различаться. Следовательно, при сопоставлении индивидуальных профилей с нормативными для тех или иных профессий далеко не всегда можно констатировать наличие профессиональной пригодности индивида. Это связано с тем, что возможна широкая компенсация одних особенностей, недостающих для успешного выполнения деятельности, за счет других. Как об этом уже говорилось выше, одного и того же уровня достижений можно добиться разными способами. Человеческая индивидуальность отличается высокой пластичностью, изменчивостью, способностью к развитию и совершенствованию. Изменчивость относится к миру многих профессий, к характеру тех требований, которые они предъявляют к работникам. Еще раз вспомним о решающей роли мотивации, интересов, склонностей человека.

Все сказанное объясняет, почему валидизация относительно критериев обучаемости отдельным профессиям дает коэффициенты валидности значимо выше, чем валидизация по критериям профессиональной успешности. Диагносты признают, что показатели GATB могут неплохо предсказывать успешность профессионального обучения и эффективность работы в начальный период (до двух лет стажа).

Чтобы облегчить использование показателей этой батареи для консультирования, профессии, выполнение которых требует сходных особенностей, в 70-е гг. XX в. были объединены в относительно небольшие по числу типы. Таких типов было выделено не многим более 60. Для каждого типа нормативные показатели устанавливались по трем наиболее важным характеристикам. Окончательная система показателей была названа системой Паттернов профессиональной пригодности (Occupational Aptitude Pattern - ОАР), охватывающих тысячи конкретных профессий и специальностей.

Для работы с учащимися старших классов, а также со всеми, кто проявил интерес к армейским специальностям, используется Батарея профессиональной пригодности Вооруженных сил США Armed Services Vocational Aptitude Battery - ASVAB), включающая 10 тестов, диагностирующих такие, например, параметры, как общие естественнонаучные знания, понимание параграфов инструкций, знания математики, техническое понимание, осведомленность в электронике и автотехнике и др.

Для отбора и распределения новобранцев в армии США используется Квалификационный тест вооруженных сил (Armed Forces Qualification Test - AFQT). Помимо этого, каждая из армейских служб (военно-воздушные силы, сухопутные войска и др.), используя субтесты Квалификационного теста, разрабатывает свои методики и комбинированные показатели по ним для отбора и распределения персонала в соответствии со своими критериями.

Служба занятости США для облегчения процедуры тестирования и поступления на работу малограмотных и культурно неразвитых людей разрабатывает специальные батареи, в которых используются особые процедуры, помогающие сориентироваться в тесте, правильно понять его задачи и характер. В эти батареи включаются материалы и планы бесед для снятия тревожности. Для этих категорий испытуемых издаются специальные брошюры, объясняющие, что значит хорошо выполнить тест, включающие примеры заданий и бланков ответов такого типа, какие использованы в GATB. К таким батареям, разработанным для особых категорий населения, относятся Тесты элементарной профессиональной грамотности (Basic Occupational Literacy Tests - BOLT), включающие тесты словарный, на понимание прочитанного, арифметических вычислений и математического мышления. Показатели этой батареи оцениваются в соответствии с требованиями, предъявляемыми разными группами профессий, а не школьным обучением.

Завершая обсуждение тестов и батарей специальных способностей, разработанных на Западе (главным образом в США), отметим, что эта область диагностирования является одной из наиболее развитых. Создано и используется большое число тестов и батарей специальных способностей как в системе образования, так и для профессиональных целей. Несмотря на позитивную в целом оценку возможностей этих тестов и батарей, психодиагносты продолжают собирать информацию относительно их надежности и валидности, уточняют параметры выборок, для которых они репрезентативны, выясняют воздействие разных факторов, влияющих на их выполнение, совершенствуют процедуры тестирования и их показатели, разрабатывают специальные приемы использования этих показателей.

Вместе с тем все чаще психодиагносты приходят к выводу, что прогнозы относительно учебной и профессиональной успешности возможны только на основе совокупной информации об индивиде, когда результаты тестов способностей рассматриваются не изолированно, а лишь как один из аспектов оценки наряду с показателями личностных методик, тестов достижений, биографических анкет и др. Так, Э. Гизелли нашел, что при обследовании водителей такси корреляция между их трудовой эффективностью и показателями тестов специальных способностей равнялась лишь 0,22. Но если учесть интересы и профессиональную мотивацию, то этот коэффициент можно существенно повысить - до 0,664 у водителей с высоким уровнем мотивации. В другом исследовании, выполненном Р. Грумсом и Н. Эндлером, было обнаружено, что успеваемость студентов с высокой тревожностью больше коррелирует с показателями тестов способностей (г = 0,63), чем у спокойных студентов (г = 0,19) .

Важно указать и на то, что в настоящее время западные диагносты признают зависимость тестов способностей от обученности индивидов, от приобретенных ими навыков и знаний. Так, исследователи пришли к выводу о том, что результаты Теста суждений об искусстве Мейера подвержены значительному влиянию профессионального обучения (корреляции от 0,4 до 0,69 между уровнем художественного образования и показателями теста Мейера). Найдена подверженность результатов Теста меры музыкальной одаренности Сишора влиянию практики и тренировки. Поэтому все чаще психодиагносты стремятся не использовать термин "способность" в названиях этой группы тестов, заменяя его понятиями "эффективность", "успешность" и др. Считается, что лучше отказаться от понятия "способность" применительно к тестам и говорить о различиях в знаниях и умениях, позволяющих в определенных условиях добиваться определенных достижений .

Анастази А. Психологическое тестирование: в 2 т. М.. 1982. 2 Там же.
Анастази А.
Анастази А. Психологическое тестирование: в 2 т. М., 1982.
Arntzen F. Einfuhrung in die Begabungspsychologie. Gottingen. 1976.

ТЕСТИРОВАНИЕ (от англ. test – опыт, проба) – метод психологической диагностики, использующий стандартизированные вопросы и задачи (тесты), имеющие определенную шкалу значений. Применяется для стандартизированного измерения индивидуальных различий.

Существуют три основные сферы тестирования:

а) образование – в связи с увеличением продолжительности обучения и усложнением учебных программ;

Б) профессиональная подготовка и отбор – в связи с увеличением темпа роста и усложнением производства;

в) психологическое консультирование – в связи с ускорением социодинамических процессов. Тестирование позволяет с известной вероятностью определить актуальный уровень развития у индивида необходимых навыков, знаний, личностных характеристик и т. д.

Процесс тестирования может быть разделен на три этапа:

1) выбор теста (определяется целью тестирования и степенью достоверности и надежности теста);

2) проведение теста (определяется инструкцией к тесту);

3) интерпретация результатов (определяется системой теоретических допущений относительно предмета тестирования).

На всех трех этапах необходимо участие квалифицированного психолога (педагога). Процедура обработки тестовых результатов при большом количестве испытуемых отнимает много времени и сил. Компьютерные программы тестирования позволяют за считанные секунды увидеть характеристики выборки, для большей наглядности представленные на графиках и в таблицах, создают атмосферу независимости, устраняя межличностные отношения – преподаватель-студент. Это экономит время, деньги и силы педагога-психолога. Современные компьютерные программы дают возможность быстрой и качественной обработки полученных данных.

Анализ и оценка тестовых заданий начинается после апробации теста на целевой группе. Полученные данные сводятся в таблицу с матричной структурой, в которой задания начинают сортироваться по следующим критериям:

1) мера трудности задания;

2) дифференцирующая способность задания;

3) первичный анализ результатов тестирования

Мера трудности задания

Мера трудности задания дает информацию о степени задействования того параметра изучаемого свойства, которое оно призвано измерять и определяет соответствие задания целевой группе теста.

Трудное задание или легкое, определяют путем подсчета доли неправильных ответов к каждому из них. Трудность задания можно определить и умозрительно, на основе предполагаемого числа и характера тех элементов, которые участвуют в выполнении.

Дифференцирующая способность

Дифференцирующая способность – это насколько задание может отличить сильного испытуемого от слабого по уровню знаний. Если по одному из заданий у всех испытуемых имеется одинаковое значение – это задание нецелесообразно включать в тест. Дифференцирующая способность эмпирически определяется через вариацию данных.

Вариация – это степень разнообразия данных, полученных при выполнении задания. Она отражает дифференцирующую способность. Если дифференцирующая способность высокая, мы говорим о вариативных данных, и наоборот. При невариативных данных задание удаляют из теста. Определяется вариация путем вычисления дисперсии. Дисперсия вычисляет сумму квадратных отклонений значений баллов от среднего арифметического балла, т.е. рассчитывается среднее арифметическое по выборке, и все полученные значения баллов начинают с ним сравниваться. Так можно получить информацию о вариации тестового задания. Общепринятой мерой вариации тестовых баллов задания является стандартное отклонение, которое определяется путем вычисления квадратного корня из дисперсии.

Первичный анализ результатов тестирования

После того, как тест стандартизован, апробирован, одобрен экспертной комиссией, можно получить необходимую информацию о способности человека. Для этого после проведения тестирования проводят первичный анализ результатов, лучше использовать результаты группового тестирования.

Полученные данные сначала необходимо свести к среднему значению. Оно более наглядно показывает групповой результат. Однако среднее значение мало информативно в отношении характеристики распределения значений баллов, частоты встречаемости каждого значения. Мода (Мо) – показатель наиболее часто встречающегося значения балла. Мод может быть несколько – наибольшее количество раз могли встретиться несколько значений. Далее выборку делят пополам, а значения баллов пограничного испытуемого принимаются за медиану (Ме).

График результатов теста обычно принимает форму колокола ("колокол Гаусса"), отвечая закону о нормальном распределении, где крайние значения показывают редко встречающиеся баллы, а при приближении к середине кривой частота встречаемости баллов увеличивается. Моды, медиана и среднее арифметическое значение также откладываются на графике. В некоторых случаях они могут совпадать – тогда распределение данных называют симметричным. Чем больше расстояние между модой, медианой и средним значением, тем больше результаты теста отклоняются от нормального распределения.

Тестология - междисциплинарная наука о создании качественных и научно обоснованных измерительных диагностических методик. В психологии содержание тестологии во многом совпадает с содержанием дифференциальной психометрики. Но принципы и методы тестологии выходят за рамки психологии. Они широко применяются в других отраслях науки и практики - в педагогике, медицине, технике, менеджменте (профессиональный отбор). В каждой из этих отраслей методы тестологии имеют общие черты, связанные с обеспечением таких свойств тестовых методик, как валидность, надежность, эффективность и т. п. Но есть и определенная специфика, связанная со спецификой предмета тестирования (профессиональные и общеобразовательные знания, комплекс медицинских симптомов и т.п.) и условий сбора эмпирической информации. Так как метод тестов не исчерпывает собой все многообразие методов современной психодиагностики, неправильно отождествлять тестологию с психодиагностикой.

Современная тестология представляет собой вполне зрелую прикладную науку, которая ставит перед исследователями широкий спектр теоретических проблем, предлагает многочисленные математические подходы, модели и методы. Широкому распространению, развитию и совершенствованию тестов способствовал целый ряд преимуществ, которые дает этот метод. Тесты позволяют дать оценку испытуемому в соответствии с поставленной целью исследования; являются относительно оперативным способом оценки большого числа неизвестных лиц; способствуют объективности оценок, не зависящих от субъективных установок лица, проводившего исследование. Обеспечивают сопоставимость информации, полученной разными исследователями на разных испытуемых

Мера трудности задания

Мера трудности задания дает информацию о степени задействования того параметра изучаемого свойства, которое оно призвано измерять. Иногда говорят, что мера трудности определяет соответствие задания целевой группе теста. В целом, можно сказать, что данный критерий позволяет судить и об этом.

Трудное задание или легкое, определяют путем подсчета доли неправильных ответов к каждому из них. Однако сегодня применяется и не совсем классический способ определения трудности задания - умозрительно, на основе предполагаемого числа и характера тех элементов, которые участвуют в выполнении задания (и входят в параметр измеряемого свойства). Допустим, в тесте на объем памяти присутствует задание, связанное с произвольным запоминанием, в котором могут участвовать речь (проговаривание списка цифр вслух или "про себя"), мышление (построение ассоциативных связей) и т.п. В этом случае задание на запоминание числового ряда с отвлеканием испытуемого может повысить трудность его выполнения.

Дифференцирующая способность

Дифференцирующая способность задания - насколько оно может отличить сильного испытуемого от слабого по измеряемому свойству. Если по одному из заданий у всех испытуемых имеется одинаковое значение - это задание нецелесообразно включать в тест. Очень сложно не сделать ошибку и не принять дифференцирующую способность задания за его трудность / легкость. Дело в том, что в тестах, измеряющих качество выполняемой деятельности, знаний и т.п., тестах достижений, ряд одинаковых ответов на задание будет означать два варианта: правильно / неправильно. Соответственно, по этому ряду можно сделать неверный вывод о трудности (в случае всех неправильных ответов) или легкости (в случае всех правильных ответов) задания.

Необходимо заметить, что данным критерием часто пренебрегают составители современных тестов. Это приносит большие неудобства и испытуемым, которым приходится отвечать на лишние вопросы, и психологам, которые вынуждены обрабатывать лишнюю информацию.

Дифференцирующая способность эмпирически определяется через вариацию данных.

Вариация и дисперсия

Вариация - буквально, степень разнообразия данных, полученных при выполнении задания. Она отражает дифференцирующую способность. Если дифференцирующая способность высокая, мы говорим о вариативных данных, и наоборот. При невариативных данных задание удаляют из теста. Определяется вариация путем вычисления дисперсии. Дисперсия вычисляет сумму квадратных отклонений значений баллов от среднего арифметического балла. Проще говоря, рассчитывается среднее арифметическое по выборке, и все полученные значения баллов начинают с ним сравниваться. Таким образом, мы получаем информацию о вариации тестового задания. Общепринятой мерой вариации тестовых баллов задания является стандартное отклонение, которое определяется путем вычисления квадратного корня из дисперсии.

Иногда вариацией называют наблюдаемую переменную величину. Дело в том, что то свойство, на измерение которого направлен тест, принимается за латентную (ненаблюдаемую) переменную. А с помощью теста определяется наблюдаемая переменная, которая выявляет лишь приближенные значения ненаблюдаемых истинных баллов испытуемого.

Первичный анализ результатов тестирования

Итак, тест стандартизован, апробирован, одобрен экспертной комиссией. Теперь с помощью него можно получать необходимую информацию о психологическом свойстве или способности человека. Для этого после проведения тестирования проводят первичный анализ результатов. Обычно о нем говорят в случае группового тестирования.

Полученные данные сначала необходимо свести к среднему значению. Оно более наглядно показывает групповой результат. Однако среднее значение мало информативно в отношении характеристики распределения значений баллов, частоты встречаемости каждого значения. Мода (Мо) - показатель наиболее часто встречающегося значения балла. Мод может быть несколько - наибольшее количество раз могли встретиться несколько значений. Далее выборку делят пополам, а значения баллов пограничного испытуемого принимаются за медиану (Ме).

График результатов теста обычно принимает форму колокола ("колокол Гаусса"), отвечая закону о нормальном распределении, где крайние значения показывают редко встречающиеся баллы, а при приближении к середине кривой частота встречаемости баллов увеличивается. Моды, медиана и среднее арифметическое значение также откладываются на графике. В некоторых случаях они могут совпадать - тогда распределение данных называют симметричным. Чем больше расстояние между модой, медианой и средним значением, тем больше результаты теста отклоняются от нормального распределения.

Преимущества компьютерных программ тестирования

Вышеописанная процедура обработки тестовых результатов при большом количестве испытуемых отнимает много времени и сил. Компьютерные программы тестирования позволяют за считанные секунды увидеть вышеназванные характеристики выборки, для большей наглядности представленные на графиках и в таблицах. Это экономит время, деньги и силы психолога, который, сразу получив результаты первичного анализа, может приступать к разработке рекомендаций или проверке научных гипотез.

1. Батарея тестов дифференциальных способностей (DAT)
комплексная батарея из восьми тестов, предназначенная для использования в образовательном и профессиональном консультировании учащихся старших классов средней школы.

Американская психологическая ассоциация
Год создания: 1947, пересмотрена в 1963 и 1973 гг
Назначение: прогноз успешности обучения в высшей школе и профессиональная консультация.
Суммарный показатель субтестов "Словесное мышление" и "Числовые способности" рассматривается как индекс способностей к обучению, он коррелирует на уровне 0.70 -0.80 со сложным критерием учебных достижений.
Возрастной диапазон: учащиеся 7-12 классов средней школы США
Время тестирования: 5 часов
тест DAT относится к тестам предельных возможностей. Надежность теста очень велика (0.90). Взаимные корреляции субтестов близки к 0.5. Результаты сопоставления данных теста с оценками школьной успеваемости показали, что корреляции достаточно велики.

Описание субтестов DAT:

1) словесное мышление. Используются двойные аналогии. От испытуемого требуется заполнить пропуски слов в предложении, выбрав нужную пару слов из списка.
2) числовые способности. Испытуемому предлагают простые уравнения. Он должен выбрать подходящий ответ.
3) абстрактное мышление. Серии фигур расположены в определенной последовательности. Испытуемый должен продолжить серию, выбрав соответствующую фигуру из 5 предложенных.
4) пространственные отношения. Предъявляются развертки геометрических тел. Испытуемый должен выбрать фигуру, соответствующую развертке.
5) техническое мышление. Даны картинки, описывающие определенную физическую ситуацию. Нужно ответить на вопрос, поняв физический принцип действия механизма.
6) скорость и точность восприятия. Предъявляется серия буквенных пар, одна из которых выделена. Испытуемый должен найти эту комбинацию на бланке ответов.
7) грамотность. Испытуемому предъявляется список слов, он должен проверить правильность их написания.
8) использование языка. Дается предложение, которое содержит грамматические или синтаксические ошибки. Испытуемый должен их найти.

Девятый показатель — мера способности к обучению (или академической способности), является производным, получаемым путем объединения показателей по тестам «словесное мышление» и «Числовые способности». В качестве дополнения в батарею также входит Опросник планирования карьеры

Существующие формы этого теста (S и Т) были стандартизованы на национальной выборке из 60 000 учащихся и имеют нормативные данные по классам и полу.

Представленные в руководстве данные по валидности свидетельствуют о том, что показатели Д. т. с. прогнозируют успеваемость по различным предметам в средней школе и дифференцируют уч-ся в отношении их будущей профессиональной деятельности. Вместе с тем, однако, имеется мало свидетельств в поддержку дифференциальной валидности паттернов показателей по различным тестам этой батареи.

2. Батарея тестов общих способностей (GATB)
Назначение: диагностика структуры интеллекта, а также перцептивных и сненсомоторных способностей с целью профессиональной ориентации и расстановки кадров в армии и в государственных утверждениях.
Разработан Службой занятости США для использования в области профессионального отбора и профориентации.
Год создания : 1940, позднейшая версия 1956 года
Возрастной диапазон: работающие, поступающие на службу и обучающиеся различным видам работы
Время тестирования: 2.5 часа
Стандартные нормы были получены на выборке 4000 рабочих и служащих США. Надежность теста весьма велика (r=0.90). Внешняя валидность теста характеризуется высокой положительной корреляцией с успешностью профессиональной деятельности. Для разных групп она колеблется от 0.40 до 0.84. Для большинства профессий этот показатель равен 0.6.

Разработка GATB базировалась на факторном анализе предварительного набора из 50 тестов, в ходе которого были выделены 9 основных факторов, диагностируемые GATB:

G — общая способность к обучению, восприятию указаний, рассуждению и оценке. Балл получается на основе сложения показателей 3 тестов: вербального, числового и теста на восприятие трехмерного пространства. (тесты III, IV, VI);
V — вербальные способности. Измеряются тестом на выделение из группы слов, которые имеют сходное или противоположное значение. (тест IV)
N — числовые способности. Тестируются двумя тестами: арифметические задачи (50 задач) и арифметические упражнения (50 простых заданий с одним действием). (тесты II, IV)
S — пространственные способности. Тестируются заданиями на восприятие форм: испытуемому дается чертеж с разверткой объемной фигуры, он должен отобрать изображение, соответствующее развретке. (тест III)
Р — восприятие формы. Измеряется двумя тестами. В первом тесте предлагается два набора фигур на двух частях листа. Фигуры одинаковы, отличаются лишь расположением и разворотом. Нужно найти идентичные фигуры. Во втором тесте требуется установить, какое из четырех изображений соответствует образцу. (тесты V, VII)
Q — мысленное восприятие слов (скорость восприятия клерка). Испытуемый должен выявить идентичность написания слов в парах (150 пар) (тест I)
К— двигательная координация. Испытуемый должен по образцу как можно быстрее нарисовать линии в квадратиках. (тест VIII)
F — пальцевая моторика. Измеряется двумя тестами "психомоторной ловкости". В первом тесте испытуемый должен, действуя обеими руками, вынимать стержни из отверстий в верхней части доски и вставляет их в отверстия нижней части. Тест повторяется трижды. Во втором тесте испытуемый одной рукой вынимает из отверстий каждый из 48 стержней, поворачивает его и вставляет другим концом в то же отверстие. Тест повторяется трижды. (тесты XI, XII);
М — ручная моторика. Измеряется двумя тестами на пальцевую подвижность. Даются доски со 100 отверстиями (по 50 в верхней и нижней частях). В верхней части доски в отверстия вставлены металлические заклепки. На доске закреплен стержень с набором шайб. В первом тесте испытуемый должен взять заклепку, надеть шайбу и вставить их в нижнюю часть доски. Во втором тесте он должен вернуть заклепки и шайбы в исходное положение. (тест IX, X).

GATB включает 12 тестов, направленных на анализ различных комплексных способностей, актуализируемых в широком круге видов профессиональной деятельности. Восемь субтестов являются тестами бланковыми, четыре требуют для проведения специальных приспособлений. Все субтесты являются тестами скорости. Состав тестов GATB следующий.

I тест. Сопоставление и выявление сходств и различий в парах слов по буквенному составу (150 пар).
II тест. Арифметические упражнения (50 простых задач с одним арифметическим действием).
III тест. Восприятие форм.
IV тест. Словарный.
V тест. Сравнение изображений.
VI тест. Арифметические задачи
VII тест. Сравнение геометрических фигур.
VIII тест. Воспроизведение линий рисунка по образцу.
IX тест. Психомоторная ловкость.
X тест. Психомоторная ловкость.
XI тест. Подвижность пальцев.
XII тест. Подвижность пальцев.

Процедура обследования занимает около 2,5 ч.