При COVID-19: Може ли алгоритъм да изчислява оценките за кандидатстване в университет?

Пандемията от коронавирус създаде освен медицинските и сериозни проблеми в образованието.

Академичното бъдеще на завършващите гимназия в годината на COVID-19 е допълнително застрашено от алгоритъм за прогнозиране, който им дава окончателни оценки без обяснение или възможности за значима компенсация.

Това е пример как решенията, които засягат живота на хората, се взимат чрез непрозрачни изчисления и той повдига въпроси относно правата на децата съгласно законодателството за защита на данните на Европейския съюз, пише "Политико".

Образователните системи в цяла Европа се бориха тази година с това как да определят най-важните окончателни оценки на учениците. Но една система - International Baccalaureate (IB) - програма за средно образование, която е високо ценена от европейските университети и предлагана както от държавни, така и от частни училища в 152 държави - направи нещо необичайно.

След като анулира окончателните изпити, които съставляват по-голямата част от оценката на ученик по IB, едноименната фондация, базирана в Женева, набързо изгради алгоритъм, използващ оценките на курсовата работа на ученика /съответно досегашната му работа в училище/, прогнозните оценки от учителите и резултати от IB на училището, за да отгатне какво биха постигнали учениците, ако са положили изпитите си в хипотетична, без пандемия година. Резултатът от алгоритъма стана последната оценка на ученика.

Резултатите бяха катастрофални. Скоро след пускането на оценките се появиха сериозни несъответствия между очакваните оценки въз основа на предишното представяне на ученика и тези от алгоритъма. Тъй като приемът на студенти в IB зависи от техните окончателни оценки, неочаквано лошите оценки, генерирани за някои, доведоха до отмяна на оферти за стипендии и прием.

Директори от Великобритания, Хонконг, Индия, Финландия и Норвегия протестираха срещу аномалните оценки на учениците си. Близо 25 000 родители, студенти и учители поискаха IB да "приемат различен подход със своя алгоритъм за оценяване и да го направят по-справедлив".

IB се оправда, като определи алгоритъма като "най-справедливия подход, който можем да предприемем за всички наши ученици". Но подмяната на математическия подход при човешка преценка не го прави автоматично справедлив. Алгоритмите всъщност се създават от хората, техните резултати се оформят от изживените преживявания и вярвания на техните създатели.

И други изпитни комисии - включително Шотландия и Обединеното кралство - също попаднаха "под обстрел" заради внедряването на статистически системи, които могат да бъдат предубедени към деца в неравностойно положение и малцинства, което накара първия министър на Шотландия Никола Стърджън официално да се извини. Шотландия отстъпи тази седмица, като намали пониженията за около 75 000 ученици.

Хиляди студенти освен това бяха погрешно и насилствено депортирани от Великобритания миналата година въз основа на дефектна алгоритмична оценка на изпитите им по английски език.

За да стане положението още по-лошо, учениците, които искат да оспорят своите резултати, трудно може да го направят. IB е отказала да обясни или възпроизведе изчисленията си за оценката на който и да е ученик, като възпрепятства учениците ефективно да оспорват определените им оценки.

Прилагането на алгоритми за такава цел може също така да възпроизведе или да увеличи вече съществуващото неравенство на учениците от семейства с ниски доходи или от имигрантски произход. По-бедните ученици може несправедливо да получат по-ниски оценки, защото се взима предвид и историята на училищата, а не само индивидуалната им работа.

Това се случи Dnes, за важното през деня ни последвайте и в Google News Showcase.