Wraz z postępującą integracją narzędzi sztucznej inteligencji w różnych sektorach społeczeństwa nie jest zaskoczeniem, że pojawiają się one również w procesach rekrutacyjnych. Dawno minęły czasy, kiedy CV trafiało na biurko i było analizowane przez człowieka. Dzisiaj znacznie częściej poddawane jest ono analizie algorytmu zaprojektowanego w celu zwiększenia spójności i wydajności. Jednak ta fala wdrażania sztucznej inteligencji wywołała również obawy – zwłaszcza dotyczące zjawiska “monokultury algorytmicznej”.
Termin „monokultura algorytmiczna” służy do opisania sytuacji, w której w całej branży stosowany jest jeden algorytm, co może prowadzić do ujednoliconych wyników. Choć na pierwszy rzut oka może się to wydawać logiczne, krytycy twierdzą, że takie podejście może prowadzić do systematycznego wykluczenia. Wyobraźmy sobie scenariusz, w którym kandydat odrzucony przez algorytm jednej firmy prawdopodobnie spotka się z takim samym wynikiem wszędzie indziej. Niemniej jednak, wbrew naszym instynktom, badania przeprowadzone przez MIT sugerują, że nie zawsze tak musi być.
Naukowcy z MIT przeprowadzili kompleksową ocenę zarzutów wysuwanych wobec monokultury algorytmicznej, a konkretnie – systematycznego wykluczenia. Jaki jest wynik? Znaczna część krytyki skierowanej przeciwko temu podejściu nie ma tak dużego znaczenia, jak początkowo sądzono. Monokultura może na przykład sprawiać wrażenie, że ogranicza możliwości, ale liczba zatrudnionych osób nie wydaje się spadać. Ponadto może to faktycznie przynosić korzyści kandydatom, ponieważ firmy konkurują o tę samą grupę kandydatów, co powoduje wzrost wynagrodzeń.
Kolejnym argumentem, który pojawia się w tej dyskusji, jest obawa przed utratą kontroli, szczególnie w przypadku kandydatów, którzy zazwyczaj dostosowują swoje CV w nadziei na zwiększenie swoich szans. Jeśli jednak system pozwala na wprowadzanie zmian w CV i ponowne ich przesyłanie, argument ten traci na znaczeniu. Co ciekawe, monokultura mogłaby w rzeczywistości umożliwić kandydatom “obejście” systemu poprzez dostosowanie CV do preferencji algorytmu. Warto również wspomnieć, że takie „obejście” nie jest częstsze niż w przypadku stosowania różnorodnych algorytmów – również w tym przypadku ukierunkowanie się na mniejszą liczbę algorytmów mogłoby stanowić przewagę.
Kolejnym aspektem, który nie został jeszcze dogłębnie zbadany, jest potencjalna homogenizacja informacji. Zgodnie z teorią “mądrości tłumu” obecność zróżnicowanych, niezależnych decydentów zazwyczaj prowadzi do lepszych wyników w porównaniu z indywidualną oceną – co oznacza, że zróżnicowane algorytmy mogłyby potencjalnie przyczynić się do pozyskania lepszej puli kandydatów. Istnieje obawa, że monokultura może hamować odkrywanie nowych rozwiązań, uniemożliwiając organizacjom identyfikowanie najlepszych kandydatów. Problem ten można rozwiązać poprzez wprowadzenie elementu losowości do platformy o charakterze monokulturowym, co zachęciłoby do poszukiwania nowych rozwiązań.
Skuteczność monokultury w praktyce zależy w dużej mierze od tego, jak dokładnie działa stosowany algorytm. Jeśli jeden algorytm przewyższa pozostałe, stosowanie monokultury może okazać się korzystne. Ponadto połączenie wielu algorytmów w jeden “algorytm zespołowy” mogłoby poprawić wydajność poprzez przypisywanie wyników opartych na średniej. Chociaż symulacje wskazują, że taki algorytm zespołowy mógłby przewyższyć skuteczność wielu odrębnych algorytmów, praktyczne zastosowanie tej koncepcji pozostaje nadal niepewne.
Biorąc pod uwagę te różne perspektywy, korzyści i zagrożenia związane z monokulturą algorytmiczną nie są jednoznaczne i mogą w znacznym stopniu zależeć od kontekstu, co wymaga przeprowadzenia dalszych badań empirycznych. Naukowcy odpowiedzialni za to badanie mają nadzieję, że ich praca zachęci do pogłębionej analizy długoterminowych skutków monokultury algorytmicznej, zwłaszcza w odniesieniu do złożonych systemów, takich jak rynki pracy. Aby uzyskać więcej szczegółów, zapraszamy do zapoznania się z oryginalny artykuł prasowy.
Jeśli rozważasz wdrożenie automatyzacji opartej na sztucznej inteligencji w swojej firmie, warto zapoznać się z innowacyjnymi rozwiązaniami oferowanymi przez implementi.ai aby usprawnić procesy i usprawnić proces podejmowania decyzji?
Ta strona używa plików cookie.