Definicja
Stronniczość systemu AI wynikająca z danych, projektu lub sposobu użycia.
Najprościej mówiąc
Bias AI oznacza, że system może nierówno traktować grupy, tematy albo przypadki, nawet jeśli nikt jawnie tego nie zaprogramował.
Przykład użycia
Model rekrutacyjny może gorzej oceniać kandydatów z określonych środowisk, jeśli dane historyczne były skrzywione.
Najczęstsze nieporozumienie
Bias nie znika tylko dlatego, że decyzję podejmuje algorytm. Czasem algorytm wzmacnia stare błędy.
Dlaczego to ważne?
Stronniczość AI wpływa na zaufanie, odpowiedzialność i ryzyko prawne systemów używanych w realnych decyzjach.