Mašininio mokymosi šališkumo kontrolė: žmogaus įtakos mažinimas priimant algoritminius sprendimus

Santrauka

Straipsnyje daroma prielaida, kad žmogaus veiklą gali paveikti išorinės aplinkybės, kurios įvardijamos kaip šališkumas. Pažinimo šališkumas susistemintas siekiant nustatyti euristinius procesus, kuriais nesąmoningai mažinamas užduočių sudėtingumas, nors tai gali sukelti sisteminių loginių klaidų. Kaip parodė Milgramo atliktas eksperimentas, žmonės linkę paklusti autoritetui net ir tais atvejais, kai nurodomi veiksmai prieštarauja jų asmeninei sąžinei. Dauguma žmonių visiškai paklusta duotiems nurodymams. Taigi, mašininis mokymasis apima informaciją, kurią žmonės pateikia algoritmams ir kuri gali būti šališka arba turėti prieštaringas instrukcijas, todėl būtina sukurti būdus, kurie padėtų valdyti algoritminius rezultatus ir žmonių iš pradžių pateiktus duomenis.