Monoculture algoritmica nell'assunzione

Monoculture algoritmica nell'assunzione

CRITICO: Questo scraper è STRETTO per un "DevBoards.io" senza presupposti per sviluppatori e ingegneri del software. Vogliamo solo notizie relative a:

• Linguaggi di programmazione e framework (Python, JS, Rust, React, ecc.)
• Pratiche di sviluppo software (Architettura, Agile, Testing)
• DevOps, Cloud (AWS/Azure/GCP) e Infrastruttura
• Sicurezza informatica (tecnica)
• Intelligenza artificiale e apprendimento automatico (focalizzazione tecnica/ sviluppo)
• Tecnologie di database

ESCLUDIAMO specificamente:

• Elettronica di consumo (Telefoni, Laptop, Caschi, Biciclette elettriche, Gadget)
• Notizie "Tech" generali (Politiche di social media, notizie di business generiche, videogiochi)
• Notizie scientifiche non relative al calcolo

Risultati chiave

1. Impatto negativo a larga scala per gli asiatici e i neri. Siamo i primi a dimostrare l'impatto negativo in assunzioni algoritmiche in uso come una delle più grandi dimostrazioni di esiti ingiusti in decisioni AI a alto rischio reali. 25,87% delle domande presentate dai candidati neri e 14,74% delle domande presentate dai candidati asiatici sono dirette a posizioni che hanno un impatto negativo su di loro in base ai standard della legge di occupazione degli Stati Uniti (Titolo VII).
2. Impatto negativo rivelato solo da analisi posizionale disaggregata. Mentre gli studi empirici di assunzioni algoritmiche sono molto limitati a causa delle limitazioni di accesso ai dati, gli studi precedenti hanno mostrato un impatto negativo minimo studiando tutti i dati del fornitore come un tutto. Studiando ogni posizione separatamente, in conformità con gli standard del Titolo VII, identifichiamo posizioni che dimostrano un impatto negativo che si perde nell'aggregato.
3. Monoculture algoritmica nell'assunzione produce rifiuti sistematici. Siamo i primi a dimostrare rifiuti sistematici in assunzioni algoritmiche in uso come ipotizzato in ricerche teoriche precedenti sull'algoritmo monocultura. La tasso di rifiuto sistematico osservato supera significativamente quello di base di decisioni indipendenti statistiche, anche se la base prediceva correttamente i tassi di rifiuto sistematico osservati in altre informazioni di assunzione in assenza di monoculture algoritmiche centralizzate.
4. L'accesso ai dati ostacola la ricerca indipendente sugli algoritmi di assunzione. Siamo i primi e l'unico gruppo a condurre indagini empiriche indipendenti sugli algoritmi di assunzione a larga scala, anche se gli algoritmi di assunzione mediare decisioni a alto rischio e sono adottati diffusamente. Date le barriere dei dati, potrebbe essere necessario un intervento di politica per consentire l'indagine scientifica e aumentare la responsabilità in questa applicazione di alto impatto dell'IA.