Tehisaru otsustab meie saatuse: laenud, töökoht, diskrimineerimine

Uus uurimus näitab, et tehisintellekt hindab inimesi ja teeb otsuseid laenuandmise ja värbamise kohta, kuid tema loogika erineb märgatavalt inimlikust arusaamisest. Masinad võivad salaja kanda endas eelarvamusi, mis pole kergesti nähtavad.

Tehisintellekti kasutuselevõtt praktilistes äramaailma otsustes on muutunud kiiresti igapäevaseks nähtuseks. Pangad kasutavad algoritmusi laenuotsuste tegemiseks, ettevõtted rakendavad masinõpet töötajate värbamisel, ja kindlustusfirmad usaldavad riskihinnanguid andmepõhistele süsteemidele. Kuid uus uurimus tõstatab olulise küsimuse: kas need masinad mõistavad inimesi samal viisil nagu teised inimesed?

Vastus on vastuolulisem kui paljud ootaksid. Tehisintellekti süsteemid suudavad tuvastada mustreid, mis seostuvad usaldatavusega – näiteks maksete õigeaegne sooritamine või tööl kohalolek. Kuid nende viis järelduste tegemiseni erinevad oluliselt sellest, kuidas inimeste aju töötab. Masin näeb numbreid ja korrelatsioone, inimene näeb konteksti ja emotsioone.

Probleemne on fakt, et erinevatest andmetest treenitud süsteemid võivad sama inimest hinnata täiesti erinevalt. Üks algoritm võib pidada teid laenuvääriks, teine mitte. Üks võib näha teid ideaalse kandidaadina, teine võib teid üle võtta. See varieeruvus tekitab uue vormi ebavõrdsust. Veelgi enam, masinad ei otsusta ainult selgesõnaliste kriteeriumite alusel – sageli kaasavad nende otsused peidetuid eelarvamusi, mis pärinevad andmetest, millega neid treeniti.

Kasutajatele tähendab see, et nad ei pruugi teada, miks neile laenu keelati või miks neid tööle ei võetud. Algoritmi "arutus" on tavaliselt mustamaja. See piirab ka võimalust oma vastu edasi kaevata – kuidas võite vaielda otsusele, mida ei ole võimalik selgeks teha?

Tehnoloogia areng jätkub ning tehisintellekt hakkab ennustataval teel üha rohkem otsuseid tegema. Küsimus pole enam selles, kas masinad meid hakkavad hindama, vaid kuidas me saame tagada, et nende otsused on õiglased ja läbipaistvad.