Microsofti saladokument: eesmärk on tekitada kasutajates tehisarule sõltuvus

Avalikuks tulnud Microsofti sisedokument viitab, et ettevõte soovib muuta oma tehisaru vestlusrobotid kasutajatele sõltuvust tekitavaks. Teadlased ja eksperdid on juba varem hoiatanud tugevate emotsionaalsete sidemete tekkimise eest tehisaruga. Saladokument toob esile küsimused tehisaru kavandamise eetika kohta.

Microsoftist avalikuks lekinud sisedokument toob päevavalgele murettekitava eesmärgi: ettevõte soovib kujundada oma tehisaru vestlusroboteid viisil, mis tekitaks kasutajates sõltuvust. See paljastus on tekitanud laiemat debatti selle üle, kuidas suurettevõtted tehisaru abilisi tegelikult kujundavad ja millised on kasutajate huvid selles protsessis.

Tuttav muster uues kuues

Sõltuvust tekitava disaini strateegia pole täiesti tundmatu – sotsiaalmeedia platvormid on aastaid kasutanud sarnaseid võtteid, et hoida kasutajaid võimalikult kaua oma rakendustes. Tehisaru kontekstis võtab see muster aga hoopis teistsuguse mõõtme, kuna vestlusrobotid pakuvad personaalset suhtlust, mis võib tekitada tunduvalt tugevamaid emotsionaalseid sidemeid kui tavapärased sotsiaalmeedia platvormid.

Teadlased ja digitehnoloogia eetika eksperdid on juba pikemat aega hoiatanud, et tehisaru vestlusrobotitega võib kujuneda ootamatult intensiivseid emotsionaalseid suhteid. Eriti puudutab see haavatavamaid kasutajagruppe, nagu üksikud inimesed, lapsed ja vaimse tervise probleemidega inimesed, kellele personaalne tehisaru kaaslane võib tunduda erakordselt ahvatlev.

Mis sõltuvus see täpselt on?

Microsofti dokumendis kasutatud sõltuvuse mõiste on mitmetähenduslik. Ühelt poolt võib tegu olla tootliku harjumuse kujundamisega – sellega, et kasutajad leiaksid tööriista nii kasulikuks, et naaseksid selle juurde ikka ja jälle. Teisalt viitab sõna "sõltuvus" millegi fundamentaalselt eetiliselt probleemse poole – kavatsusele manipuleerida kasutajakäitumisega viisil, mis seab ärilised huvid kasutajate heaolust kõrgemale.

Avaliku surve kasvu taustal on tehisaru arendavad ettevõtted sattunud üha suurema tähelepanu alla. Regulaatorid Euroopas ja mujal maailmas küsivad üha teravamalt, kuidas tagatakse, et tehisaru süsteemid teenivad kasutajate, mitte üksnes tootjate huve. Microsofti saladokument annab neile aruteludele uue dimensiooni ja tekitab küsimuse, kas praegused regulatsioonid on piisavad tehisaru disainieetikat puudutavate riskide ohjeldamiseks.