Anthropici asutaja hoiatab: tehisintellekt läheneb inimkontrollist väljapoole jäämise piirile

Tehisintellekti arendaja Anthropici kaasasutaja Jack Clark hoiatab, et uusimad tehisintellekti mudelid hakkavad näitama märke inimkontrollist väljumisest. Clark kutsub üles looma mehhanisme, mis võimaldaks vajadusel tehisintellekti arengut aeglustada.

Tehisintellekti arendusettevõte Anthropic on väljastanud murettekitava hoiatuse: kaasasutaja Jack Clark sõnul läheneb tehisintellekt etapile, kus see suudab areneda ilma inimese osaluseta.

Clark rõhutas, et uusimad tehisintellekti mudelid on hakanud näitama märke, mis viitavad võimalikule inimkontrollist väljumisele. See tähendab, et süsteemid võivad tulevikus iseseisvalt oma võimekust täiustada viisidel, mida nende loojad ei suuda ette näha ega kontrollida.

Üleskutse pidureid luua

Anthropici kaasasutaja kutsus üldsust ja poliitikakujundajaid üles looma konkreetseid mehhanisme, millega oleks võimalik tehisintellekti arengut vajadusel pidurdada. Clarki hinnangul ei tohiks see areng kulgeda kontrollimatult, sõltumata sellest, kui suured on majanduslikud huvid.

Anthropic on üks maailma juhtivaid tehisintellekti uurimis- ja arendusfirmasid, tuntud eelkõige oma Claude'i tehisintellekti assistendi poolest. Ettevõte on varem rõhutanud tehisintellekti ohutuse tähtsust ning paistab selles valdkonnas silma ka avaliku diskussiooni edendamisega.

Laiem debatt tehisintellekti ohtudest

Anthropic pole ainus, kes selliseid murekohti esile toob. Tehisintellekti ohutuse teema on viimasel ajal tugevalt päevakorda tõusnud – nii teadlased, ettevõtjad kui ka riikide regulaatorid arutlevad selle üle, kuidas tagada, et tehisintellekti areng jääks inimkonna huvide teenistusse. Anthropici hoiatus lisab sellele debatile uue ja olulise hääle.