A cikin 2016, masanin kimiyyar kwamfuta Andrew Ng idan aka kwatanta damuwa game da babban AI don damuwa game da yawan jama'a akan Mars. Ba mu ma sauka a duniyar nan ba, ya ce, don me a duniya za mu fara firgita? AI na zamani na iya jawo wasu dabaru masu ban tsoro, tabbas, amma yana da nisan mil mil daga gabatar da wata barazana ga bil'adama.
Matsalar wannan layin na tunanin shine ya kasa yin la'akari da tsawon lokacin da zai iya ɗaukar mu don magance abin da masu binciken AI ke kira "matsalar daidaitawa", da abin da masu kallo kamar ni ke kira "wasu kyawawan freaky shit". Akwai ra'ayoyi da yawa da zan zuƙowa don bayyana dalilin da ya sa, amma mahimman abubuwan sune: Babban AI na iya fitowa da sauri idan muka taɓa ƙira AI wanda ke da kyau wajen ƙirƙira AI, samfurin irin wannan hankali mai maimaitawa. fashewa na iya samun maƙasudan da ba su dace da namu ba, kuma babu ƙaramin dalilin tunanin zai bar mu mu kashe kashe.
Kamar yadda mutane kamar masanin falsafa Nick Bostrom ke sha'awar faɗin, damuwar ba ta da laifi ba - iyawa ce. Shi ne wanda ya fito da wannan gwajin tunani game da AI wanda ya tsara game da juya dukan sararin duniya zuwa shirye-shiryen takarda, wani tunanin da za ku iya kuma ya kamata ku rayu ta hanyar. wannan free online danna 'em up. Wani yanki mai yaji na ƙwallon nama na apocalyptic shine ta hanyar ba AI kusan kowane buri, da alama za mu iya ba shi wasu manufofin kayan aiki da gangan, kamar haɓaka ikon sarrafa kansa ko cire duk wani wakili da zai iya shiga hanyarsa.
