Ni ọdun 2016, onimọ-jinlẹ kọnputa Andrew Ng akawewe aibalẹ nipa AI ti o ni oye si aibalẹ nipa ọpọlọpọ eniyan lori Mars. A ko paapaa ti de lori ile aye, o sọ pe, kilode lori Earth o yẹ ki a bẹrẹ freaking jade? Modern AI le fa diẹ ninu awọn ẹtan snazzy, daju, ṣugbọn o jẹ awọn maili zillion kan kuro lati fifihan irokeke aye si eda eniyan.
Iṣoro pẹlu laini ero yẹn ni pe o kuna lati ṣe akiyesi bi o ṣe pẹ to ti o le gba wa lati yanju ohun ti awọn oniwadi AI pe “iṣoro titopọ”, ati kini awọn oluwo bii mi pe “diẹ ninu awọn nik freaky lẹwa”. Ọpọlọpọ awọn imọran wa ti Emi yoo ni lati sun-un nipasẹ lati ṣe alaye idi, ṣugbọn awọn aaye pataki ni: Superintelligent AI le farahan ni iyara ti a ba ṣe apẹrẹ AI kan ti o dara ni sisọ AI, ọja ti iru oye isọdọtun. bugbamu le ni awọn ibi-afẹde ti ko ni ibamu pẹlu tiwa, ati pe ko si idi diẹ lati ronu pe yoo jẹ ki a yi iyipada pipa.
Gẹgẹ bi awọn eniyan bi Nick Bostrom philosopher ṣe nifẹ lati sọ, ibakcdun naa kii ṣe aibikita - o jẹ agbara. Oun ni ẹniti o wa pẹlu idanwo ironu yẹn nipa AI kan ti o ṣeto nipa titan gbogbo agbaye sinu awọn agekuru iwe, irokuro eyiti o le ati pe o yẹ ki o gbe nipasẹ yi free online tẹ 'em soke. Apakan lata pataki ti bọọlu ẹran apocalyptic ni pe nipa fifun AI kan ni itumọ ọrọ gangan eyikeyi ibi-afẹde, o ṣee ṣe ki a tun fun ni lairotẹlẹ awọn ibi-afẹde ohun elo kan, bii mimu agbara iširo tirẹ pọ si tabi yiyọ aṣoju eyikeyi ti o le gba ni ọna rẹ.
