2016 metais informatikas Andrew Ng palyginti nerimauti dėl superinteligentiško AI ir nerimauti dėl per didelio Marso gyventojų skaičiaus. Jis pasakė, kad mes net nenusileidome į planetą, tai kodėl, po velnių, turėtume pradėti išsigąsti? Žinoma, šiuolaikinis dirbtinis intelektas gali atlikti keletą įmantrių gudrybių, tačiau tai yra milijonai mylių nuo egzistencinės grėsmės žmonijai.
Šios samprotavimo linijos problema yra ta, kad neatsižvelgiama į tai, kiek laiko gali prireikti, kad išspręstume tai, ką dirbtinio intelekto tyrinėtojai vadina „derinimo problema“, ir tai, ką tokie stebėtojai kaip aš vadina „kažkokiu keistu šūdu“. Yra daug idėjų, kurias turėsiu išplėsti, kad paaiškinčiau kodėl, tačiau pagrindiniai dalykai yra šie: Superinteligentiškas AI gali atsirasti labai greitai, jei kada nors sukursime dirbtinį intelektą, kuris būtų geras kuriant AI – tokio rekursinio intelekto produktą. sprogimas gali turėti tikslų, kurie nesutampa su mūsų pačių tikslais, ir nėra jokios priežasties manyti, kad tai leistų mums paspausti išjungimo jungiklį.
Kaip mėgsta sakyti tokie žmonės kaip filosofas Nickas Bostromas, rūpestis yra ne piktybiškumas, o kompetencija. Jis yra tas, kuris sugalvojo tą minties eksperimentą apie AI, kurio tikslas – visą visatą paversti sąvaržėlėmis – fantazija, kurią galite ir turėtumėte išgyventi. Šis nemokamas internetinis spustelėkite juos. Ypač aštri apokaliptinio kotleto dalis yra ta, kad suteikę dirbtiniam intelektui beveik bet kokį tikslą, greičiausiai taip pat netyčia suteiktume jam tam tikrų instrumentinių tikslų, pavyzdžiui, maksimaliai padidintume savo skaičiavimo galią arba pašalintume bet kokį veiksnį, kuris gali jam trukdyti.
