Соли 2016 олими компютер Эндрю Нг муқоиса кунед ғамхорӣ дар бораи AI суперинтеллектуалӣ ва ташвиш дар бораи аз ҳад зиёди аҳолӣ дар Миррих. Мо ҳатто ба сайёра нафуромадаем, гуфт ӯ, пас чаро дар рӯи замин мо бояд ба хашмгин шавем? AI-и замонавӣ метавонад баъзе ҳиллаҳои ҷолибро ба кор барад, албатта, аммо он як миллион мил дуртар аз таҳдиди экзистенсиалӣ ба инсоният аст.
Мушкилот бо ин хати мулоҳизаҳо дар он аст, ки он ба назар гирифта намешавад, ки барои ҳалли он чизе, ки муҳаққиқони AI "мушкилоти ҳамоҳангӣ" меноманд, ва он чизеро, ки бинандагон ба мисли ман "як чизи хеле аҷиб" меноманд, ба мо лозим аст. Ғояҳои зиёде ҳастанд, ки ман бояд барои тавзеҳ додани сабаби онро васеътар кунам, аммо нуктаҳои асосӣ инҳоянд: AI Superintelligent метавонад хеле зуд пайдо шавад, агар мо ягон вақт AI-ро тарроҳӣ кунем, ки дар тарҳрезии AI, маҳсули чунин зеҳни рекурсивӣ мебошад. таркиш шояд ҳадафҳое дошта бошад, ки бо ҳадафҳои мо мувофиқат намекунанд ва барои он ки ин ба мо имкон медиҳад, ки тугмаи хомӯшро пахш кунем, сабабҳои кам вуҷуд надорад.
Тавре ки одамон ба монанди файласуф Ник Бостром мегӯянд, нигаронӣ бадкирдорӣ нест, балки салоҳият аст. Ӯ ҳамон касест, ки таҷрибаи фикрронӣ дар бораи AI, ки ба табдил додани тамоми коинот ба клипҳои коғазӣ, хаёлоте, ки шумо метавонед ва бояд онро иҷро кунед, таҳия кардааст. ин онлайн ройгон клик кунед. Қисми махсусан ҷолиби гӯшти апокалиптикӣ дар он аст, ки бо додани AI қариб ҳама гуна ҳадаф, мо эҳтимолан нохост ба он ҳадафҳои муайяни инструменталӣ медиҳем, ба монанди ҳадди аксар расонидани қудрати ҳисоббарории худ ё хориҷ кардани ҳама гуна агенте, ки метавонад дар роҳи он шавад.
