2016-жылы компьютердик илимпоз Эндрю Нг салыштырмалуу суперакылдуу AI жөнүндө тынчсыздануу, Марстагы калктын ашыкча болушу жөнүндө тынчсыздануу. Биз планетага да коно элекпиз, деди ал, анда эмне үчүн Жерден тайраңдап башташыбыз керек? Заманбап AI кээ бир укмуш трюктарды жасай алат, албетте, бирок бул адамзатка экзистенциалдык коркунуч туудургандан бир миллиард миль аралыкта.
Бул ой жүгүртүүнүн көйгөйү, AI изилдөөчүлөрү "тегиздөө маселеси" деп атаган маселени чечүү үчүн канча убакыт талап кылынарын жана мага окшогондор "кандайдыр бир укмуштай бок" деп атаган нерсени эске албаганда. Мунун себебин түшүндүрүү үчүн мен чоңойтуп бере турган көптөгөн идеялар бар, бирок негизги пункттар: эгерде биз ушундай рекурсивдүү интеллекттин продуктусу болгон AIды жакшы долбоорлосок, суперинтеллектуалдуу AI абдан тез пайда болушу мүмкүн. жарылуу биздин максаттарга дал келбеген максаттарга ээ болушу мүмкүн жана ал өчүргүчтү басып коюуга мүмкүнчүлүк берет деп ойлогонго анча деле негиз жок.
Философ Ник Бостром сыяктуу адамдар айткандай, тынчсыздануу жамандык эмес, бул компетенттүүлүк. Ал бүт ааламды кагаз кычкачка айландырууну көздөгөн AI жөнүндө ой жүгүртүү экспериментин ойлоп тапкан адам. бул бекер онлайн чыкылдатыңыз. Апокалиптикалык тефтелинин өзгөчө ачуу бөлүгү - AIга дээрлик бардык максатты берүү менен, биз ага байкабай эле өзүнүн эсептөө күчүн көбөйтүү же анын жолуна түшүшү мүмкүн болгон агентти жок кылуу сыяктуу белгилүү бир инструменталдык максаттарды берип жаткан болушубуз мүмкүн.
