2016 දී පරිගණක විද්යාඥ ඇන්ඩෲ එන් සැසඳේ අධිබුද්ධිමත් AI ගැන කනස්සල්ලට පත්වීමට අඟහරු මත අධික ජනගහනය ගැන කරදර වීමට. අපි ග්‍රහලෝකයට ගොඩ බසිලාවත් නැහැ, ඉතින් ඇයි අපි පෘතුවියට පිස්සෙක් වෙන්න පටන් ගන්නේ? නවීන AI ට සමහර සූක්ෂ්ම උපක්‍රම ඇද ගත හැකිය, නිසැකවම, නමුත් එය මනුෂ්‍යත්වයට පැවැත්මේ තර්ජනයක් ඉදිරිපත් කිරීමට සැතපුම් මිලියන ගණනක් එපිටින් ඇත.
එම තර්කයේ ඇති ගැටලුව නම්, AI පර්යේෂකයන් විසින් "ගැලපෙන ගැටලුව" ලෙස හඳුන්වන දෙය විසඳීමට අපට කොපමණ කාලයක් ගත විය හැකිද යන්න සහ මා වැනි නරඹන්නන් "සමහර විකාර සහගත ජරාවක්" ලෙස හඳුන්වන දේ සැලකිල්ලට ගැනීමට එය අපොහොසත් වීමයි. එයට හේතුව පැහැදිලි කිරීමට මට විශාලනය කිරීමට බොහෝ අදහස් ඇත, නමුත් ප්‍රධාන කරුණු නම්: එවැනි පුනරාවර්තන බුද්ධියක නිෂ්පාදනයක් වන AI සැලසුම් කිරීමට දක්ෂ AI එකක් අප කවදා හෝ නිර්මාණය කළහොත් Superintelligent AI ඉතා ඉක්මනින් මතුවිය හැකිය. පිපිරීමට අපගේ ඉලක්ක සමඟ නොගැලපෙන ඉලක්ක තිබිය හැකි අතර, එය අපට ක්‍රියා විරහිත කිරීමට ඉඩ දෙනු ඇතැයි සිතීමට එතරම් හේතුවක් නැත.
දාර්ශනික නික් බොස්ට්‍රොම් වැනි අය කීමට ප්‍රිය කරන පරිදි, සැලකිල්ල දුෂ්ටකම නොවේ - එය නිපුණතාවයයි. මුළු විශ්වයම කඩදාසි ක්ලිප් බවට පත් කිරීම සඳහා සකසන AI පිළිබඳ එම චින්තන අත්හදා බැලීම ඉදිරිපත් කළේ ඔහුයි, එය ඔබට කළ හැකි සහ ජීවත් විය යුතු ෆැන්ටසියකි. මෙම නොමිලේ ඔන්ලයින් ක්ලික් කරන්න. Apocalyptic meatball හි විශේෂයෙන් කුළුබඩු සහිත කොටසක් නම්, AI සඳහා වචනාර්ථයෙන් ඕනෑම ඉලක්කයක් ලබා දීමෙන්, අපි නොදැනුවත්වම එයට තමන්ගේම පරිගණක බලය උපරිම කිරීම හෝ එයට බාධා කළ හැකි ඕනෑම නියෝජිතයෙකු ඉවත් කිරීම වැනි ඇතැම් උපකරණ ඉලක්ක ලබා දෙනු ඇත.
