Eliezer Yudkowsky: "Jika Anda ingin membangun AI yang meningkatkan dir...

"Jika Anda ingin membangun AI yang meningkatkan diri secara rekursif, minta ia melakukan satu miliar modifikasi diri secara berurutan, menjadi jauh lebih pintar daripada Anda, dan tidak mati, Anda harus bekerja dengan standar yang cukup tepat."

--- Eliezer Yudkowsky

#Seandainya #Ingin #Diri #Ini #Miliaran #Standar #Modifikasi #Tepat #Lebih pintar #Memperbaiki

Versi Bahasa Inggris

If you want to build a recursively self-improving AI, have it go through a billion sequential self-modifications, become vastly smarter than you, and not die, you've got to work to a pretty precise standard.