Kata kata bijak "Nick Bostrom" tentang "KEBUTUHAN"
"Kecil kemungkinan bahaya alam itu akan menimpa kita dalam 100 tahun ke depan jika kita sudah selamat 100.000. Sebaliknya, kami memperkenalkan, melalui aktivitas manusia, sepenuhnya jenis bahaya baru dengan mengembangkan teknologi baru yang kuat. Kami tidak memiliki catatan untuk selamat dari itu."
--- Nick Bostrom
--- Nick Bostrom
"Alih-alih menjadi spesies biologis paling pintar, kita mungkin lebih baik dianggap sebagai spesies biologis paling bodoh yang mampu memulai peradaban teknologi - ceruk yang kita isi karena kita sampai di sana lebih dulu, bukan karena kita dalam hal apa pun secara optimal beradaptasi secara optimal dengannya."
--- Nick Bostrom
--- Nick Bostrom
"Pada abad berikutnya, kita akan menemukan teknologi baru yang radikal - kecerdasan mesin, mungkin nanoteknologi, kemajuan besar dalam biologi sintetis dan hal-hal lain yang belum pernah kita pikirkan. Dan kekuatan-kekuatan baru itu akan membuka peluang bagus, tetapi mereka mungkin juga membawa risiko tertentu. Dan kami tidak memiliki rekam jejak bertahan dari risiko-risiko itu. Jadi jika ada risiko eksistensial besar, saya pikir mereka akan datang dari kegiatan kita sendiri dan sebagian besar dari kreativitas dan kreativitas kita sendiri."
--- Nick Bostrom
--- Nick Bostrom
"Pendekatan kami terhadap risiko eksistensial tidak dapat menjadi salah satu coba-coba. Tidak ada kesempatan untuk belajar dari kesalahan. Pendekatan reaktif - lihat apa yang terjadi, batasi kerusakan, dan pelajari dari pengalaman - tidak bisa dijalankan. Sebaliknya, kita harus mengambil pendekatan proaktif. Ini membutuhkan tinjauan ke masa depan untuk mengantisipasi jenis ancaman baru dan kemauan untuk mengambil tindakan pencegahan yang tegas dan menanggung biaya (moral dan ekonomi) dari tindakan tersebut."
--- Nick Bostrom
--- Nick Bostrom
"Bagaimana kita bisa melacak hubungan antara tindakan yang dilakukan orang hari ini dan hasil jangka panjang yang benar-benar untuk kemanusiaan - hasil yang membentang tanpa batas ke masa depan? Saya menyebut upaya ini sebagai strategi makro - yaitu, memikirkan situasi strategis yang sangat besar karena memiliki dampak positif pada masa depan jangka panjang. Ada efek kupu-kupu: Perubahan kecil dalam kondisi awal dapat memiliki konsekuensi besar yang sewenang-wenang."
--- Nick Bostrom
--- Nick Bostrom
"Risiko eksistensial terbesar selama beberapa dekade atau abad mendatang timbul dari terobosan teknologi tertentu yang diantisipasi yang mungkin kita buat khususnya, kecerdasan super mesin, nanoteknologi, dan biologi sintetis. Masing-masing memiliki potensi besar untuk meningkatkan kondisi manusia dengan membantu menyembuhkan penyakit, kemiskinan, dll. Tetapi orang dapat membayangkan mereka disalahgunakan, digunakan untuk membuat sistem senjata yang kuat, atau bahkan semacam skenario destruktif yang tidak disengaja, di mana kita tiba-tiba berada di memiliki beberapa teknologi yang jauh lebih kuat daripada yang dapat kita kontrol atau gunakan dengan bijak."
--- Nick Bostrom
--- Nick Bostrom
"Fungsi kognitif otak manusia bergantung pada orkestrasi yang rumit dari banyak faktor, terutama selama tahap-tahap kritis perkembangan embrio - dan jauh lebih mungkin bahwa struktur yang mengatur diri sendiri ini, untuk ditingkatkan, perlu diseimbangkan dengan hati-hati, disesuaikan, dan dibudidayakan bukan hanya dibanjiri dengan ramuan asing."
--- Nick Bostrom
--- Nick Bostrom
"Tantangan yang disajikan oleh prospek kecerdasan super, dan bagaimana kita bisa merespons dengan sangat baik mungkin adalah tantangan yang paling penting dan paling menakutkan yang pernah dihadapi manusia. Dan - apakah kita berhasil atau gagal - itu mungkin tantangan terakhir yang akan kita hadapi."
--- Nick Bostrom
--- Nick Bostrom