Ada percobaan pemikiran yang telah mengambil status yang hampir mistis di antara sekelompok teknologi tertentu: jika Anda membangun kecerdasan buatan dan memberikannya tujuan yang tampaknya tidak berbahaya, seperti membuat sebanyak mungkin klip kertas, pada akhirnya mungkin mengubah segalanya – termasuk kemanusiaan – menjadi bahan baku untuk lebih banyak klip kertas.
Perumpamaan yang absurd seperti ini telah dianggap serius oleh beberapa suara paling keras di Lembah Silikon, banyak dari mereka sekarang memperingatkan bahwa AI adalah risiko eksistensial, lebih berbahaya daripada senjata nuklir. Kisah -kisah ini telah membentuk bagaimana miliarder termasuk Elon Musk berpikir tentang AI dan memicu gerakan orang -orang yang percaya bahwa itu bisa menjadi hal terbaik atau terburuk yang pernah terjadi pada kemanusiaan.
Jadi apa sebenarnya yang harus kita khawatirkan ketika datang ke AI?
Di dalam Robot yang bagusseri podcast empat bagian khusus yang diluncurkan 12 Maret dari Tidak bisa dijelaskan dan masa depan sempurna, tuan rumah Julia Longoria Jauh ke dunia AI yang aneh dan berisiko tinggi untuk menjawab pertanyaan itu. Tapi ini bukan hanya cerita tentang teknologi – ini tentang orang -orang yang membentuknya, ideologi yang bersaing yang mendorong mereka, dan konsekuensi besar dari memperbaiki ini (atau salah).
Untuk waktu yang lama, AI adalah sesuatu yang kebanyakan orang tidak perlu pikirkan, tetapi itu tidak lagi terjadi. Keputusan yang dibuat sekarang – tentang siapa yang mengendalikan AI, bagaimana itu dilatih, dan apa yang seharusnya atau tidak boleh dilakukan atau tidak dapat dilakukan – sudah mengubah dunia.
Orang -orang yang mencoba membangun sistem ini tidak menyetujui apa yang harus terjadi selanjutnya – atau bahkan pada apa sebenarnya yang mereka ciptakan. Beberapa orang menyebutnya Kecerdasan Umum Buatan (AGI), sementara CEO Openai, Sam Altman, telah berbicara tentang menciptakan “kecerdasan ajaib di langit” – sesuatu seperti dewa.
Tetapi apakah AI adalah risiko eksistensial sejati atau hanya tren teknologi overhyped lainnya, satu hal yang pasti: taruhannya semakin tinggi, dan pertarungan atas jenis kecerdasan seperti apa yang baru saja kita bangun. Robot yang bagus Membawa Anda ke dalam pertarungan ini – bukan hanya teknologi, tetapi ideologi, ketakutan, dan ambisi yang membentuknya. Dari miliarder dan peneliti hingga ahli etika dan skeptis, ini adalah kisah masa depan AI yang berantakan dan tidak pasti, dan orang -orang yang mencoba mengarahkannya.
Robot yang bagus #1: The Magic Intelligence in the Sky
Sebelum AI menjadi obsesi arus utama, seorang pemikir membunyikan alarm tentang potensi bencana. Jadi mengapa begitu banyak miliarder dan pemimpin teknologi mengkhawatirkan … klip kertas?
Bacaan lebih lanjut dari Future Perfect:
Robot yang bagus #2: Semuanya tidak mengagumkan
Ketika robot melakukan hal -hal buruk, siapa yang bertanggung jawab? Sekelompok teknologi membunyikan alarm tentang cara AI sudah merugikan kita hari ini. Apakah kekhawatiran mereka dianggap serius?
Bacaan lebih lanjut dari Future Perfect:
Robot yang bagus #3: Mari kita perbaiki semuanya
Perumpamaan sederhana tentang anak yang tenggelam memicu revolusi moral. Apakah membangun AI cara untuk melakukan yang paling baik di dunia?
Bacaan lebih lanjut dari masa depan sempurna
Apa yang sebenarnya bisa kita lakukan saat dunia kita dihuni dengan semakin banyak robot? Bagaimana kita bisa mengendalikan? Bisakah kita mengambil kendali?