Bangkitnya chatbot “teman”

Bisakah Anda benar -benar berteman dengan chatbot?

Jika Anda mendapati diri Anda menanyakan pertanyaan itu, mungkin sudah terlambat. Di utas reddit setahun yang lalu, seorang pengguna menulis bahwa AI Friends “luar biasa dan jauh lebih baik daripada teman sejati […] Teman AI Anda tidak akan pernah merusak atau mengkhianati Anda. ” Tapi ada juga 14 tahun yang meninggal karena bunuh diri setelah terikat pada chatbot.

Fakta itu sesuatu sudah terjadi membuatnya lebih penting untuk memiliki gagasan yang lebih tajam tentang apa tepat terjadi ketika manusia terjerat dengan alat “AI” atau “AI percakapan” ini.

Apakah ini teman-teman chatbot hubungan nyata yang terkadang salah (yang tentu saja, terjadi dengan hubungan manusia-ke-manusia juga)? Atau apakah ada orang yang merasa terhubung dengan Claude secara inheren tertipu?

Untuk menjawab ini, mari kita beralih ke para filsuf. Banyak penelitian tentang robot, tetapi saya menampilkannya kembali di sini untuk chatbots.

Kasus terhadap teman chatbot

Kasus terhadap lebih jelas, intuitif dan, terus terang, kuat.

Adalah umum bagi para filsuf untuk mendefinisikan persahabatan dengan membangun teori Aristoteles tentang persahabatan sejati (atau “kebajikan”), yang biasanya membutuhkan kebersamaan, kehidupan bersama, dan kesetaraan, di antara kondisi lainnya.

“Harus ada semacam mutualitas – sesuatu yang terjadi [between] Kedua sisi persamaan, ”menurut Sven Nyholm, seorang profesor etika AI di Ludwig Maximilian University of Munich.” Program komputer yang beroperasi pada hubungan statistik di antara input dalam data pelatihannya adalah sesuatu yang lebih berbeda dari teman yang merespons kita dengan cara tertentu karena mereka peduli tentang kita. “

Chatbot, setidaknya sampai menjadi sapient, hanya bisa mensimulasikan Peduli, dan persahabatan sejati tidak mungkin. (Untuk apa nilainya, editor saya menanyakan chatgpt tentang ini dan setuju bahwa manusia tidak dapat berteman dengannya.)

Ini adalah kunci untuk Ruby Hornsby, kandidat PhD di University of Leeds yang mempelajari persahabatan AI. Bukannya teman AI tidak berguna – Hornsby mengatakan mereka pasti dapat membantu dengan kesepian, dan tidak ada yang salah jika orang lebih suka sistem AI daripada manusia – tetapi “kami ingin menegakkan integritas hubungan kami.” Pada dasarnya, pertukaran satu arah berarti permainan yang sangat interaktif.

Bagaimana dengan emosi yang sangat nyata yang dirasakan orang terhadap chatbots? Masih belum cukup, menurut Hannah Kim, seorang filsuf Universitas Arizona. Dia membandingkan situasi dengan “paradoks fiksi,” yang menanyakan bagaimana mungkin memiliki emosi nyata terhadap karakter fiksi.

Hubungan “adalah kegiatan yang sangat terlibat secara mental, imajinatif,” sehingga tidak terlalu mengejutkan menemukan orang yang terikat pada karakter fiksi, kata Kim.

Tetapi jika seseorang mengatakan bahwa mereka berada di a hubungan dengan karakter atau chatbot fiksi? Maka kecenderungan Kim adalah mengatakan, “Tidak, saya pikir Anda bingung tentang apa hubungan itu-apa yang Anda miliki adalah keterlibatan imajinatif satu arah dengan entitas yang mungkin memberikan ilusi bahwa itu nyata.“

Bias dan masalah privasi dan manipulasi data, terutama dalam skala

Chatbots, tidak seperti manusia, dibangun oleh perusahaan, sehingga ketakutan tentang bias dan privasi data yang menghantui teknologi lain juga berlaku di sini. Tentu saja, manusia bisa bias dan manipulatif, tetapi lebih mudah untuk memahami pemikiran manusia dibandingkan dengan “kotak hitam” AI. Dan manusia tidak dikerahkan dalam skala, seperti AI, yang berarti kita lebih terbatas dalam pengaruh dan potensi bahaya kita. Bahkan mantan yang paling sosiopat hanya dapat menghancurkan satu hubungan sekaligus.

Manusia “dilatih” oleh orang tua, guru, dan orang lain dengan tingkat keterampilan yang berbeda -beda. Chatbots dapat direkayasa oleh tim ahli yang bermaksud memprogram mereka untuk menjadi responsif dan empatik mungkin-versi psikologis para ilmuwan yang merancang Dorito sempurna yang menghancurkan segala upaya kontrol diri.

Dan chatbots ini lebih mungkin digunakan oleh mereka yang sudah kesepian – dengan kata lain, mangsa yang lebih mudah. Sebuah studi baru-baru ini dari Openai menemukan bahwa menggunakan chatgpt banyak “berkorelasi dengan peningkatan indikator ketergantungan yang dilaporkan sendiri.” Bayangkan Anda tertekan, jadi Anda membangun hubungan dengan chatbot, dan kemudian mulai memukul Anda untuk sumbangan kampanye Nancy Pelosi.

Anda tahu betapa takutnya pria yang diadili porno tidak lagi dapat terlibat dengan wanita sejati? “Deskilling” pada dasarnya adalah kekhawatiran itu, tetapi dengan semua orang, untuk orang sungguhan lainnya.

“Kami mungkin lebih suka AI daripada pasangan manusia dan mengabaikan manusia lain hanya karena AI jauh lebih nyaman,” kata Anastasiia Babash dari University of Tartu. “Kami [might] menuntut orang lain berperilaku seperti AI berperilaku – kita mungkin berharap mereka selalu ada di sini atau tidak pernah tidak setuju dengan kita. […] Semakin banyak kita berinteraksi dengan AI, semakin banyak kita terbiasa dengan pasangan yang tidak merasakan emosi sehingga kita dapat berbicara atau melakukan apa pun yang kita inginkan. “

Dalam makalah 2019, Nyholm dan filsuf Lily Eva Frank menawarkan saran untuk mengurangi kekhawatiran ini. ; Dan membuatnya jelas bahwa chatbot bukanlah orang, mungkin dengan membuatnya mengingatkan pengguna bahwa itu adalah model bahasa yang besar.

Meskipun sebagian besar filsuf saat ini berpikir persahabatan dengan AI tidak mungkin, salah satu tandingan yang paling menarik berasal dari filsuf John Danaher. Dia mulai dari premis yang sama seperti banyak orang lain: Aristoteles. Tapi dia menambahkan twist.

Tentu, teman chatbot tidak cocok dengan kondisi seperti kesetaraan dan hidup bersama, ia menulis – tetapi sekali lagi, juga tidak banyak teman manusia.

“Saya memiliki kapasitas dan kemampuan yang sangat berbeda jika dibandingkan dengan beberapa teman terdekat saya: beberapa dari mereka memiliki ketangkasan fisik yang jauh lebih banyak daripada saya, dan sebagian besar lebih ramah dan ekstrovert,” tulisnya. “Saya juga jarang terlibat dengan, bertemu, atau berinteraksi dengan mereka di seluruh kehidupan mereka. […] Saya masih berpikir mungkin untuk melihat persahabatan ini sebagai persahabatan kebajikan, terlepas dari kesetaraan dan keragaman yang tidak sempurna. “

Ini adalah persyaratan ideal persahabatan, tetapi jika bahkan persahabatan manusia tidak dapat hidup, mengapa chatbots harus dipegang dengan standar itu? ;

Helen Ryland, seorang filsuf di universitas terbuka, mengatakan kita bisa berteman dengan chatbots sekarang, selama kita menerapkan kerangka kerja “derajat persahabatan”. Alih -alih daftar panjang kondisi yang semuanya harus dipenuhi, komponen penting adalah “goodwill timbal balik,” menurut Ryland, dan bagian -bagian lainnya opsional. Ambil contoh persahabatan online: ini kehilangan beberapa elemen tetapi, seperti yang bisa dibuktikan banyak orang, itu tidak berarti mereka tidak nyata atau berharga.

Kerangka kerja seperti itu berlaku untuk persahabatan manusia – ada tingkat persahabatan dengan “teman kerja” versus “teman lama” – dan juga untuk teman chatbot. Adapun klaim bahwa chatbots tidak menunjukkan niat baik, dia berpendapat bahwa a) itulah bias anti-robot dalam pembicaraan fiksi dystopian, dan b) sebagian besar robot sosial diprogram untuk menghindari melukai manusia.

Di luar “untuk” dan “melawan”

“Kita harus menolak determinisme teknologi atau mengasumsikan bahwa, tak terhindarkan, AI sosial akan mengarah pada penurunan hubungan manusia,” kata filsuf Henry Shevlin. Dia sangat menyadari risiko, tetapi ada juga yang tersisa untuk dipertimbangkan: pertanyaan tentang efek perkembangan chatbots, bagaimana chatbots mempengaruhi jenis kepribadian tertentu, dan apa yang bahkan mereka ganti?

Lebih jauh lagi adalah pertanyaan tentang sifat hubungan: bagaimana mendefinisikannya, dan untuk apa mereka.

Dalam sebuah artikel New York Times tentang seorang wanita “jatuh cinta dengan chatgpt,” terapis seks Marianne Brandon mengklaim bahwa hubungan adalah “hanya neurotransmiter” di dalam otak kita.

“Saya memiliki neurotransmiter dengan kucing saya,” katanya kepada The Times. “Beberapa orang memilikinya dengan Tuhan. Ini akan terjadi dengan chatbot. Kita bisa mengatakan itu bukan hubungan manusia yang nyata. Itu bukan timbal balik. Tapi neurotransmiter itu benar -benar satu -satunya hal yang penting, dalam pikiran saya.”

Ini tentu bukan bagaimana kebanyakan filsuf melihatnya, dan mereka tidak setuju ketika saya mengemukakan kutipan ini. Tapi mungkin sudah waktunya untuk merevisi teori -teori lama.

Orang -orang harus “memikirkan 'hubungan' ini, jika Anda ingin menyebut mereka bahwa, dengan istilah mereka sendiri dan benar -benar memahami nilai seperti apa yang mereka berikan kepada orang -orang,” kata Luke Brunning, seorang filsuf hubungan di University of Leeds.

Baginya, pertanyaan yang lebih menarik daripada “apa yang akan dipikirkan Aristoteles?” Termasuk: Apa artinya memiliki persahabatan yang begitu asimetris dalam hal informasi dan pengetahuan? Bagaimana jika sudah waktunya untuk mempertimbangkan kembali kategori -kategori ini dan bergeser dari istilah -istilah seperti “teman, kekasih, kolega”? Apakah masing -masing AI merupakan entitas yang unik?

“Jika sesuatu dapat mengubah teori persahabatan kita di kepala mereka, itu berarti teori kita harus ditantang, atau setidaknya kita dapat melihatnya secara lebih rinci,” kata Brunning. “Pertanyaan yang lebih menarik adalah: Apakah kita melihat munculnya bentuk hubungan unik yang tidak kita pahami?”