Dalam beberapa hal, sulit untuk memahami bagaimana ketidaksejajaran ini terjadi. Kami menciptakan semua ini sendiri, untuk diri kami sendiri.

Benar, kami pada dasarnya adalah “chauvinis karbon”, seperti yang dikatakan Tegmark: Kami suka berpikir hanya mesin darah dan daging seperti kami yang dapat berpikir, menghitung, mencipta. Namun keyakinan bahwa mesin tidak dapat melakukan apa yang kita lakukan mengabaikan wawasan utama dari AI: “Kecerdasan adalah tentang pemrosesan informasi, dan tidak masalah apakah informasi tersebut diproses oleh atom karbon di otak atau oleh atom silikon di komputer. ”

Tentu saja ada yang mengatakan: Omong kosong! Semuanya keren! Bahkan lebih baik! Bawa mesinnya. Semakin cepat kita bergabung dengan mereka, semakin baik; kami sudah mulai dengan mata dan hati kami yang direkayasa, keterikatan intim kami dengan perangkat. Ray Kurzweil, yang terkenal, tidak sabar menunggu singularitas yang akan datang, ketika semua perbedaan direduksi menjadi hampir tidak ada. “Ini benar-benar dekade berikutnya yang harus kita lalui,” kata Kurzweil kepada khalayak ramai baru-baru ini.

Ah, hanya itu.

Bahkan Jaron Lanier, yang mengatakan gagasan AI mengambil alih itu konyol karena dibuat oleh manusia, memungkinkan kepunahan manusia adalah suatu kemungkinan — jika kita mengacaukan cara kita menggunakannya dan membuat diri kita benar-benar gila: “Bagi saya bahayanya adalah kita Kami akan menggunakan teknologi kami untuk menjadi tidak dapat dipahami satu sama lain atau menjadi gila, jika Anda suka, dengan cara yang tidak cukup pemahaman dan kepentingan pribadi untuk bertahan hidup, dan pada dasarnya kami mati karena kegilaan.

Mungkin kita hanya lupa diri kita sendiri. “Kehilangan kemanusiaan kita” adalah ungkapan yang sering diulang oleh para pelaku bom dan hampir sama seringnya hari ini. Bahaya dari teknologi yang tidak terkendali, tulis teman fisikawan saya, adalah “kekhawatiran bahwa kita akan kehilangan sebagian dari keistimewaan yang tidak dapat ditentukan dan luar biasa yang membuat manusia menjadi ‘manusia’.” Tujuh atau lebih dekade kemudian, Lanier sependapat. “Kita harus mengatakan kesadaran adalah hal yang nyata dan ada interioritas mistis pada orang-orang yang berbeda dari hal-hal lain karena jika kita tidak mengatakan orang itu istimewa, bagaimana kita bisa membuat masyarakat atau membuat teknologi yang melayani orang?”

Apakah itu bahkan masalah jika kita punah?

Manusia telah lama dibedakan karena kapasitasnya untuk empati, kebaikan, kemampuan untuk mengenali dan menanggapi emosi orang lain. Kami bangga pada kreativitas dan inovasi, orisinalitas, kemampuan beradaptasi, alasan. Rasa diri. Kami menciptakan sains, seni, musik. Kami menari, kami tertawa.

Tapi sejak Jane Goodall mengungkapkan bahwa simpanse bisa altruistis, membuat alat, meratapi kematian mereka, segala macam makhluk, termasuk ikan, burung, dan jerapah telah membuktikan diri mereka mampu berpikir, merencanakan ke depan, memiliki rasa keadilan, menolak godaan, bahkan bermimpi. (Hanya manusia, melalui otak besar mereka yang tidak sejajar, yang tampaknya benar-benar mampu melakukan pemusnahan massal.)

Mungkin saja kita terkadang membodohi diri sendiri dengan berpikir bahwa hewan dapat melakukan semua ini karena kita melakukan antropomorfisasi pada mereka. Sudah pasti kita membodohi diri sendiri dengan berpikir bahwa mesin adalah teman kita, hewan peliharaan kita, orang kepercayaan kita. Sherry Turkle dari MIT menyebut AI sebagai “keintiman buatan”, karena sangat bagus dalam memberikan hubungan yang palsu, namun meyakinkan, termasuk empati palsu. Waktunya tidak bisa lebih buruk. Bumi sangat membutuhkan perhatian kita; kita harus melakukan semua yang kita bisa untuk terhubung dengan alam, bukan mengintensifkan “hubungan kita dengan objek yang tidak peduli jika umat manusia mati”.