Ini mungkin sulit untuk membayangkan bahwa Anda adalah goal spycraft, tetapi memata-matai karyawan adalah batas berikutnya dari AI militer. Teknik pengawasan yang akrab dengan kediktatoran otoriter kini telah digunakan kembali untuk menargetkan pekerja Amerika.

Selama dekade terakhir, beberapa lusin perusahaan telah muncul untuk menjual langganan perusahaan Anda untuk layanan seperti “intelijen sumber terbuka”, “manajemen reputasi”, dan “penilaian ancaman orang dalam”—alat yang awalnya sering dikembangkan oleh kontraktor pertahanan untuk penggunaan intelijen. Karena pembelajaran mendalam dan sumber knowledge baru telah tersedia selama beberapa tahun terakhir, alat ini menjadi jauh lebih canggih. Dengan mereka, atasan Anda mungkin dapat menggunakan analitik knowledge tingkat lanjut untuk mengidentifikasi pengorganisasian tenaga kerja, pembocor inside, dan kritik perusahaan.

Bukan rahasia lagi bahwa serikat pekerja sudah dipantau oleh perusahaan besar seperti Amazon. Tetapi perluasan dan normalisasi alat untuk melacak pekerja hanya menarik sedikit komentar, terlepas dari asal usulnya yang tidak menyenangkan. Jika mereka sekuat yang mereka klaim — atau bahkan menuju ke arah itu — kita membutuhkan percakapan publik tentang kebijaksanaan mentransfer amunisi informasi ini ke tangan swasta. AI tingkat militer dimaksudkan untuk menargetkan musuh nasional kita, yang secara nominal berada di bawah kendali pemerintah demokratis terpilih, dengan perlindungan untuk mencegah penggunaannya terhadap warga negara. Kita semua harus prihatin dengan gagasan bahwa sistem yang sama sekarang dapat digunakan secara luas oleh siapa saja yang mampu membayar.

FiveCast, misalnya, dimulai sebagai startup anti-terorisme yang menjual ke militer, tetapi telah mengalihkan alatnya ke perusahaan dan penegak hukum, yang dapat menggunakannya untuk mengumpulkan dan menganalisis semua jenis knowledge yang tersedia untuk umum, termasuk postingan media sosial Anda. Daripada hanya menghitung kata kunci, FiveCast membual bahwa “keamanan komersial” dan penawaran lainnya dapat mengidentifikasi jaringan orang, membaca teks di dalam gambar, dan bahkan mendeteksi objek, gambar, emblem, emosi, dan konsep di dalam konten multimedia. Alat “manajemen risiko rantai pasokan” bertujuan untuk memperkirakan gangguan di masa depan, seperti pemogokan, untuk perusahaan.

Alat analisis jaringan yang dikembangkan untuk mengidentifikasi sel-sel teroris dapat digunakan untuk mengidentifikasi penyelenggara tenaga kerja utama sehingga pemberi kerja dapat memecat mereka secara ilegal sebelum serikat pekerja terbentuk. Penggunaan standar alat-alat ini selama perekrutan dapat mendorong pemberi kerja untuk menghindari mempekerjakan penyelenggara semacam itu sejak awal. Dan strategi penilaian risiko kuantitatif disusun untuk memperingatkan bangsa terhadap serangan yang akan datang sekarang dapat menginformasikan keputusan investasi, seperti apakah akan melakukan divestasi dari daerah dan pemasok yang diperkirakan memiliki kapasitas tinggi untuk mengatur tenaga kerja.

Tidak jelas apakah alat ini dapat memenuhi hype mereka. Misalnya, metode analisis jaringan menetapkan risiko berdasarkan pengaitan, yang berarti Anda dapat ditandai hanya karena mengikuti halaman atau akun tertentu. Sistem ini juga dapat diakali dengan konten palsu, yang mudah diproduksi dalam skala besar dengan AI generatif baru. Dan beberapa perusahaan menawarkan teknik pembelajaran mesin yang canggih, seperti pembelajaran mendalam, untuk mengidentifikasi konten yang tampak marah, yang dianggap menandakan keluhan yang dapat mengakibatkan penyatuan, meskipun pendeteksian emosi terbukti bias dan berdasarkan asumsi yang salah.

Tetapi kemampuan sistem ini berkembang pesat. Perusahaan mengiklankan bahwa mereka akan segera memasukkan teknologi AI generasi mendatang dalam alat pengawasan mereka. Fitur-fitur baru berjanji untuk membuat penjelajahan berbagai sumber knowledge lebih mudah melalui dorongan, tetapi tujuan akhir tampaknya menjadi sistem pengawasan yang rutin, semi-otomatis, dan menghancurkan serikat pekerja.

Terlebih lagi, layanan berlangganan ini berfungsi meskipun tidak berfungsi. Mungkin tidak masalah jika seorang karyawan yang dianggap sebagai pembuat onar benar-benar tidak puas; eksekutif dan keamanan perusahaan masih dapat bertindak atas tuduhan tersebut dan membalas mereka secara tidak adil. Penilaian agregat yang tidak jelas tentang “emosi” tenaga kerja atau citra publik perusahaan saat ini tidak mungkin diverifikasi keakuratannya. Dan kehadiran sistem ini saja kemungkinan besar akan berdampak buruk pada perilaku yang dilindungi secara hukum, termasuk pengorganisasian tenaga kerja.