Partai Demokrat Pennsylvania menggunakan chatbot AI sebagai alat penjangkauan pemilih dalam kampanye kongres

Alat perbankan telepon yang sepenuhnya didukung oleh kecerdasan buatan (AI) mendapatkan ujian nyata pertamanya dalam kampanye kongres Partai Demokrat di Pennsylvania.

Chatbot tersebut, bernama Ashley, menelepon para pemilih dan melakukan percakapan interaktif dua arah tentang kandidat Shamaine Daniels, satu dari tujuh anggota Partai Demokrat yang mencalonkan diri dalam pemilihan pendahuluan tahun depan. Alat pemungutan suara dari startup Civox mewakili salah satu dari banyak cara teknologi AI memasuki dunia politik menjelang kampanye pemilu tahun 2024, namun para ahli mengatakan bahwa kontak langsung dengan pemilih dapat mengancam keamanan data dan berpotensi merusak kepercayaan pemilih.

Daniels mengumumkan kemitraannya dengan Civox pada hari Selasa, dan mengatakan alat kampanye politik pertama ini telah menyelesaikan lebih dari 1.000 panggilan telepon dengan calon pemilih utama Partai Demokrat di distrik DPR ke-10 Pennsylvania, yang mencakup ibu kota negara bagian, Harrisburg.

BAGAIMANA AI AKAN MEREVOLUSI POLITIK DI TAHUN 2024, DAN MENGAPA PEMILIH HARUS WASPADA

Tidak seperti robocaller lainnya, Ashley tidak menggunakan tanggapan terekam atau memberikan menu opsi kepada penerima panggilan. Sebaliknya, mereka menggunakan teknologi AI generatif untuk merancang jawaban langsung terhadap pertanyaan pemilih.

Alat ini dibuat oleh Civox bekerja sama dengan perusahaan baru lainnya, Conversation Labs. CEO Civox Ilya Mouzykantskii dan salah satu pendirinya Adam Reis, yang juga mendirikan Conversation Labs, mengatakan mereka telah mengujinya dengan cermat untuk memastikan bahwa Civox dapat menjawab pertanyaan secara akurat tentang kebijakan Daniels dan apa yang membedakannya dari kandidat lain dalam pencalonan.

Para pendiri mengatakan mereka memutuskan untuk memberikan alat tersebut suara seperti mesin karena dalam pengujian internal, penerima panggilan lebih menyukainya dibandingkan suara lain yang lebih realistis.

“Seringkali bukan suara itu sendiri yang mempengaruhi seberapa alami atau perasaan manusiawi percakapan tersebut,” kata Reis. “Seringkali faktornya adalah perbedaan interaksi dan seberapa cepat responsnya serta bahasa yang digunakan.”

Dalam demonstrasi dengan Ashley pada hari Selasa, alat tersebut mengungkapkan bahwa alat tersebut didukung oleh AI dan panggilan tersebut direkam. Ketika ditanya, mereka dengan jelas dan akurat menyampaikan pendapat Daniels mengenai layanan kesehatan yang terjangkau dan reformasi pendidikan.

Mereka menanggapi dengan bijaksana pertanyaan-pertanyaan tajam tentang integritas pemilu dan petahana dari Partai Republik, petahana enam periode Scott Perry, hanya berhenti beberapa detik sebelum memberikan tanggapan.

JUMLAH ORANG AMERIKA YANG MENINGKAT MENGATAKAN MEREKA LEBIH Peduli Daripada SEMANGAT TERHADAP AI: SURVEI

Namun ketika pertanyaan di luar topik diajukan, alat tersebut terkadang tersandung dan membagikan informasi palsu. Dalam perbincangan tentang makanan ringan, dikatakan bahwa Cheetos “dikenal enak dan sadar kesehatan”.

Ini adalah contoh dari “halusinasi” AI—masalah dengan teknologi AI generatif yang terus berkembang di mana model bahasa besar cenderung membuat pernyataan yang terdengar meyakinkan tetapi salah atau dibuat-buat.

Mouzykantskii mengatakan kesalahan tersebut menarik namun “tidak mewakili” pengalaman pemilih dengan alat tersebut sejauh ini. “Kami menguji Ashley lebih ekstensif pada topik politik dibandingkan topik pangan dan gizi,” katanya.

Reaksi para pemilih terhadap Ashley sejauh ini beragam, kata Joe Bachman dari Indigo Strategies, juru bicara Daniels. Dia mencatat bahwa meskipun beberapa penerima panggilan melakukan percakapan mendalam, banyak yang hanya menjawab satu kata seperti manusia dalam percakapan telepon dengan chatbot perbankan.

“Tidak ada yang bisa menggantikan percakapan langsung satu lawan satu, baik melalui telepon atau di rumah,” katanya. “Ini adalah teknologi baru. Butuh beberapa waktu bagi pemilih untuk terbiasa dengannya, sama seperti ketika kampanye mulai menggunakan pesan teks untuk berkomunikasi dengan pemilih.”

Dia mengatakan pihak kampanye merasa bahwa chatbot, yang dapat berbicara dalam lebih dari 20 bahasa, merupakan peluang bagus untuk menjangkau pemilih di distrik Pennsylvania bagian selatan, yang memiliki populasi pengungsi dalam jumlah besar.

Mouzykantskii dan Reis mengatakan mereka menciptakan Ashley menggunakan kombinasi lebih dari 20 model AI, termasuk model sumber terbuka dan kepemilikan. Mereka menolak untuk membagikan data apa saja yang digunakan untuk melatih model AI mereka dan tidak mau mengatakan apakah data tersebut menyertakan sistem dari OpenAI atau perusahaan AI terkenal lainnya yang memiliki aturan yang melarang penggunaan dalam kampanye politik.

Pengusaha lain yang berada di persimpangan antara AI dan politik mengatakan mereka skeptis terhadap interaksi langsung Ashley dengan pemilih dan menyarankan kampanye untuk lebih sering menggunakan teknologi yang berkembang pesat di bagian belakang kampanye, seperti menyiapkan teks iklan.

“Panduan yang saya tawarkan dan lihat dari kebanyakan orang adalah bahwa mereka menjauhi kepribadian AI ketika menyangkut politik dan mengkampanyekan siklus ini,” kata Betsy Hoover, mitra pendiri perusahaan akselerator teknologi progresif dan modal ventura Higher Ground Labs. “Anda tidak perlu masyarakat menjadi kurang percaya pada politik saat ini. Faktanya, kita membutuhkan yang sebaliknya, jadi ini bukan siklus yang harus dicoba.”

STUDI MENUNJUKKAN BAGAIMANA AI DAPAT MEMPREDIKSI SECARA AKURAT BAGAIMANA MASYARAKAT MEMILIH DALAM PEMILU

Mike Nellis, CEO agensi digital progresif Authentic, mengatakan dia prihatin dengan kemungkinan chatbot membuat kesalahan dalam percakapan dan tidak yakin ada cukup data untuk mengatakan apakah seruan tersebut akan efektif dalam memotivasi pemilih. Data yang dikumpulkan alat ini melalui panggilan telepon juga menjadi perhatian lain, katanya.

“Saat ini, model bahasa besar tersebut mengetahui informasi sensitif pemilih dan mengetahui reaksi pemilih terhadap informasi tersebut,” kata Nellis. “Saya tidak tahu seberapa amannya.”

Mouzykantskii mengatakan Civox melindungi informasi pemilih sesuai dengan “kampanye politik, teknologi, standar industri” dan menambahkan bahwa ia mendorong regulator untuk memperhatikan alat-alat yang muncul ini dan menetapkan pedoman yang lebih kuat untuk alat-alat tersebut.

Daniels, 45, adalah seorang pengacara imigrasi dan anggota Dewan Kota Harrisburg yang mencalonkan diri untuk kedua kalinya untuk kursi kongres, yang berada di distrik Partai Republik. Pemilihan pendahuluan di negara bagian ini akan dilaksanakan pada tanggal 23 April.

Perry mengalahkan Daniels dengan 8 poin persentase pada tahun 2022, menyerahkannya dengan mudah.