Wikipedia + AI = kebenaran? DuckDuckGo berharap demikian dengan answerbot baru

Tidak ketinggalan terburu-buru untuk mengintegrasikan AI generatif ke dalam pencarian, pada hari Rabu DuckDuckGo mengumumkan DuckAssist, layanan ringkasan faktual bertenaga AI yang didukung oleh teknologi dari Anthropic dan OpenAI. Ini tersedia free of charge hari ini sebagai uji beta luas untuk pengguna ekstensi peramban dan aplikasi penjelajahan DuckDuckGo. Ditenagai oleh mannequin AI, perusahaan mengakui bahwa DuckAssist mungkin mengada-ada tetapi berharap itu jarang terjadi.

Berikut cara kerjanya: Jika pengguna DuckDuckGo mencari pertanyaan yang dapat dijawab oleh Wikipedia, DuckAssist mungkin muncul dan menggunakan teknologi bahasa alami AI untuk menghasilkan ringkasan singkat tentang apa yang ditemukannya di Wikipedia, dengan tautan sumber tercantum di bawah. Rangkuman muncul di atas hasil pencarian biasa DuckDuckGo di kotak khusus.

Perusahaan memposisikan DuckAssist sebagai bentuk baru “Jawaban Instan”—sebuah fitur yang mencegah pengguna menggali hasil pencarian net untuk menemukan informasi cepat tentang topik seperti berita, peta, dan cuaca. Sebaliknya, mesin pencari menampilkan hasil Jawaban Instan di atas daftar situs net biasa.

DuckDuckGo tidak mengatakan mannequin bahasa besar (LLM) atau mannequin mana yang digunakannya untuk menghasilkan DuckAssist, meskipun beberapa bentuk API OpenAI tampaknya mungkin. Ars Technica telah menghubungi perwakilan DuckDuckGo untuk klarifikasi. Tapi CEO DuckDuckGo Gabriel Weinberg menjelaskan bagaimana memanfaatkan sumber dalam posting weblog perusahaan:

DuckAssist menjawab pertanyaan dengan memindai sekumpulan sumber tertentu—untuk saat ini biasanya Wikipedia, dan terkadang situs terkait seperti Britannica—menggunakan pengindeksan aktif DuckDuckGo. Karena kami menggunakan teknologi bahasa alami dari OpenAI dan Anthropic untuk meringkas apa yang kami temukan di Wikipedia, jawaban ini seharusnya lebih responsif secara langsung terhadap pertanyaan Anda yang sebenarnya daripada hasil pencarian biasa atau Jawaban Instan lainnya.

Karena nilai jual utama DuckDuckGo adalah privasi, perusahaan mengatakan bahwa DuckAssist adalah “anonim” dan menekankan bahwa ia tidak membagikan riwayat penelusuran atau penelusuran dengan siapa pun. “Kami juga merahasiakan riwayat pencarian dan penelusuran Anda untuk mitra konten pencarian kami,” tulis Weinberg, “dalam hal ini, OpenAI dan Anthropic, digunakan untuk meringkas kalimat Wikipedia yang kami identifikasi.”

Jika DuckDuckGo menggunakan API GPT-3 atau ChatGPT OpenAI, orang mungkin khawatir bahwa situs tersebut berpotensi mengirimkan kueri setiap pengguna ke OpenAI setiap kali dipanggil. Tetapi membaca yang tersirat, tampaknya hanya artikel Wikipedia (atau kutipan dari satu) yang dikirim ke OpenAI untuk dirangkum, bukan pencarian pengguna itu sendiri. Kami telah menghubungi DuckDuckGo untuk klarifikasi tentang hal ini juga.

DuckDuckGo menyebut DuckAssist “yang pertama dari serangkaian fitur bantuan AI generatif yang kami harap akan diluncurkan dalam beberapa bulan mendatang.” Jika peluncurannya berjalan dengan baik—dan tidak ada yang merusaknya dengan petunjuk permusuhan—DuckDuckGo berencana untuk meluncurkan fitur tersebut ke semua pengguna penelusuran “dalam beberapa minggu mendatang”.

DuckDuckGo: Risiko halusinasi “sangat berkurang”

Seperti yang telah kita bahas sebelumnya tentang Ars, LLM cenderung menghasilkan hasil yang salah dan meyakinkan, yang oleh peneliti AI disebut “halusinasi” sebagai istilah seni di bidang AI. Halusinasi bisa sulit dikenali kecuali Anda mengetahui materi yang direferensikan, dan halusinasi muncul sebagian karena LLM bergaya GPT dari OpenAI tidak membedakan antara fakta dan fiksi dalam kumpulan datanya. Selain itu, mannequin dapat membuat kesimpulan palsu berdasarkan information yang akurat.

Pada titik ini, DuckDuckGo berharap untuk menghindari halusinasi dengan bersandar pada Wikipedia sebagai sumber: “dengan meminta DuckAssist untuk hanya meringkas informasi dari Wikipedia dan sumber terkait,” tulis Weinberg, “kemungkinan bahwa itu akan “berhalusinasi”—yaitu, hanya mengarang sesuatu—sangat berkurang.”

Meskipun mengandalkan sumber informasi yang berkualitas dapat mengurangi kesalahan dari informasi palsu dalam kumpulan information AI, ini mungkin tidak mengurangi kesimpulan yang salah. Dan DuckDuckGo membebankan pemeriksaan fakta kepada pengguna, menyediakan tautan sumber di bawah hasil yang dihasilkan AI yang dapat digunakan untuk memeriksa keakuratannya. Tapi itu tidak akan sempurna, dan CEO Weinberg mengakuinya: “Meskipun demikian, DuckAssist tidak akan menghasilkan jawaban yang akurat sepanjang waktu. Kami sepenuhnya mengharapkannya membuat kesalahan.”

Karena semakin banyak perusahaan yang menggunakan teknologi LLM yang dapat dengan mudah memberikan informasi yang salah, mungkin perlu waktu dan penggunaan yang meluas sebelum perusahaan dan pelanggan memutuskan tingkat halusinasi yang dapat ditoleransi dalam produk bertenaga AI yang dirancang untuk memberi tahu orang secara faktual.