« Kembali ke glosarium

Halusinasi AI

AI Search

Keadaan saat model bahasa menghasilkan informasi yang terdengar meyakinkan tapi sebenarnya salah, termasuk mengarang sumber, angka, atau kutipan yang tidak ada.

Ini konsekuensi langsung dari cara kerja model: ia menyusun kelanjutan teks yang paling mungkin, bukan memeriksa kebenaran. Kalimat yang salah bisa keluar dengan nada sama yakinnya dengan kalimat yang benar.

Untuk pemasaran, ada dua sisi yang perlu diperhatikan. Pertama, informasi tentang merek kamu bisa disampaikan model secara keliru, termasuk harga atau klaim yang tidak pernah kamu buat. Kedua, materi yang kamu tulis dengan bantuan model perlu diperiksa ulang sebelum diterbitkan.

Sistem yang mengambil dokumen saat menjawab menurunkan kemungkinan ini, tapi tidak menghilangkannya. Pemeriksaan manusia masih diperlukan, terutama untuk angka dan nama.

Istilah terkait