Peserta penelitian memang cenderung membagikan berita yang benar dan salah, namun cenderung percaya pada berita yang salah.
(Gambar ilustrasi dibuat AI/Pikaso/Freepik) ngarahNyaho - Sebuah studi yang dipimpin oleh para peneliti di Universitas Indiana telah menemukan bahwa pemeriksaan fakta AI, dalam beberapa kasus, sebenarnya dapat meningkatkan kepercayaan pada berita utama yang salah.
Peserta penelitian yang diberi opsi untuk melihat berita utama yang diperiksa faktanya oleh AI yang didukung oleh model bahasa besar secara signifikan lebih cenderung untuk membagikan berita yang benar dan salah.
Hanya saja, mereka lebih cenderung mempercayai berita utama yang salah, bukan berita utama yang benar.
Studi tersebut diterbitkan pada tanggal 4 Desember dalam Proceedings of the National Academy of Sciences.
"Ada banyak kegembiraan tentang pemanfaatan AI untuk meningkatkan aplikasi seperti pemeriksaan fakta," ujar penulis pertama utama studi ini Matthew DeVerna, seperti dikutip dari Phys.
Alasannya, "pemeriksa fakta manusia tidak dapat mengimbangi banyaknya klaim palsu atau menyesatkan yang tersebar di media sosial, termasuk konten yang dihasilkan oleh AI," lanjut dia.
"Namun, penelitian kami menyoroti bahwa ketika orang berinteraksi dengan AI, konsekuensi yang tidak diinginkan dapat muncul, menyoroti betapa pentingnya untuk mempertimbangkan dengan cermat bagaimana alat ini digunakan."
Dalam penelitian tersebut, ilmuwan IU secara khusus menyelidiki dampak informasi pemeriksaan fakta yang dihasilkan oleh model bahasa besar yang populer terhadap keyakinan terhadap, dan niat berbagi, berita utama politik.
Studi itu dilakukan dalam eksperimen kontrol acak yang telah didaftarkan sebelumnya.
Meskipun model tersebut secara akurat mengidentifikasi 90% berita utama yang salah, para peneliti menemukan bahwa hal ini tidak secara signifikan meningkatkan kemampuan peserta untuk membedakan antara berita utama yang benar dan salah.
Sebaliknya, para peneliti menemukan penggunaan pemeriksaan fakta yang dibuat manusia memang meningkatkan ketajaman pengguna dalam membedakan berita utama yang sebenarnya.
"Temuan kami menyoroti sumber penting potensi bahaya yang berasal dari aplikasi AI dan menggarisbawahi kebutuhan penting akan kebijakan untuk mencegah atau mengurangi konsekuensi yang tidak diinginkan tersebut.
"Diperlukan lebih banyak penelitian untuk meningkatkan akurasi pemeriksaan fakta AI serta memahami interaksi antara manusia dan AI dengan lebih baik," kata penulis senior, Filippo Menczer, menambahkan. |
Sumber: Phys
إرسال تعليق