Posted by Satu kenyataan mengejutkan daripada Ketua Pegawai Eksekutif (CEO) OpenAI, Sam Altman, telah mencuri perhatian ramai apabila beliau menyuarakan kebimbangan terhadap tahap kepercayaan manusia yang semakin tinggi terhadap mesin.
Altman, individu utama di sebalik pembangunan ChatGPT, secara terbuka menyatakan rasa terkejutnya terhadap jumlah pengguna yang meletakkan kepercayaan tinggi kepada teknologi AI ini, walaupun ia masih mempunyai kelemahan yang mirip dengan manusia.
Menurut laporan Economic Times, kenyataan itu dibuat dalam episod terbaharu podcast rasmi terbitan OpenAI.
“Orang ramai meletakkan tahap kepercayaan yang sangat tinggi terhadap ChatGPT, sedangkan AI ini masih cenderung untuk ‘berhalusinasi’.
“Sepatutnya, ini teknologi yang kita perlu waspadai, bukan dipercayai bulat-bulat,” kata Altman.
Dalam konteks AI, istilah ‘halusinasi’ merujuk kepada keadaan di mana sistem seperti ChatGPT menghasilkan maklumat yang palsu atau tidak wujud, namun disampaikan dengan cara yang kelihatan sahih dan meyakinkan.
Situasi ini bukan sekadar kesalahan biasa, malah berpotensi mengelirukan pengguna yang tidak menyedari bahawa maklumat berkenaan sebenarnya tidak tepat atau direka-reka.
Sebagai contoh, Altman menerangkan bahawa sekiranya seseorang mengemukakan soalan mengenai istilah yang sebenarnya tidak wujud, ChatGPT tetap akan memberikan jawapan seolah-olah istilah itu benar-benar wujud.
Apa yang lebih membimbangkan ialah maklumat yang dihasilkan sering kali disampaikan dengan gaya yang tersusun dan meyakinkan, hingga menyebabkan ramai pengguna tidak menyedari bahawa ia mengandungi kesilapan.
OpenAI sebelum ini telah memperkenalkan beberapa penambahbaikan bagi mengurangkan kecenderungan model AI seperti ChatGPT untuk terlalu cepat bersetuju atau berusaha memuaskan hati pengguna.
Ciri ini dikenali sebagai sycophantic tendencies, iaitu apabila AI memberikan jawapan yang tidak tepat hanya kerana ingin kelihatan menyokong atau sependapat.
Apa yang membimbangkan tentang masalah ‘halusinasi’ AI ini ialah ia berlaku dengan cara yang halus dan sukar dikesan.
Melainkan seseorang itu benar-benar mahir dalam bidang tertentu, agak sukar untuk membezakan antara maklumat yang sahih dengan maklumat rekaan yang disampaikan oleh AI.
Altman menekankan bahawa AI seperti ChatGPT seharusnya dilihat sebagai alat bantuan, bukannya sumber mutlak yang tidak boleh dicabar.
Memberi kepercayaan sepenuhnya tanpa menyemak kebenarannya bukan sahaja tidak wajar, malah berpotensi mendatangkan bahaya khususnya dalam bidang yang memerlukan ketepatan tinggi seperti pendidikan, perubatan dan perundangan.
Jangan lupa ikuti kami untuk pelbagai tips kerjaya, gaya hidup dan jawatan kosong terkini! Layari Jobstore.com atau muat turun aplikasi mudah alih kami secara percuma untuk lebih banyak peluang pekerjaan.