Google pada hari Senin, 6 Februari meluncurkannya chatbot Bard yang diberdayakan oleh AI yang akan memberikan persaingan ketat untuk ChatGPT OpenAI, dengan perusahaan menegaskan bahwa itu akan “tersedia lebih luas untuk umum dalam beberapa minggu mendatang.”
Sekarang tampaknya bot mungkin memiliki beberapa tantangan, karena Bard telah dinilai oleh para ahli telah membuat kesalahan faktual dalam demo pertamanya.
Google telah membagikan GIF di mana Bard menjawab pertanyaan: “Penemuan baru apa dari Teleskop Luar Angkasa James Webb yang dapat saya ceritakan kepada anak saya yang berusia 9 tahun?”
Bard dalam tanggapannya menawarkan tiga poin, termasuk yang menyatakan bahwa teleskop “mengambil gambar pertama dari sebuah planet di luar tata surya kita sendiri.”
Jawaban Bard salah karena sejumlah astronom menunjukkan bahwa gambar pertama planet ekstrasurya diambil pada tahun 2004, sebuah klaim yang dikuatkan di situs web NASA.
Grant Tremblay, seorang astrofisikawan, bereaksi terhadap kesalahan Bard telah men-tweet:
“Bukan untuk menjadi ~well, sebenarnya~ brengsek, dan saya yakin Bard akan mengesankan, tetapi sebagai catatan: JWST tidak mengambil ‘gambar pertama dari sebuah planet di luar tata surya kita.’”
Direktur University of California Observatories di UC Santa Cruz, Bruce Macintosh, sekaligus menunjukkan kesalahan tersebut tweeted:
“Berbicara sebagai seseorang yang mencitrakan exoplanet 14 tahun sebelum JWST diluncurkan, sepertinya Anda harus menemukan contoh yang lebih baik?”
Bukan untuk menjadi ~ yah, sebenarnya ~ brengsek, dan saya yakin Bard akan mengesankan, tetapi sebagai catatan: JWST tidak mengambil “gambar pertama dari sebuah planet di luar tata surya kita”.
Jawaban pertama Bard berisi kesalahan faktual. Gambar: Google
Tremblay dalam tweet tindak lanjut menulis: “Saya sangat suka dan menghargai bahwa salah satu perusahaan paling kuat di planet ini menggunakan pencarian JWST untuk mengiklankan LLM mereka. Luar biasa! Tapi ChatGPT dll., meskipun sangat mengesankan, sering kali *sangat percaya diri* salah. Akan menarik untuk melihat masa depan di mana LLM memeriksa kesalahan sendiri.”
Setelah informasi yang salah oleh Bard, perusahaan induk Google, saham Alphabet turun hampir delapan persen, dengan perusahaan langsung kehilangan $100 miliar nilai pasar.
Seperti yang dengan tepat dicatat oleh Tremblay, hambatan utama chatbot AI seperti ChatGPT dan Bard adalah kemungkinan kecenderungan mereka untuk menyatakan informasi yang salah sebagai fakta, dengan sistem yang sering mengarang informasi itu sendiri karena pada dasarnya mereka adalah sistem pelengkapan otomatis.
Oleh karena itu, chatbot dilatih tentang kumpulan teks dan penganalisa pola yang menentukan kata yang mengikuti kata berikutnya dalam kalimat tertentu alih-alih meminta basis data fakta yang terbukti untuk menjawab pertanyaan.
Karena itu mungkin berkonotasi bahwa mereka probabilistik, bukan deterministik, yang berhubungan dengan kemungkinan jawaban dan bukan jawaban faktual.
Microsoft, saat menunjukkan demo untuk mesin pencari Bing yang ditenagai AI, mencoba meskipun tidak berhasil untuk mencegah masalah ini dengan menempatkan tanggung jawab pada pengguna.
Penafian oleh perusahaan berbunyi sebagai berikut: “Bing didukung oleh AI, jadi kejutan dan kesalahan mungkin terjadi. “Pastikan untuk memeriksa fakta dan membagikan umpan balik agar kita dapat belajar dan berkembang!”
Tetapi mengapa kita harus memeriksa fakta setiap saat ketika kita ditawari penawaran produk teknologi kecerdasan buatan yang dikatakan memberikan jawaban dasar atas pertanyaan, yang ditanyakan sebagian besar pengguna.
Juru bicara Google, Jane Park, dalam sebuah pernyataan kepada Itu kata Verge: “Hal ini menyoroti pentingnya proses pengujian yang ketat, sesuatu yang akan kami mulai minggu ini dengan program Penguji Tepercaya kami. Kami akan menggabungkan umpan balik eksternal dengan pengujian internal kami sendiri untuk memastikan respons Bard memenuhi standar kualitas, keamanan, dan landasan yang tinggi dalam informasi dunia nyata.”
