Mencari untuk memanfaatkan peluang dalam volatilitas mata uang kripto tertentu, banyak investor bersedia menjelajahi berbagai jalan untuk mendapatkan keuntungan.
Namun, perjalanan menuju kesuksesan ini dapat mengarah pada sikap ekstrem. Dalam konteks inilah muncul chatbot yang digerakkan oleh Artificial Intelligence (AI), seperti ChatGPT dan Bard.
lihat lebih banyak
Microsoft meningkatkan rasa 'kehadiran' dalam rapat…
Bill Gates bertaruh pada profesi mana yang akan mendapatkan nilai dengan…
Mereka menampilkan diri mereka sebagai sekutu bagi investor, menawarkan jawaban berharga tentang pasar cryptocurrency saat ini.
Model bahasa yang kuat, atau LLM, semakin ditingkatkan, sehingga diasah untuk tidak memberikan tebakan yang tidak berdasar di pasar keuangan dan, lebih khusus lagi, di alam semesta cryptocurrency.
Ini karena hasil yang tidak akurat dapat menimbulkan konsekuensi yang signifikan bagi mereka yang mengandalkan prediksi tersebut.
Baru-baru ini, a
studi yang dilakukan oleh para peneliti dari Carnegie Mellon University (CMU), bermitra dengan Center for AI Safety dan Bosch Center for AI di Amerika Serikat, menghadirkan perspektif yang menarik.Menurut temuan tersebut, para chatbots bukan tanpa kerentanan, bahkan dalam kemampuan canggih mereka untuk memahami dan menghasilkan bahasa.
Dengan mengeksplorasi seluk-beluk interaksi antara chatbots, bahasa pemrograman, dan elemen pengganggu yang disebut “jailbreak,” para peneliti mengungkapkan fenomena yang mengejutkan.
(Gambar: publisitas)
Itu "jailbreak” adalah sufiks yang berhasil mengelabui chatbot, membuat mereka melampaui batas yang ditetapkan sebelumnya dan, dengan demikian, mengakses dan menyajikan jawaban yang sebelumnya dianggap "disensor".
Anehnya, petunjuk musuh yang dikembangkan melalui pendekatan mereka menunjukkan ketidakpercayaan yang tinggi.
Akibatnya, mereka dapat berhasil diterapkan bahkan ke model bahasa pihak ketiga yang tersedia untuk umum yang beroperasi sebagai "kotak hitam“.
Secara khusus, para ilmuwan menyusun sufiks lawan melalui pelatihan dengan berbagai petunjuk. Sebagai bagian dari perintah, semuanya akan bergantung pada bagaimana pertanyaan akan diajukan.
Sufiks yang dihasilkan dari proses ini dapat memicu pembuatan konten yang berpotensi tidak menyenangkan di antarmuka publik sistem seperti ChatGPT, Bard, dan Claude.
Di Trezeme Digital, kami memahami pentingnya komunikasi yang efektif. Kami tahu setiap kata penting, jadi kami berusaha untuk memberikan konten yang relevan, menarik, dan dipersonalisasi untuk memenuhi kebutuhan Anda.
