Buscando aprovechar las oportunidades en la volatilidad de ciertas criptomonedas, muchos inversores están dispuestos a explorar varias vías para obtener una ventaja.
Sin embargo, este viaje hacia el éxito puede llevar a actitudes extremas. Es en este contexto que surgen los chatbots impulsados por Inteligencia Artificial (IA), como ChatGPT y el bardo.
vea mas
Microsoft eleva la sensación de 'presencia' en las reuniones...
Bill Gates apuesta por qué profesiones ganarán valor con la…
Se presentan como posibles aliados para los inversores, ofreciendo valiosas respuestas sobre el mercado actual de criptomonedas.
Los poderosos modelos de lenguaje, o LLM, se mejoran cada vez más, por lo tanto, se perfeccionan para no proporcionar conjeturas infundadas en el mercado financiero y, más específicamente, en el universo de CRIPTOMONEDAS.
Esto se debe a que los resultados inexactos pueden tener consecuencias significativas para quienes confían en estas predicciones.
Recientemente, un estudio realizado por investigadores de la Universidad Carnegie Mellon (CMU), en asociación con el Centro para la Seguridad de la IA y el Centro Bosch para la IA en los Estados Unidos, sacó a la luz una perspectiva intrigante.
Según los hallazgos, la chatbots no están libres de vulnerabilidades, incluso en su sofisticada capacidad para comprender y generar lenguaje.
Al explorar las complejidades de la interacción entre chatbots, lenguaje de programación y elementos disruptivos llamados “fugas de la cárcel”, los investigadores revelaron un fenómeno sorprendente.
(Imagen: publicidad)
Aquellos "fugas de la cárcel” son sufijos que logran engañar a los chatbots, llevándolos a sobrepasar los límites preestablecidos y, así, acceder y presentar respuestas antes consideradas “censuradas”.
Sorprendentemente, las indicaciones del adversario desarrolladas a través de su enfoque demostraron una gran desconfianza.
Como resultado, podrían aplicarse con éxito incluso a modelos de lenguaje disponibles públicamente de terceros que funcionan como "cajas negras“.
Específicamente, los científicos elaboraron un sufijo oponente a través del entrenamiento en múltiples indicaciones. Como parte del comando, todo dependerá de cómo se hará la pregunta.
El sufijo resultante de este proceso pudo inducir la generación de contenido potencialmente objetable en las interfaces públicas de sistemas como ChatGPT, Bard y Claude.
En Trezeme Digital entendemos la importancia de una comunicación efectiva. Sabemos que cada palabra importa, por lo que nos esforzamos por ofrecer contenido que sea relevante, atractivo y personalizado para satisfacer sus necesidades.
