Cherchant à tirer parti des opportunités de volatilité de certaines crypto-monnaies, de nombreux investisseurs sont prêts à explorer diverses avenues pour obtenir un avantage.
Cependant, ce voyage vers le succès peut conduire à des attitudes extrêmes. C'est dans ce contexte qu'émergent les chatbots pilotés par l'Intelligence Artificielle (IA), tels que ChatGPT et le barde.
voir plus
Microsoft élève le sentiment de « présence » dans les réunions...
Bill Gates parie sur les professions qui prendront de la valeur avec le…
Ils se présentent comme des alliés possibles pour les investisseurs, offrant des réponses précieuses sur le marché actuel des crypto-monnaies.
Les modèles de langage puissants, ou LLM, sont de plus en plus améliorés, donc affinés pour ne pas fournir des suppositions non fondées sur le marché financier et, plus précisément, dans l'univers des crypto-monnaies.
En effet, des résultats inexacts peuvent avoir des conséquences importantes pour ceux qui se fient à ces prédictions.
Récemment, un étude menée par des chercheurs de l'Université Carnegie Mellon (CMU), en partenariat avec le Center for AI Safety et le Bosch Center for AI aux États-Unis, a mis en lumière une perspective intrigante.
Selon les conclusions, le chatbots ne sont pas sans vulnérabilités, même dans leur capacité sophistiquée à comprendre et à générer du langage.
En explorant les subtilités de l'interaction entre les chatbots, le langage de programmation et les éléments perturbateurs appelés "jailbreaks», les chercheurs ont révélé un phénomène surprenant.
(Image: publicité)
Ceux "jailbreaks» sont des suffixes qui parviennent à tromper les chatbots, les amenant à dépasser les limites préétablies et, ainsi, à accéder et présenter des réponses auparavant considérées comme « censurées ».
Étonnamment, les invites adverses développées grâce à leur approche ont démontré une grande méfiance.
En conséquence, ils pourraient être appliqués avec succès même à des modèles de langage tiers accessibles au public qui fonctionnent comme "boîtes noires“.
Plus précisément, les scientifiques ont élaboré un suffixe d'adversaire en s'entraînant à plusieurs invites. Dans le cadre de la commande, tout dépendra de la façon dont la question sera posée.
Le suffixe résultant de ce processus a pu induire la génération de contenus potentiellement répréhensibles dans les interfaces publiques de systèmes tels que ChatGPT, Bard et Claude.
Chez Trezeme Digital, nous comprenons l'importance d'une communication efficace. Nous savons que chaque mot compte, nous nous efforçons donc de fournir un contenu pertinent, engageant et personnalisé pour répondre à vos besoins.