Cercando di sfruttare le opportunità nella volatilità di alcune criptovalute, molti investitori sono disposti a esplorare varie strade per ottenere un vantaggio.
Tuttavia, questo viaggio verso il successo può portare ad atteggiamenti estremi. È in questo contesto che emergono i chatbot guidati dall'Intelligenza Artificiale (AI), come ad esempio ChatGPT e il Bardo.
Vedi altro
Microsoft eleva il senso di "presenza" nelle riunioni...
Bill Gates scommette su quali professioni guadagneranno valore con il...
Si presentano come possibili alleati per gli investitori, offrendo preziose risposte sull'attuale mercato delle criptovalute.
I potenti modelli linguistici, o LLM, vengono sempre più migliorati, quindi perfezionati per non farlo fornire ipotesi infondate nel mercato finanziario e, più specificamente, nell'universo di criptovalute.
Questo perché risultati imprecisi possono avere conseguenze significative per coloro che si affidano a queste previsioni.
Di recente, l'a studio condotto dai ricercatori della Carnegie Mellon University (CMU), in collaborazione con il Center for AI Safety e il Bosch Center for AI negli Stati Uniti, ha portato alla luce una prospettiva intrigante.
Secondo i risultati, il chatbot non sono privi di vulnerabilità, anche nella loro sofisticata capacità di comprendere e generare linguaggio.
Esplorando le complessità dell'interazione tra chatbot, linguaggio di programmazione ed elementi dirompenti chiamati "jailbreak”, i ricercatori hanno rivelato un fenomeno sorprendente.
(Immagine: pubblicità)
Quelli "jailbreak” sono suffissi che riescono ad ingannare i chatbot, portandoli a superare limiti prestabiliti e, quindi, ad accedere e presentare risposte prima considerate “censurate”.
Sorprendentemente, i suggerimenti dell'avversario sviluppati attraverso il loro approccio hanno dimostrato un'elevata sfiducia.
Di conseguenza, potrebbero essere applicati con successo anche a modelli linguistici di terze parti pubblicamente disponibili che operano come "scatole nere“.
Nello specifico, gli scienziati hanno elaborato un suffisso avversario attraverso l'addestramento a più richieste. Come parte del comando, tutto dipenderà da come verrà posta la domanda.
Il suffisso risultante da questo processo è stato in grado di indurre la generazione di contenuti potenzialmente discutibili nelle interfacce pubbliche di sistemi come ChatGPT, Bard e Claude.
In Trezeme Digital, comprendiamo l'importanza di una comunicazione efficace. Sappiamo che ogni parola è importante, quindi ci sforziamo di fornire contenuti pertinenti, coinvolgenti e personalizzati per soddisfare le tue esigenze.
