Om te profiteren van kansen in de volatiliteit van bepaalde cryptocurrencies, zijn veel investeerders bereid om verschillende wegen te verkennen om voordeel te behalen.
Deze reis naar succes kan echter leiden tot extreme houdingen. In deze context ontstaan chatbots aangedreven door kunstmatige intelligentie (AI), zoals ChatGPT en de Bard.
Bekijk meer
Microsoft verhoogt het gevoel van 'aanwezigheid' in vergaderingen...
Bill Gates wedt op welke beroepen waarde zullen winnen met de...
Ze presenteren zichzelf als mogelijke bondgenoten voor investeerders en bieden waardevolle antwoorden over de huidige cryptocurrency-markt.
Krachtige taalmodellen, of LLM's, worden in toenemende mate verbeterd, dus aangescherpt om dat niet te doen zorgen voor ongefundeerde gissingen op de financiële markt en, meer specifiek, in het universum van cryptocurrencies.
Dit komt omdat onnauwkeurige resultaten aanzienlijke gevolgen kunnen hebben voor degenen die op deze voorspellingen vertrouwen.
Onlangs, een studie uitgevoerd door onderzoekers van de Carnegie Mellon University (CMU), in samenwerking met het Center for AI Safety en het Bosch Center for AI in de Verenigde Staten, bracht een intrigerend perspectief aan het licht.
Volgens de bevindingen, de chatbots zijn niet zonder kwetsbaarheden, zelfs niet in hun geavanceerde vermogen om taal te begrijpen en te genereren.
Door de fijne kneepjes van de interactie tussen chatbots, programmeertaal en verstorende elementen genaamd "jailbreaks”, onthulden de onderzoekers een verrassend fenomeen.
(Afbeelding: publiciteit)
Die "jailbreaks” zijn achtervoegsels die erin slagen chatbots te misleiden, waardoor ze vooraf vastgestelde limieten overschrijden en dus toegang krijgen tot en antwoorden presenteren die voorheen als “gecensureerd” werden beschouwd.
Verrassend genoeg toonden de prompts van tegenstanders die door hun aanpak waren ontwikkeld een groot wantrouwen.
Als gevolg hiervan kunnen ze met succes worden toegepast, zelfs op openbaar beschikbare taalmodellen van derden die werken als "zwarte dozen“.
Concreet werkten de wetenschappers een achtervoegsel van een tegenstander uit door op meerdere prompts te trainen. Als onderdeel van de opdracht hangt alles af van hoe de vraag zal worden gesteld.
Het achtervoegsel dat uit dit proces voortkwam, kon leiden tot het genereren van mogelijk aanstootgevende inhoud in de openbare interfaces van systemen zoals ChatGPT, Bard en Claude.
Bij Trezeme Digital begrijpen we het belang van effectieve communicatie. We weten dat elk woord ertoe doet, dus we streven ernaar om inhoud te leveren die relevant, boeiend en gepersonaliseerd is om aan uw behoeften te voldoen.
