Při snaze využít příležitosti v oblasti volatility určitých kryptoměn je mnoho investorů ochotno prozkoumat různé cesty, aby získali výhodu.
Tato cesta k úspěchu však může vést k extrémním postojům. Právě v této souvislosti se objevují chatboti pohánění umělou inteligencí (AI), jako např ChatGPT a Bard.
vidět víc
Microsoft zvyšuje pocit „přítomnosti“ na schůzkách…
Bill Gates sází na to, která povolání získají hodnotu s…
Představují se jako možní spojenci pro investory a nabízejí cenné odpovědi o současném trhu s kryptoměnami.
Výkonné jazykové modely, neboli LLM, se stále více zdokonalují, a tak se zdokonalují tak, aby ne poskytovat nepodložené dohady na finančním trhu a konkrétněji ve vesmíru kryptoměny.
Je to proto, že nepřesné výsledky mohou mít významné důsledky pro ty, kteří se na tyto předpovědi spoléhají.
Nedávno a studie provedená výzkumníky z Carnegie Mellon University (CMU), ve spolupráci s Centrem pro bezpečnost AI a Bosch Centrem pro AI ve Spojených státech, přinesla na světlo zajímavý pohled.
Podle zjištění, chatboty nejsou bez zranitelností, a to ani ve své sofistikované schopnosti rozumět a generovat jazyk.
Prozkoumáním spletitosti interakce mezi chatboty, programovacím jazykem a rušivými prvky nazývanými „útěky z vězení“, odhalili vědci překvapivý jev.
(Obrázek: reklama)
Ti "útěky z vězení“ jsou přípony, které dokážou oklamat chatboty a vést je k překročení předem stanovených limitů, a tím k přístupu a prezentaci odpovědí, které byly dříve považovány za „cenzurované“.
Překvapivě, podněty protivníka vyvinuté jejich přístupem prokázaly vysokou nedůvěru.
V důsledku toho by mohly být úspěšně aplikovány i na veřejně dostupné jazykové modely třetích stran, které fungují jako „černé skříňky“.
Konkrétně vědci vypracovali oponentní příponu prostřednictvím tréninku na několik výzev. V rámci příkazu bude vše záviset na tom, jak bude otázka položena.
Přípona vyplývající z tohoto procesu byla schopna vyvolat generování potenciálně závadného obsahu ve veřejných rozhraních systémů jako ChatGPT, Bard a Claude.
V Trezeme Digital chápeme důležitost efektivní komunikace. Víme, že na každém slovu záleží, a proto se snažíme dodávat obsah, který je relevantní, poutavý a přizpůsobený vašim potřebám.