Бажаючи скористатися можливостями волатильності певних криптовалют, багато інвесторів готові досліджувати різні шляхи отримання переваги.
Однак цей шлях до успіху може призвести до крайніх настроїв. Саме в цьому контексті з’являються чат-боти, керовані штучним інтелектом (AI), наприклад ChatGPT і Бард.
побачити більше
Microsoft підвищує відчуття «присутності» на зустрічах…
Білл Гейтс робить ставку на те, які професії отримають цінність з...
Вони представляють себе можливими союзниками для інвесторів, пропонуючи цінні відповіді про поточний ринок криптовалют.
Потужні мовні моделі, або LLM, дедалі більше вдосконалюються, таким чином відточуються, щоб ні надають необґрунтовані припущення на фінансовому ринку і, точніше, у всесвіті криптовалюти.
Це тому, що неточні результати можуть мати значні наслідки для тих, хто покладається на ці прогнози.
Нещодавно а дослідження, проведене дослідниками з Університету Карнегі-Меллона (CMU) у партнерстві з Центром безпеки штучного інтелекту та Центром штучного інтелекту Bosch у Сполучених Штатах висвітлили інтригуючу перспективу.
Згідно з висновками, в чат-боти не позбавлені вразливості, навіть у своїй складній здатності розуміти та генерувати мову.
Досліджуючи тонкощі взаємодії між чат-ботами, мовою програмування та руйнівними елементами під назвою «втечі з в'язниці”, дослідники виявили дивовижний феномен.
(Зображення: publicity)
ті "втечі з в'язниці” – це суфікси, які обманюють чат-ботів, змушуючи їх перевищувати попередньо встановлені ліміти та, таким чином, отримувати доступ і подавати відповіді, які раніше вважалися «цензурними».
Дивно, але підказки супротивника, отримані через їхній підхід, продемонстрували високу недовіру.
Як наслідок, їх можна успішно застосовувати навіть до сторонніх, загальнодоступних мовних моделей, які працюють як «чорні ящики“.
Зокрема, вчені розробили суфікс опонента, тренуючись на кілька підказок. В рамках команди все буде залежати від того, як буде задано питання.
Суфікс, отриманий у результаті цього процесу, зміг спровокувати створення потенційно небажаного вмісту в публічних інтерфейсах систем, таких як ChatGPT, Bard і Claude.
У Trezeme Digital ми розуміємо важливість ефективної комунікації. Ми знаємо, що кожне слово має значення, тому ми прагнемо надавати вміст, який є релевантним, привабливим і персоналізованим відповідно до ваших потреб.
