Търсейки да се възползват от възможностите в променливостта на определени криптовалути, много инвеститори са готови да проучат различни пътища, за да получат предимство.
Това пътуване към успеха обаче може да доведе до крайни нагласи. Именно в този контекст се появяват чатботове, управлявани от изкуствен интелект (AI), като напр ChatGPT и Бард.
виж повече
Microsoft повишава усещането за „присъствие“ в срещите...
Бил Гейтс залага кои професии ще получат стойност с...
Те се представят като възможни съюзници за инвеститорите, предлагайки ценни отговори за текущия пазар на криптовалута.
Мощните езикови модели, или LLMs, все повече се подобряват, като по този начин се усъвършенстват, за да не предоставят неоснователни предположения на финансовия пазар и по-конкретно във вселената на криптовалути.
Това е така, защото неточните резултати могат да имат значителни последици за тези, които разчитат на тези прогнози.
Наскоро а проучване, проведено от изследователи
от университета Карнеги Мелън (CMU), в партньорство с Центъра за безопасност на изкуствения интелект и Центъра за изкуствен интелект на Бош в Съединените щати, разкриха интригуваща перспектива.Според констатациите, чатботове не са лишени от уязвимости, дори в тяхната усъвършенствана способност да разбират и генерират език.
Чрез изследване на тънкостите на взаимодействието между чатботове, език за програмиране и разрушителни елементи, наречени „бягства от затвора”, изследователите разкриха изненадващ феномен.
(Изображение: публичност)
Тези "бягства от затвора” са суфикси, които успяват да подмамят чатботовете, карайки ги да надхвърлят предварително установените ограничения и по този начин да имат достъп и да представят отговори, считани преди това за „цензурирани”.
Изненадващо, подканите на противника, разработени чрез техния подход, демонстрираха високо недоверие.
В резултат на това те могат да бъдат успешно приложени дори към публично достъпни езикови модели на трети страни, които работят като „черни кутии“.
По-конкретно, учените са разработили опонентна наставка чрез обучение при множество подкани. Като част от командата всичко ще зависи от това как ще бъде зададен въпросът.
Суфиксът, получен в резултат на този процес, успя да предизвика генерирането на потенциално нежелателно съдържание в публичните интерфейси на системи като ChatGPT, Bard и Claude.
В Trezeme Digital разбираме важността на ефективната комуникация. Знаем, че всяка дума има значение, затова се стремим да предоставяме съдържание, което е подходящо, ангажиращо и персонализирано, за да отговори на вашите нужди.
