Chatbot은 AI를 사용하여 사기꾼에게 자신의 독약을 제공합니다.

전문가 그룹 사이버 보안~로부터 호주전화 사기꾼을 퇴치하기 위한 혁신적인 방법을 개발하고 있습니다.

시드니 맥쿼리 대학의 연구원들은 흉내낼 수 있는 챗봇 시스템을 만들었습니다. 인간과 전화 통화 중에 사기꾼을 속여 시간을 낭비합니다. 사기꾼.

아파테를 만나다

영형 챗봇그리스 속임의 여신과 관련하여 Apate라고 불리는 이 게임은 평균 40분 동안 사기꾼을 길고 결실 없는 대화로 유인하는 "함정" 역할을 합니다.

아이디어는 사기꾼을 바쁘게 유지함으로써 성공적인 사기의 수가 줄어들어 불법적으로 돈을 벌기가 더 어려워진다는 것입니다.

이 프로젝트는 Macquarie University의 Dali Kaafar 교수가 전화를 받고 시작되었습니다. 스팸을 차단하고 사기꾼을 40분 동안 대기시키면서 자녀를 즐겁게 해주세요. 점심.

이 사건은 전체 프로세스를 자동화하고 챗봇을 개발하는 방법에 대한 반성으로 이어졌습니다. 자연어를 사용하여 매력적인 대화를 수행할 수 있으므로 사기꾼은 알아채다.

Apate를 교육하기 위해 연구팀은 전화 통화, 이메일 및 소셜 미디어 메시지를 포함한 실제 사기 대화 내용을 사용했습니다. 이 데이터를 기반으로 사기성 통화 중에 사람과 같은 응답을 생성할 수 있습니다.

테스트

Apate는 프로토타입을 통해 실제 사기꾼 호출에 대해 테스트되었으며 지금까지의 결과는 유망합니다. 현재 평균 대화 시간은 5분에 불과하지만 목표는 이번에는 시간을 늘려서 챗봇이 사기꾼을 저지하는 데 훨씬 더 효과적이 되도록 하는 것입니다.

이 모델의 개발은 사기꾼들이 이미 악용하고 있다는 사실에 대한 대응이기도 합니다. 음성 복제 및 딥 페이크와 같은 인공 지능 기술을 사용하여 치트.

즉, 연구팀은 동일한 기술을 사용하여 이러한 문제를 해결할 수 있는지 여부를 탐색하고 있습니다. 불면, 나쁜 행위자가 통신 제공업체와 대면하는 시나리오를 만듭니다.

팀은 현재 이러한 유형의 사기에 대한 방어 도구로 Apate를 구현하기 위해 여러 공급자와 협상 중입니다.

챗봇의 지속적인 개선과 챗봇이 제시하는 상황에 적응하는 능력으로 이러한 사기 발생을 줄이고 사기꾼을 보호하는 효과적인 솔루션이 될 것으로 기대됩니다. 사람들.