30 июн 2023 5 063

Обмануть обманщика: искусственный интеллект против телефонных мошенников

Телефонные мошенники — не только надоедливые звонки в самый неподходящий момент, но и серьезная угроза для безопасности и финансового благополучия многих людей. По данным Австралийской комиссии по конкуренции и защите потребителей (ACCC), в 2022 году жители этой страны потеряли от рук преступников более 3,1 миллиарда долларов США1. В мире же эта сумма достигает 55 миллиардов долларов США в год. Как бороться с этим явлением и защитить себя от обмана? Один из способов — использовать искусственный интеллект (ИИ), который может разговаривать с мошенниками и отвлекать их от настоящих жертв.

Богиня обмана в деле

Необычную идею реализовали специалисты по кибербезопасности из Университета Маккуори в Австралии. Они создали многоязычный чат-бот, который может поддерживать длительные разговоры с телефонными мошенниками на любом языке и с несколькими акцентами. Чат-бот получил название Apate — в честь древнегреческой богини обмана.

Профессор Дали Каафар, исполнительный директор Центра кибербезопасности Университета Маккуори, рассказал, что идея пришла ему в голову во время семейного обеда, когда ему позвонил мошенник. Профессор решил поиграть с ним и продержал его на линии 40 минут, развлекая своих детей.

Я понял, что потратил время мошенника, чтобы он не мог дозвониться до уязвимых людей — что было целью — но это было также 40 минут моей собственной жизни, которые я не верну. Тогда я начал думать, как мы можем автоматизировать весь процесс и использовать обработку естественного языка, чтобы разработать компьютерный чат-бот, который мог бы вести правдоподобный разговор с мошенником

— Дали Каафар.

Для обучения чат-бота команда профессора Каафара использовала набор данных реальных мошеннических разговоров, от записей мошеннических звонков до расшифровок электронных писем и чатов с платформ социальных сетей. Сейчас они тестируют чат-ботов на реальных мошеннических звонках, используя «медовые» номера телефонов, которые они распространяют в интернете, чтобы привлечь внимание преступников.

Как работает Apate

Когда мошенник звонит на один из этих номеров, его голос преобразуется в текст, который анализируется чат-ботом. Затем чат-бот генерирует ответ, который снова превращается в человеческую речь и передается мошеннику. Чат-бот старается поддерживать разговор как можно дольше, используя различные тактики, такие как задавание вопросов, выражение сомнений или интереса.

Мы хотим создать иллюзию того, что чат-бот — настоящий человек, который может стать потенциальной жертвой. Чат-боты могут также помочь выявить новые виды телефонных афер и предупредить об этом банки и другие организации

— профессор Каафар.

Как это поможет бороться с мошенничеством

Профессор Каафар утверждает, что цель проекта — нарушить бизнес-модель мошенников и сделать ее нерентабельной. Бизнес-модель мошенников основана на получении большой прибыли от небольшого числа жертв — лишь небольшой процент из тысяч звонков, которые они делают каждую неделю, является успешным. Если же чат-боты будут занимать время преступников, то количество успешных звонков снизится.

Мы хотим создать такую ситуацию, когда мошенникам будет невыгодно звонить людям, потому что они будут тратить свое время на разговоры с чат-ботами

— ДалиКаафар.

Он надеется, что его технология будет доступна для широкого использования в будущем и поможет защитить людей от телефонного мошенничества.