OpenAI заблокировала сеть аккаунтов ChatGPT, которую связала с мошеннической группой из Камбоджи. Ее участники использовали сервис для инвестиционных, романтических и азартных схем, а также выдавали себя за сотрудников полиции. Компания начала расследование после сигнала от WhatsApp.
Легенды отличались, но схема оставалась одинаковой. Сначала мошенники знакомились с человеком в соцсетях или мессенджерах и постепенно входили в доверие. Затем они предлагали вложиться в криптовалюту или золото, обещали несуществующий выигрыш либо требовали заплатить выдуманный штраф. Жертву просили перевести деньги и прислать подтверждение платежа.
ChatGPT помогал участникам сети переводить переписку, подстраивать сообщения под разные ситуации и поддерживать вымышленные роли. Через сервис они готовили материалы для поддельных профилей и создавали изображения паспортов, юридических уведомлений, подтверждений покупки акций и экранов фальшивых торговых платформ. ИИ не заменял остальные инструменты мошенников, но позволял им быстрее вести несколько схем одновременно.
В переписках OpenAI нашла и возможные признаки торговли людьми. Некоторые пользователи готовили объявления о работе в Камбодже, а также вели записи о долгах сотрудников, штрафах, удержаниях из зарплаты и проблемах с визами. В отдельных разговорах упоминались удержание работников и попытки побега. Компания подчеркивает, что не смогла установить обстоятельства каждого человека.
OpenAI заблокировала связанные аккаунты и передала данные партнерам и властям. Точный размер ущерба неизвестен. По внутренним сообщениям мошенников, сеть могла связаться с сотнями людей, а отдельные жертвы могли потерять тысячи долларов, но компания не смогла независимо проверить эти суммы.
Источник: OpenAI