Европол предупреждает об опасности ChatGPT: злоумышленники могут использовать его для фишинга и распространения дезинформации

Европейская полиция (Европол) сообщила о потенциальной опасности чат-бота ChatGPT с искусственным интеллектом. По данным правоохранительных органов, эта система может использоваться для различных незаконных действий.

Европол предупреждает об опасности ChatGPT: злоумышленники могут использовать его для фишинга и распространения дезинформации
Сгенерировано нейросетью Midjourney

«Поскольку возможности LLM, таких как ChatGPT, активно совершенствуются, потенциальная эксплуатация этих типов систем ИИ преступниками дает мрачные перспективы», — заявили в Европоле.1

В техническом отчёте приводятся такие варианты вредоносного использования чат-бота:

  • Фишинг.
  • Целенаправленное преследование жертв.
  • Создание и распространение дезинформации.

Также отмечается, что чат-бот умеет имитировать стиль речи и письма конкретных людей, что позволяет легче обмануть жертву, создать ложные сообщения от её имени и так далее.

«Способность ChatGPT создавать очень реалистичный текст делает его полезным инструментом для целей фишинга», — отметили в Европоле.

Также заявлено, что ChatGPT может легко генерировать и распространять сообщения с ложными данными и даже писать вредоносный код. При этом пока не говорится о конкретных правонарушениях с использованием ИИ, однако наверняка таковые уже есть.