Европол предупреждает о новых методиках использования ChatGPT мошенниками

Криминалитет с большей скоростью, чем рядовые пользователи, осваивает новые прорывные технологии. Это видно по уликам на ноутбуках преступников, изъятых недавно в ходе следствия Европолом. Они указывают, что европейские мошенники стали применять ChatGPT в своем ремесле уже через считанные недели

Преступники хитры и без труда обходят встроенную защиту ChatGPT — например, запрет на создание вредоносного кода. Для этого они просто разбивают задачу на несколько частей, чтобы запросы выглядели нейтральными. А потом по инструкциям от самого же ИИ собирают их в одну программу. Даже те, кто ничего не смыслят в программировании, создают утилиты под свои нужды, используя ChatGPT как инструктора.

Вторая популярная ниша незаконного использования нейросети – социальная инженерия. ChatGPT способен без труда написать убедительный текст для фишингового сайта или переписки, без ошибок и с такими деталями, которые введут в заблуждение пользователя. Он может вести диалоги и убеждать людей в своей правоте, создавать заманчивые предложения для рассылок и подражать конкретной манере общения, чтобы выдать себя за реально существующего человека.

Третий мошеннический способ применения ChatGPT – возможность напрямую спросить его, как совершить преступление с наибольшей выгодой. Узнать о новых аферах, схемах обмана, получить статистику по совершаемым преступлениям, чтобы не конкурировать с другими преступниками. А также получить понимание, какие ошибки совершают другие мошенники, на чем их ловит полиция и как этого избежать. Нейросеть закономерно и неизбежно превратилась в обоюдоострый инструмент, который приносит как пользу, так и вред.