Вслед за WormGPT, клоном ChatGPT, обученным на данных, ориентированных на вредоносное ПО, появился новый генеративный инструмент для взлома с использованием искусственного интеллекта под названием FraudGPT.
В разработке находится еще один, предположительно основанный на эксперименте Google по созданию искусственного интеллекта Bard. Оба бота с искусственным интеллектом — дело рук одного и того же человека, который, судя по всему, занимается созданием чат-ботов, специально обученных для вредоносных целей — от фишинга и социальной инженерии до эксплуатации уязвимостей и создания вредоносных программ.
FraudGPT был выпущен 25 июля и рекламировался на различных хакерских форумах человеком с ником CanadianKingpin12, который утверждает, что инструмент предназначен для мошенников, хакеров и спамеров.
Расследование, проведенное исследователями из компании SlashNext, показало, что CanadianKingpin12 активно обучает новые чат-боты, используя неограниченные наборы данных из темной паутины или основываясь на сложных больших языковых моделях, разработанных для борьбы с киберпреступностью.
В частных беседах CanadianKingpin12 рассказывала, что работает над DarkBART — «темной версией» разговорного генеративного чат-бота Google с искусственным интеллектом.
Исследователи также узнали, что рекламодатель также имел доступ к другой крупной языковой модели DarkBERT, разработанной южнокорейскими исследователями и обученной на данных из темной паутины, но предназначенной для борьбы с киберпреступностью.
DarkBERT доступна ученым по соответствующим адресам электронной почты, но, как подчеркивает SlashNext, этот критерий далеко не всегда является проблемой для хакеров или разработчиков вредоносных программ, которые могут получить доступ к адресу электронной почты академического учреждения примерно за 3 доллара.
Вредоносная версия была настроена на:
• Создание сложных фишинговых кампаний, направленных на получение паролей и данных кредитных карт.
• Осуществление сложных социально-инженерных атак с целью получения конфиденциальной информации или несанкционированного доступа к системам и сетям.
• Эксплуатация уязвимостей в компьютерных системах, программном обеспечении и сетях.
• Создание и распространение вредоносных программ.
• Эксплуатация уязвимостей «нулевого дня» с целью получения финансовой выгоды или нарушения работы систем.
Как сообщил CanadianKingpin12 в личных сообщениях исследователям, и DarkBART, и DarkBERT будут иметь прямой доступ в Интернет и бесшовную интеграцию с Google Lens для обработки изображений.
Для демонстрации возможностей вредоносной версии DarkBERT разработчик создал следующее видео.
Неясно, модифицировал ли CanadianKingpin12 код в легитимной версии DarkBERT или просто получил доступ к модели и использовал ее для вредоносного использования.
Независимо от происхождения DarkBERT и обоснованности заявлений угроз, тенденция использования генеративных чат-ботов с искусственным интеллектом растет и, скорее всего, будет расти, поскольку они могут стать простым решением для менее способных угроз или для тех, кто хочет расширить операции в других регионах и не владеет языком.
По мнению исследователей SlashNext, тот факт, что хакеры уже получили доступ к двум подобным инструментам, способным помочь в проведении продвинутых социально-инженерных атак, а их разработка заняла менее месяца, «подчеркивает значительное влияние вредоносного ИИ на кибербезопасность и киберпреступность».
