Корпорация Google подала в суд на базирующуюся в Китае хакерскую группировку «Outsider Enterprise». Злоумышленники использовали модели Gemini для автоматизации массового создания фишинговых ресурсов и вредоносных веб-страниц.
Согласно судебному иску, преступная сеть использовала API нейросетей от Google для генерации текстового контента, имитирующего официальные уведомления банков и сервисов. С помощью автоматических скриптов хакеры развернули более 9000 фишинговых сайтов и создали более 1,5 миллиона мошеннических URL-адресов.
Борьба с автоматизированным мошенничеством
Google заявляет, что применение больших языковых моделей позволило злоумышленникам значительно повысить качество текстов на фишинговых ресурсах, избегая орфографических ошибок и неестественных формулировок, по которым пользователи обычно распознают обман.
Этот судебный процесс является одним из первых крупных прецедентов, когда технологический гигант напрямую преследует группу мошенников за использование своих фирменных ИИ-инструментов в преступных целях. В иске Google требует компенсации ущерба и полной блокировки всех аккаунтов, связанных с хакерами.