На відміну від широко поширеного страху, що штучний інтелект миттєво посилить кіберзлочинність, нове дослідження показує, що реальність куди більш прозаїчна. Дослідження з Единбурзького університету свідчить, що кіберзлочинці стикаються з труднощами при інтеграції ШІ в свою діяльність, знаходячи цю технологію в основному неефективною для здійснення витончених атак.
Хоча учасники “цифрового андеграунду” виявили жвавий інтерес до інструментів на базі ШІ, технологія не змогла революціонізувати їх методи. Замість появи нового покоління “суперхакерів”, ШІ в основному став незначним помічником для рутинних завдань, залишивши складні злочинні діяння в значній мірі незмінними.
Міф про хакера, озброєного ШІ
Дані отримані в результаті комплексного аналізу більш * * 100 мільйонів повідомлень * * на форумах, зібраних з підпільних спільнот через базу даних CrimeBB. Поєднуючи ручний огляд з аналізом за допомогою великих мовних моделей (LLM), дослідники намагалися з’ясувати, чи покращує ШІ можливості зловмисників.
Результати були однозначними:** немає жодних суттєвих доказів * * того, що хакери успішно використовували ШІ для вдосконалення методів злому, створення більш ефективного шкідливого ПЗ або більш успішного обходу систем безпеки.
“Багато відгуків та обговорень описують інструменти [ШІ] як не особливо корисні», — зазначається в дослідженні.
Основна проблема, схоже, криється в розриві в навичках. ШІ-асистенти для програмування призначені для доповнення існуючих знань в області кодування, а не для їх заміни. Для кіберзлочинців, які не мають глибокої технічної експертизи, ШІ дає мало переваг. Як прямо сказано в одному з форумних постів, процитованому в дослідженні: «спочатку потрібно самому освоїти основи програмування, перш ніж використовувати ШІ і отримати від цього реальну вигоду».
Де ШІ використовується насправді
Якщо ШІ не допомагає хакерам зламати системи, то для чого вони його використовують? Дослідження виявляє вузький спектр застосувань, де ШІ мав відчутний, хоча і обмежений вплив:
-
-
- Автоматизація в соціальних мережах: * * створення ботів для взаємодії з аудиторією або розсилки спаму.
-
-
-
- Романтичні шахрайства: * * генерація переконливих, але шаблонних діалогів для шахраїв.
-
-
-
- SEO-шахрайство: * * масове виробництво низькоякісного контенту для маніпуляції позиціями в пошукових системах.
-
-
-
- Фейкові сайти: * * Створення сайтів, призначених для збору доходу від реклами шляхом обману алгоритмів ранжирування.
-
Ці заходи в основному автоматизовані і не вимагають складних технічних навичок, характерних для кіберзлочинності високого рівня. Для досвідчених хакерів основна корисність ШІ залишається тривіальною: використання чат-ботів для відповіді на основні запитання щодо програмування або створення швидких довідкових «шпаргалок».
Невдача спеціалізованого ШІ для злочинів
Цікаво, що дослідження показало: кіберзлочинці в значній мірі ігнорують моделі ШІ, спеціально розроблені для незаконних цілей, такі як WormGPT, який позиціонувався як помічник у написанні шкідливого ПЗ і фішингових листів. Натомість вони віддають перевагу основним легальним продуктам, таким як Claude від Anthropic або Codex від OpenAI.
Ця перевага створила нове вузьке місце. Оскільки ці легальні моделі мають надійні механізми безпеки, кіберзлочинці постійно шукають способи їх обійти. Однак дослідження показують, що ці спроби в основному зазнають невдачі. Хакерам важко “джейлбрейкнути” або перевизначити налаштування безпеки великих постачальників ШІ.
Як результат, багатьом доводиться переходити на старіші моделі з відкритим кодом, які легше підробляти. Однак ці альтернативи * * менш потужні * * і часто вимагають значних обчислювальних ресурсів для ефективної роботи, що нівелює будь-яку потенційну вигоду в ефективності.
Механізми безпеки працюють
Більш широкі наслідки цього дослідження є обнадійливими для індустрії кібербезпеки. Механізми безпеки, впроваджені великими розробниками ШІ, виявляються ефективними. Кіберзлочинцям не вдається легко змусити ці системи генерувати шкідливий код або обходити протоколи безпеки.
Хоча привабливість злочинів, керованих ШІ, залишається потужним наративом, дані свідчать про те, що людська експертиза залишається основним драйвером витончених кібератак. ШІ, принаймні на даний момент, не є найкоротшим шляхом до успіху для цифрового злочинця; це просто ще один інструмент, який вимагає навичок для ефективного використання.
- Висновок: * * інтеграція ШІ в кіберзлочинність зупинилася через технічні обмеження та ефективні механізми безпеки. Замість того, щоб наділяти хакерів надміцними силами, ШІ в основному обмежувався завданнями автоматизації низького рівня, доводячи, що складні кіберзагрози все ще залежать від людських навичок, а не від штучної допомоги.
