Європол, правоохоронне агентство Європейського Союзу, у понеділок оприлюднило попередження щодо можливого злочинного використання чат-ботів на основі штучного інтелекту (ChatGPT) у спробах фішингу, кампаніях з дезінформації та кіберзлочинності. Це попередження доповнює зростаючий список проблем, пов’язаних із технологією, починаючи від юридичних і закінчуючи етичними питаннями.

З моменту випуску минулого року ChatGPT викликав технологічний ажіотаж, спонукаючи конкурентів до впровадження подібних продуктів і спонукаючи компанії включати його або подібні технології у свої програми та служби. У своєму першому технічному звіті, присвяченому ChatGPT, Європол попередив, що постійне вдосконалення великих мовних моделей (LLM), таких як ChatGPT, може призвести до збільшення використання злочинцями, що призведе до похмурого майбутнього.

Європол виділив три основні сфери злочинності, де шкідливе використання ChatGPT викликає серйозне занепокоєння:

• Фішинг: Європол зазначив, що здатність ChatGPT генерувати дуже реалістичний текст робить його привабливим інструментом для цілей фішингу. Здатність чат-бота імітувати мовні шаблони та видавати себе за стилі мовлення певних осіб або груп може бути використана злочинцями для нападу.
• Пропаганда та дезінформація: здатність ChatGPT створювати автентичний текст швидко й у великих масштабах робить його ідеальним інструментом для пропагандистських і дезінформаційних кампаній. Європол пояснив, що ця технологія дозволяє користувачам створювати та поширювати повідомлення, які відображають конкретні наративи з мінімальними зусиллями.
• Кіберзлочинність: Європол також попередив, що злочинці з обмеженими технічними знаннями можуть використовувати ChatGPT для створення шкідливого коду. Це означає, що навіть особи з мінімальними навичками програмування можуть використовувати можливості ChatGPT для участі в кіберзлочинній діяльності.

Попередження Європолу служить нагадуванням про потенційну небезпеку, яку становлять для суспільства передові технології ШІ, такі як ChatGPT. Хоча ці інновації пропонують численні переваги та зручності, надзвичайно важливо, щоб правоохоронні органи, політики та розробники технологій співпрацювали та встановлювали гарантії, щоб запобігти неправильному використанню цих потужних інструментів злочинцями.