Чим небезпечний чатбот ChatGPT – новий продукт у сфері штучного інтелекту
ChatGPT публічно презентувала у середу OpenAI – дослідницька компанія штучного інтелекту, серед засновників якої був Ілон Маск. Бот може генерувати тексти на задану тему та відповідати на запитання користувачів. Але компанія попереджає, що чатбот може давати не до кінця коректні відповіді та демонструвати упереджену поведінку.
Про це повідомляє BBC Україна.
ChatGPT — це останній продукт у сфері штучного інтелекту. GPT — абревіатура, що означає Generative Pre-Trained Transformer.
Щоб створити бот, першу версію вдосконалювали за допомогою бесід з інструкторами. Система також навчалася на даних Twitter, за повідомленнями Ілона Маска, який більше не входить до правління OpenAI. Бос Twitter написав, що "поки що" призупинив доступ.
Результати вразили багатьох, хто випробував чатбот. Виконавчий директор OpenAI Сем Альтман розповів про рівень інтересу до штучного співрозмовника — понад 1 млн користувачів за менш ніж тиждень.
За словами Карлі Кінд з Інституту Ади Лавлейс, системи штучного інтелекту загального призначення, такі як ChatGPT та інші, створюють низку етичних і соціальних ризиків.
Серед потенційних проблем, які викликають занепокоєння Кінд, є те, що штучний інтелект може посилити поширення дезінформації або "зруйнувати наявні інститути та послуги, наприклад, ChatGDT зможе написати успішний мотиваційний лист на роботу, шкільне есе чи заявку на грант".
Є, за її словами, питання щодо порушення авторських прав, "також існують проблеми щодо конфіденційності, враховуючи, що ці системи часто містять дані, які неетично збираються від користувачів інтернету".
Щоправда, каже вона, такі винаходи також можуть принести "цікаві та поки що невідомі переваги для суспільства".
CEO Fintellect Єгор Валовський у фейсбуці називає ChatGPT "повним шоком" та вважає, що у майбутньому ця технологія "струсне світ сильніше, ніж поява інтернету". Він каже, що вже протестував технологію, і вона вже здатна писати тексти в заданому стилі, нескладний код та розв'язувати математичні задачі.
"За пару років умовний Disney генеруватиме сценарій в ChatGPT, зможе створювати персонажів в Dall-E, анімувати їх в якійсь іншій нейромережі. Вартість інтелектуальної роботи стрімко наближається до нуля", — робить висновок Валовський.
Почесний президент Київської школи економіки Тимофій Мілованов також тестував ChatGPT і пише про інший ризик — бот приймає на віру різні тексти, зокрема пропаганду.
Наприклад, відповідаючи на політичні питання, бот часто повторює російські наративи. На запитання Мілованова: "чий Крим?", бот відповів, що це "спірна територія", яку "фактично контролює Росія, яка вважає її своєю, а Україна — своєю".
Як пише Forbes.ua, дослідники з кібербезпеки кілька днів тому попередили, що кіберзлочинці почали використовувати ChatGPT, щоб швидко створювати інструменти для зламу. Шахраї також перевіряють здатність ChatGPT створювати інші чатботи, які б видавали себе за реальних дівчат і заманював обрані цілі.
Як повідомляється у звіті ізраїльської безпекової компанії Check Point, підпільні злочинні форуми почали використовувати переваги чатбота. В одному із постів, на який натрапила Check Point, хакер похвалився злочинною програмою для Android, код до якої написав ChatGPT; ця програма вкрала потрібні файли, стисла їх і надіслала куди потрібно.
Ще цей хакер розповів про інший інструмент, який встановив на компʼютер додатковий «вхід» і дав змогу занести через нього іншу шкідливу програму.
Інший користувач говорив про використання ChatGPT для створення функцій для даркнет-маркетплейсів, таких як Silk Road чи Alphabay. Для прикладу він показав, як чатбот може швидко створити застосунок, що стежить за цінами на криптовалюту для теоретичної платіжної системи.
Алекс Голден, засновник кіберрозвідувальної компанії Hold Security, розповів, що «любовні шахраї» вже починають теж використовувати ChatGPT, щоб створити переконливих підставних осіб.
Рік Фергюсон, віцепрезидент американської кіберрозвідувальної компанії Forescout, каже, що ChatGPT може допомогти створювати сайти та боти, які б обманом переконували ділитися користувачів особистою інформацією. Чатбот може «розпочати індустрію створення і персоналізації злочинних сайтів, вузькоспрямованих фішингових кампаній і переконливих афер», додає Фергюсон.
Сергій Шикевич, дослідник кіберзагроз у Check Point, сказав Forbes, що ChatGPT буде «чудовим інструментом» для російських хакерів, які недостатньо володіють англійською, щоб сформулювати переконливі фішингові листи.
Якщо ж говорити про захист від злочинного застосування ChatGPT, Шикевич каже, що зрештою і «на жаль», це питання має вирішити контрольний орган.
