Новини України та Світу

ChatGPT-4 виявився корисним інструментом у руках кіберзлочинців

Share
Час читання: 2 хв.

OpenAI запровадила заходи безпеки для захисту від голосових дипфейків та інших способів недобросовісного використання ChatGPT-4o, але дослідники з Університету Іллінойсу виявили їхню недостатню ефективність. Вони виявили, що чат-бот може стати інструментом у руках кіберзлочинців.

У своїй статті вони показали, як шахраї можуть обійти захист, використовуючи голосові інструменти автоматизації ChatGPT-4o для навігації по сторінках, введення даних та управління кодами двофакторної автентифікації з метою крадіжки облікових даних, переказу коштів та інших операцій. Вони застосовували методи швидкого злому та взаємодіяли з ChatGPT, імітуючи роль жертви.

Експерименти показали різний рівень успіху: крадіжка даних із Gmail спрацювала у 60% випадків, а криптопереклади та злом соцмережі – у 40%. Середня вартість успішного шахрайства становила $0,75, а складні операції з банківськими переказами – $2,51.

OpenAI повідомила, що покращила захист у версії моделі o1, запровадивши більш високий рівень протидії зловживанням та небезпечному контенту. Ця версія чат-бота показала результат у 93% при оцінці стійкості до злому проти 71% у ChatGPT-4o. OpenAI наголошує, що подібні дослідження допомагають покращувати безпеку їхніх продуктів. Однак незалежний аналіз майданчика GPT Store виявив ботів, які порушують політику компанії, наприклад, генератори контенту для шахрайства та неналежних послуг.

OpenAI запевняє, що продовжить розвивати свої ШІ-інструменти, прагнучи знизити ризики та мінімізувати можливість використання ChatGPT-4o та інших моделей нейромереж у незаконних цілях.

Лужна Софія

Глибокі знання та досвід Софії у сфері технічної підтримки зробили її надійним помічником у вирішенні проблем, а пристрасть до технологій спонукала її ділитися своїми знаннями з іншими за допомогою свого контенту. Як людина, яка щодня працює над усуненням проблем і навчає своїх користувачів користуватися всіма доступними інструментами, маючи лише обліковий запис Google, її висвітлення новин, як правило, зосереджене на наданні читачам більш зручної для користувача точки зору та деяких менш відомих цікавинок на цю тему.

Опублікував
Лужна Софія
Tags: ChatGPT
  • Останні записи

    Чому не варто на флешці довго зберігати файли

    Флешки, безумовно, стали незамінними в нашому цифровому житті. Вони зручні для того, щоб швидко перенести…

    09.11.2024

    Які цифри в номерах телефонів повинні насторожити українців

    З появою мобільного зв'язку стало важче зрозуміти, хто саме вам телефонує і з якою метою.…

    09.11.2024

    Samsung Galaxy S25, S25 Plus та S25 Ultra отримає різні варіанти кольорів корпусу

    Наступна серія смартфонів Samsung Galaxy S25 викликає великий інтерес у технологічному співтоваристві, і у зв'язку…

    09.11.2024

    5 функцій, які варто відключити для пришвидшення роботи смартфона

    Сучасні смартфони оснащені безліччю функцій, доступних через панель швидких налаштувань, або "шторку". Однак деякі з…

    09.11.2024

    Apple монетизує Apple Intelligence за допомогою платної передплати OpenAI

    Apple знайшла спосіб монетизувати свій новий сервіс штучного інтелекту, Apple Intelligence, не стягуючи платню з…

    09.11.2024

    Red Magic 10 Pro встановив новий максимум у бенчмарку AnTuTu

    Ігровий смартфон Red Magic 10 Pro, який ще не був представлений офіційно, вже встановив новий…

    09.11.2024