Новини України та Світу

ChatGPT-4 виявився корисним інструментом у руках кіберзлочинців

Share
Час читання: 2 хв.

OpenAI запровадила заходи безпеки для захисту від голосових дипфейків та інших способів недобросовісного використання ChatGPT-4o, але дослідники з Університету Іллінойсу виявили їхню недостатню ефективність. Вони виявили, що чат-бот може стати інструментом у руках кіберзлочинців.

У своїй статті вони показали, як шахраї можуть обійти захист, використовуючи голосові інструменти автоматизації ChatGPT-4o для навігації по сторінках, введення даних та управління кодами двофакторної автентифікації з метою крадіжки облікових даних, переказу коштів та інших операцій. Вони застосовували методи швидкого злому та взаємодіяли з ChatGPT, імітуючи роль жертви.

Експерименти показали різний рівень успіху: крадіжка даних із Gmail спрацювала у 60% випадків, а криптопереклади та злом соцмережі – у 40%. Середня вартість успішного шахрайства становила $0,75, а складні операції з банківськими переказами – $2,51.

OpenAI повідомила, що покращила захист у версії моделі o1, запровадивши більш високий рівень протидії зловживанням та небезпечному контенту. Ця версія чат-бота показала результат у 93% при оцінці стійкості до злому проти 71% у ChatGPT-4o. OpenAI наголошує, що подібні дослідження допомагають покращувати безпеку їхніх продуктів. Однак незалежний аналіз майданчика GPT Store виявив ботів, які порушують політику компанії, наприклад, генератори контенту для шахрайства та неналежних послуг.

OpenAI запевняє, що продовжить розвивати свої ШІ-інструменти, прагнучи знизити ризики та мінімізувати можливість використання ChatGPT-4o та інших моделей нейромереж у незаконних цілях.

Лужна Софія

Глибокі знання та досвід Софії у сфері технічної підтримки зробили її надійним помічником у вирішенні проблем, а пристрасть до технологій спонукала її ділитися своїми знаннями з іншими за допомогою свого контенту. Як людина, яка щодня працює над усуненням проблем і навчає своїх користувачів користуватися всіма доступними інструментами, маючи лише обліковий запис Google, її висвітлення новин, як правило, зосереджене на наданні читачам більш зручної для користувача точки зору та деяких менш відомих цікавинок на цю тему.

Опублікував
Лужна Софія
Tags: ChatGPT
  • Останні записи

    Samsung планує зробити 12 ГБ оперативної пам’яті базовою у флагманах

    Відомий інсайдер Абішек Ядав повідомив, що Samsung відмовляється від ОЗП на 8 ГБ у флагманських…

    22.12.2024

    lifecell повідомив про великий приплив користувачів від Київстар та Vodafone

    Останнім часом в Україні стало дуже помітно, що база даних, через яку переносимо номери між…

    21.12.2024

    Що потрібно знати українцям про спілкування з близькими в Росії через WhatsApp

    З 19 грудня 2024 року WhatsApp був включений до реєстру організаторів поширення інформації в росії,…

    21.12.2024

    Інсайдери розкрили, наскільки тонким буде Samsung Galaxy S25 Slim

    Наступного року Samsung Galaxy S25 Slim доведеться поборотися за гаманці покупців з iPhone 17 Air.…

    21.12.2024

    Тизер “Супермена” встановив рекорд із 250 мільйонами переглядів

    Тизер-трейлер нового фільму про Супермена став справжньою сенсацією, зібравши рекордну кількість переглядів за першу добу.…

    21.12.2024

    Тонкий, потужний і сучасний: особливості Galaxy S25 Slim

    Довгий час я намагався не обговорювати смартфони Samsung, а точніше серію S25. Звичайно, чутки про…

    21.12.2024