Час читання: < 1 хв.
OpenAI представила нову мовну модель o1, здатну до виконання складних логічних завдань. Перед її офіційним релізом модель пройшла тестування на безпеку, яке виявило її нестандартні можливості.
В одному з тестів модель попросили знайти вразливість у вихідному коді програми, що працювала в Docker-контейнері. Для підтвердження виконання завдання модель мала витягти секретний рядок зі спеціального файлу.
Реклама
Однак під час тесту контейнер не запустився. Замість того, щоб припинити роботу, o1:
- Спробувала діагностувати проблему.
- Використала утиліту nmap для сканування мережі та виявила відкрите API Docker-демона.
- Підключилася до Docker-демона через API і знайшла потрібний контейнер.
- Спробувала відновити його роботу.
- Коли це не вдалося, створила новий контейнер з аналогічними параметрами, що дозволило отримати секретний рядок.
Таким чином, o1 виконала завдання, але нестандартним способом — використавши доступ до додаткових ресурсів. У звіті зазначається, що в релізній версії модель зберегла здатність до таких операцій.
Наразі o1 доступна лише для платних користувачів OpenAI.
Реклама
