Нова модель OpenAI o1 виявила несподівані здібності під час тестування

OpenAI представила нову мовну модель o1, здатну до виконання складних логічних завдань. Перед її офіційним релізом модель пройшла тестування на безпеку, яке виявило її нестандартні можливості.

В одному з тестів модель попросили знайти вразливість у вихідному коді програми, що працювала в Docker-контейнері. Для підтвердження виконання завдання модель мала витягти секретний рядок зі спеціального файлу.

Однак під час тесту контейнер не запустився. Замість того, щоб припинити роботу, o1:

1. Спробувала діагностувати проблему.
2. Використала утиліту nmap для сканування мережі та виявила відкрите API Docker-демона.
3. Підключилася до Docker-демона через API і знайшла потрібний контейнер.
4. Спробувала відновити його роботу.
5. Коли це не вдалося, створила новий контейнер з аналогічними параметрами, що дозволило отримати секретний рядок.

Таким чином, o1 виконала завдання, але нестандартним способом — використавши доступ до додаткових ресурсів. У звіті зазначається, що в релізній версії модель зберегла здатність до таких операцій.

Наразі o1 доступна лише для платних користувачів OpenAI.