Високі витрати і невиправдані результати: що стримує розробку GPT-5 від OpenAI

Нещодавно зарубіжні ЗМІ порушили питання про темп і ефективність розробки наступної моделі штучного інтелекту OpenAI, відомої як GPT-5. Очікування від цієї моделі дуже високі, але кілька ключових аспектів вказують на те, що процес її розроблення виявився складнішим і більш ресурсомістким, ніж передбачалося.

Що ще відомо про GPT-5

OpenAI провела щонайменше два великі навчальні запуски для поліпшення моделей шляхом навчання на великих обсягах даних. Однак перший тренувальний прогін виявився повільнішим, ніж очікувалося, що вказує на те, що більші прогони будуть трудомісткими і дорогими. Хоча GPT-5, за повідомленнями, працює краще, ніж його попередник GPT-4, цього поліпшення виявилося недостатньо, щоб виправдати витрати на підтримку роботи моделі.

Розробка моделей такого масштабу, як GPT-5, вимагає значних обчислювальних ресурсів і величезних обсягів даних. OpenAI не обмежується тільки відкритими даними і ліцензійними угодами. Компанія також наймає фахівців для створення нових даних шляхом написання нового коду або вирішення математичних завдань. Крім того, OpenAI використовує синтетичні дані, створені іншою своєю моделлю. Ці зусилля демонструють масштаби і складність завдання, що стоїть перед розробниками.

Генеральний директор OpenAI, Сем Альтман, раніше визнав, що зі зростанням складності моделей ШІ, управління безліччю проєктів одночасно стає дедалі складнішим, особливо в частині розподілу обчислювальних ресурсів. Альтман також зазначив, що поточна ітерація GPT-4, незважаючи на її успіх, є лише “відстійною” порівняно з тим, що обіцяє запропонувати GPT-5. Це свідчить про високі очікування і водночас про визнання наявних обмежень.

Незважаючи на спекуляції про можливий випуск GPT-5 наприкінці 2024 або на початку 2025 року, OpenAI поки що не підтвердила конкретні терміни. Деякі джерела припускають, що проміжне оновлення, таке як GPT-4.5, може бути випущене раніше, щоб зберегти лідерство в галузі ШІ. Однак основний фокус залишається на тому, щоб забезпечити значний стрибок у параметрах і специфікаціях машинного навчання, який буде виправданий інвестиціями.