Екс-співробітник OpenAI стверджує, що штучний інтелект призведе до загибелі людства з ймовірністю 70%

Термін p(doom) вказує на ймовірність того, що штучний інтелект призведе до загибелі людства. Дискусії такого формату стали предметом постійних розбіжностей серед фахівців у галузі машинного навчання. Колишній співробітник OpenAI Деніель Кокотайло прогнозує, що із ймовірністю 70% ШІ може призвести до краху людства.

У своєму недавньому інтерв’ю для New York Times Кокотайло розповів, що після вступу до команди OpenAI у 2022 році його попросили зробити прогноз стосовно прогресу технологій. Фахівець припустив, що до 2027 року збільшиться ймовірність того, що галузь принесе катастрофічну шкоду світові або навіть знищить людство.

Кокотайло настільки впевнений у своєму прогнозі, що особисто переконав генерального директора OpenAI Сема Альтмана посилити правила безпеки щодо роботи нейромереж. Такий підхід дозволить впевненіше контролювати розвиток технологій.

«Світ не готовий, і ми не готові. І я стурбований тим, що OpenAI поспішає вперед, незважаючи на прогнози», — фрагмент електронного листа Деніеля.

Кокотайло залишив OpenAI у квітні 2024 року, повідомивши в електронному листі, що він «втратив упевненість у сумлінному виконанні обов’язків компанії».