OpenAI звинувачують у відході від колишніх принципів безпеки ШІ

Критика, висловлена колишнім керівником відділу політики OpenAI Майлзом Брандейджем, привернула увагу міжнародних ЗМІ та спільнот, що обговорюють штучний інтелект. Він поставив під сумнів нову стратегію компанії щодо безпеки, заявивши, що OpenAI почала ігнорувати ключові аспекти відповідального розгортання своїх технологій. За його словами, такий підхід може серйозно нашкодити репутації компанії.

Брандейдж нагадав, що раніше OpenAI дотримувалася обережної стратегії, зокрема при випуску GPT-2, коли впровадження технологій відбувалося поступово, з активною участю експертів із безпеки. Проте він вважає, що останнім часом цей принцип почав слабшати, що викликає занепокоєння.

У відповідь OpenAI опублікувала документ, у якому підкреслила свою прихильність до безпеки, наводячи приклад GPT-2 як вдалої стратегії поетапного розгортання. Однак Брандейдж стверджує, що цей процес не був настільки безпечним, як це зараз подається, і звинуватив компанію в спробі переписати власну історію.

Крім того, він висловив занепокоєння щодо планів OpenAI у сфері AGI (штучного загального інтелекту). На його думку, компанія має враховувати ризики, пов’язані з прискореним розвитком цієї технології, і не нехтувати питаннями безпеки. Він застеріг, що якщо OpenAI сприйматиме обережність як другорядний фактор, це може створити серйозні проблеми у майбутньому.

Критика Брандейджа не є поодиноким випадком. Останніми роками багато експертів ставили під сумнів рівень відповідальності OpenAI, припускаючи, що компанія все більше керується комерційними інтересами, а не довгостроковими етичними принципами. Це викликає побоювання щодо можливих наслідків для суспільства.