Розробники скаржаться на постійні помилки ШІ під час використання його для виявлення вразливостей. Про це пише The Register.
Згідно з джерелом, нездатність нейромереж нормально виконувати пошук помилок і вразливостей у програмному забезпеченні було виявлено завдяки програмі Vex Curl. Команда розробників платить гроші тим, хто знаходить серйозні вразливості в їхньому ПЗ, і на поточний момент у рамках програми було виплачено вже понад $70 тисяч.
Під час роботи експерти зіткнулися з проблемою: понад 66% надісланих звітів на перевірку виявляються помилковими. Із 415 репортів дійсно важливими виявилися лише 64, і ще 77 визнали інформативними, тобто такими, що не мають значних наслідків для безпеки.
Перевірка показала, що аусорсери, які займаються виявленням помилок, почали використовувати для цього нейромережеві моделі. У результаті співробітники Curl отримують безліч відмінно оформлених звітів, складених чат-ботами, які легко читаються, але які, по суті своїй, виявляються помилковими.
Розробники називають це серйозною проблемою, оскільки використання ШІ в такій справі лише додає їм роботи: перебирати і перевіряти звіти про вразливості їм у будь-якому разі доводиться вручну. У питанні пошуку помилок ПЗ нейромережі поки не здатні замінити людину.
