Группа исследователей сделала довольно смелое заявление о разработке спорного программного обеспечения. По словам исследователей, используя созданную нейросеть можно предположить есть ли кто-то преступником, основываясь на изображении лица.
В недавно отдаленном пресс-релизе Гаррисбергський университет объявил , что технология «способна предсказать, кто может быть преступником». В новости говорится, что программное обеспечение было создано профессорами Натаниэлем Эшби и Рузбехом Садегяном вместе с ветераном Нью-Йоркского отделения полиции Джонатаном Корном.
В течение 24 часов после публикации, многочисленные ученые, аналитики данных и защитники гражданских свобод раскритиковали ее и действия группы. Критики также подчеркнули предполагаемый потенциал технологии для предвзятости. Особенно учитывая то, что существующее ПО для распознавания лиц неправильно идентифицирует «цветных» людей в 100 раз больше, чем белых.
На следующий день, информация была удалена с сайта. Представитель университета заявил, что «факультет обновляет документ, чтобы решить проблемы, которые возникли».
Точно неизвестно, какую нейросеть создали исследователи из Гаррисберга. Поскольку в статье не было никаких данных или оригинальных исследовательских документов, подтверждающих их утверждения. Согласно пресс-релизу, результаты исследования под названием «Модель глубокой нейронной сети для прогнозирования преступности с использованием обработки изображений» будут опубликованы в следующей исследовательской книге Springer Nature.
Сначала исследователи утверждали, что их технология «может включать мельчайшие черты в изображении, которые сильно предсказывают преступность». В том же удаленном прес-релизе отмечалось, что следующим шагом исследователей является поиск «стратегических партнеров для продвижения этой миссии».
