Компанія Apple на своєму сайті повідомила про розширення програми по захисту дітей. Відповідно до неї, в США на iOS 15, iPadOS 15, watchOS 8 і macOS Monterey з’явиться система, що сканує контент на наявність CSAM, тобто сексуального насильства над дітьми.
Сканування буде відбуватися за допомогою нейромереж на самому пристрої, а не в iCloud. Apple підкреслює, що це зроблено заради конфіденційності. Фотографії будуть звірятися з хешем зображень, наданих Національним центром зниклих без вести і експлуатованих дітей (NCMEC), а також іншими організаціями.
Це зображення, яке було переведено в послідовний набір символів, зрозумілий машинам. Ці символи допомагають нейромереж визначати, що саме зображено на ілюстрації. Тобто, по суті, порівнюються не дві фотографії, а закодована інформація цих фотографій.
Виглядає це так: h24Klsa6hpas6y3I91POSj7. Погодьтеся, не дуже схоже на зображення. Це називається цифровими відбитками фото.
Всі хештеги будуть зберігатися на самому пристрої. У кого будуть ключі дешифрування, невідомо. Але перевести цю інформацію назад в фотографії неможливо.
Фотографії будуть завантажуватися в iCloud разом з цим хештегом, захищеним неназваними криптографічними методами. Тут Apple підкреслює, що не зможе розшифрувати цей ваучер безпеки, якщо не буде досягнуто порогове значення відомого вмісту CSAM. За словами компанії, це свідчення високої точності.
Якщо система виявляє перевищення цього граничного значення, то Apple вручну буде інтерпретувати вміст ваучерів безпеки. У разі підтвердження обліковий запис в iCloud буде заблокована, а звіт буде відправлений у NCMEC, яка співпрацює з правоохоронними органами США.
Якщо користувач вважає, що система помилилася, він зможе подати апеляцію. У початковому тексті не уточнюється, скільки разів до цього користувачеві доведеться поговорити з представниками правоохоронних органів, а також як до цього поставиться його оточення.
Питання є до роботи самої системи: наприклад, як вона визначить вік людини на фотографії? Тобто ми можемо подивитися в паспорт людини і сказати, що йому або їй менше або більше 18 років. Тим більше що є безліч прикладів, коли підлітки виглядають старше багатьох повнолітніх людей.
Якщо Apple дає доступ до цієї інформації таким організаціям, як NCMEC, то що буде, якщо до компанії прийде авторитарний уряд і поставить умову: або ви даєте нам доступ і не лізете, або йдіть з ринку? За допомогою системи цілком можна аналізувати вміст на момент опозиційного контенту, якщо знати, як саме її налаштувати. Саме про це говорить Метью Грін, професор криптографії з Університету Джона Хопкінса:
Інше питання: на якій підставі Apple взагалі лізе в смартфони користувачів, аналізуючи їх контент? Я-то розумію, що без цього неможливий пошук по галереї айфона, але в цьому випадку система не йде з самого смартфона. А тут в хмарі буде зберігатися хеш фотографій, неправильна інтерпретація якого цілком може привести до того, що інтимні фотографії сексуальних відносин двох дорослих людей можуть переглядатися іншими людьми з боку компанії і навіть правоохоронних органів.
Якщо ж система буде виключати ті випадки, коли незрозуміло, дорослий це чи дитина, то що тоді говорити про сексуальне насильство над неповнолітніми, яких система буде позначати як спірні?
Поки технологія, представлена Apple, викликає дуже багато питань. В першу чергу вони стосуються конфіденційності – того, на чому компанія робить особливий акцент.
Очікується, що Samsung представить серію Galaxy S25 вже в січні. Імовірно, це станеться 22 січня…
У запеклій конкуренції з Google компанія OpenAI зняла обмеження на доступ до ChatGPT Search для…
The Wall Street Journal стверджує, що ця модель не буде дорожчою за iPhone 17 Pro…
Нове опитування фахівців з компанії SellCell показує, що більшість функцій Apple Intelligence не несуть ніякої…
Ілон Маск підтвердив, що його команда соціальної мережі X (Twitter) працює над створенням фірмового сервісу…
Компанія Apple готує до виходу Macbook монструозних розмірів. Про це пише MacRumors. Що відомо Згідно…