Обнародованы результаты соответствующего исследования.
Секунду назад вы поставили “лайк” новому эпизоду “Игры престолов” в Фейсбуке – и в вашей ленте моментально появляется статья “Узнай, у кого из героев “Игры престолов” скоро родится двойня”, пишет bbc.com.
Вы забили в поисковой строке слово “кроссовки” – социальная сеть через несколько секунд предложит рекламу этой самой обуви “по максимально низкой цене”, хотя вы никогда ее об этом не просили.
Еще веселее – в “Фейсбуке”. Вы порекомендовали друзьям статью о войне в Сирии или, скажем, “100 интересных фактов о полезности огурцов” – соцсеть будет периодически подбрасывать вам десятки материалов на эту тему.
Знакомая история?
Facebook, Twitter, Amazon и множество других крупных IT-компаний по крупицам собирают о вас информацию и так называемые “цифровые отпечатки” и знают о вас намного больше, чем вы бы хотели.
Их аналитика довольно точная: с небольшой погрешностью Facebook и Twitter расскажут о том, сколько денег вы зарабатываете, чем интересуетесь, католик вы или мусульманин, замужем или разведены, гей или нет.
Все это может быть использовано против вас не только в коммерческих целях, утверждает профессор Стенфордского университета Михал Косински.
Несколько лет назад он открыто заговорил о технологии целенаправленной рекламы как об одной из самых опасных и одновременно полезных для человечества.
Впоследствии именно ей и воспользовалась частная британская компания Cambridge Analytica, занимающаяся анализом и сбором электронной информации и стратегическими избирательными технологиями.
Теперь Косински работает над исследованием новой технологии, способной только по фотографии или видео распознать предрасположенность того или иного человека к гомосексуальности, педофилии, а также просчитать потенциального массового убийцу или насильника.
Михал Косински рассказал Русской службе Би-би-си о том, правительства каких стран уже взяли подобную систему на вооружение, осталась ли в мире хотя бы частичка приватности, можно ли узнать, как выглядит ваш портрет в сети и есть ли возможность спрятаться от того, чтобы каждый шаг, покупка и поход в социальную сеть были тут же запеленгованы электронными радарами.
О чем расскажут ваши “лайки” и твиты?
Многие люди попросту хотят быть дружелюбными, но каждым своим “лайком” добавляют штрих к собственному цифровому портрету. Многие утверждают, что поставили “нравится”, чтобы поддержать своих друзей, а не потому, что им и взаправду понравилась статья или новость, опубликованная кем-то из знакомых.
На самом деле мы только думаем, что делаем это случайно. Наука говорит, что это неправда, и мы все-таки “лайкаем” очень неслучайные вещи. Если вы посмотрите, например, на католиков: у них у всех общая модель поведения, общий шаблон.
Посмотрите на геев: та же картина.
Демократы и республиканцы – то же самое. И дело не в том, за кого они голосуют. Речь о том, каков их лексикон, какие бренды они предпочитают, какие книги, какое кино. Все это – повторяемая модель поведения с очень тонкими штрихами.
Например, человек не сможет определить по нескольким предложениям, республиканец перед ним или демократ, особенно если текст не имеет отношения к политике. Но вот компьютерный алгоритм делает это с очень высокой точностью.
Для того, чтобы иметь довольно ясное представление о том, кем вы являетесь, не нужно много “лайков” – десяти достаточно для того, чтобы система знала о вас больше, чем коллеги по работе.
50 – и компьютерный анализ знает вас на уровне вашего партнера или члена семьи. 200 “лайков” достаточно, чтобы рассказать о всех ваших тайных пристрастиях также подробно, как это сделали бы ваши муж или жена после многих лет брака.
Facebook наблюдает за вашим поведением в сети. Мы рассказываем о себе гораздо больше, чем нам бы хотелось, и больше, чем на первый взгляд заметно на поверхности.
Например, он берет ваши кинематографические или музыкальные предпочтения, затем компьютерный алгоритм берет все эти данные и переводит их в довольно точный прогноз относительно того, кем вы на самом деле являетесь.
Эти “лайки” и рассказывают о ваших политических предпочтениях, вашем возрасте, поле, о вашей личности, даже о том, какие наркотики, вы, возможно, принимаете, были ли разведены ваши родители и множество другой очень деликатной и личной информации.
Facebook отслеживает, на какие страницы вы заходили, где ставили “лайки”, как выглядят ваши новые посты, чем вы делитесь, с кем вы дружите, чей вы последователь, как выглядит ваша близкая сеть контактов.
Очевидный факт: у либерально настроенных людей есть такие же либеральные друзья, консерваторов в списке контактов довольно мало. То же самое правило касается и консерваторов. Люди таким же образом объединяются в кружки по возрасту и полу, сексуальной ориентации, по многим другим демографическим и социальным понятиям.
То есть, у “Фейсбука” уже есть данные о ваших друзьях, “лайках”, предпочтениях, статусах и особенно ваши комментарии. Последнее свидетельствует о том, на что именно вы реагируете, что является раздражителем.
Личные профили пользователей есть не только у “Фейсбука”, но и у других интернет-монстров: Netflix, Amazon, Google, Twitter и Uber. Они сравнивают и измеряют ваши покупки, поездки, книги и фильмы с вашим предыдущим опытом. И предлагают вам все новые и новые вариации.
Зачем это “Фейсбуку”, и кому он о вас расскажет?
Facebook – идеальная база для рекламодателей, которые, в свою очередь, могут пользоваться и другими источниками.
Компании, занимающиеся изучением кредитных рейтингов, покупают или напрямую получают эту информацию из других источников, а затем переводят ее в нужный для себя язык: сколько денег у вас действительно есть, сколько вы тратите, сколько зарабатываете, сколько кредитных карт у вас есть.
Все это переводится в кредитный рейтинг, то есть вашу надежность и способность возвращать долги. Многие компании действуют точно так же, например, крупные кредитные компании – они собирают информацию о том, что именно вы покупаете, время, когда была совершена покупка, сколько вы потратили, как быстро вы выплатили долг – и переводит эту информацию в ваше досье потребителя.
Это досье позднее можно продать другим компаниям. Есть очень простой способ проверить, была ли ваша информация продана или передана другим посторонним компаниям или источникам. Знаете, у нас в Кремниевой долине говорят: если вы не платите за продукт или услугу, значит, вы и есть продукт.
Кто может разместить рекламу в социальной сети?
Любой пользователь “Фейсбука” с кредитной картой может прийти и разместить свою рекламу. После этого он или она может отправлять ее людям с определёнными психологическими, демографическими и географическими характеристиками. Можно делать рекламу таргетированной – в зависимости от возраста, цвета кожи, геолокации, политической ориентации, пола, стоимости дома и уровня дохода.
Более того, вы можете пойти еще дальше и направлять рекламу на те группы пользователей, которых объединяют общие интересы и на людей с похожими хобби. Представьте себе, вы располагаете сотнями тысяч электронных адресов, имеющих отношение к политике или религии, геев или гетеросексуалов. Вы загружаете все эти электронные адреса в “Фейсбук” и говорите ему: “Фейсбук”, найди-ка мне еще больше людей с подобными интересами и покажи им мою рекламу.
А теперь угадайте, кто ведет себя в сети, как католики? Правильно, другие католики! И даже если некий человек никогда не говорил в сети о том, что он католик или республиканец, или гей, ко всем этим людям придет ваша реклама, если воспользоваться подобным инструментарием.
Как это называется: шпионаж или микротаргетинг?
Большинство рекламодателей использует в социальных сетях так называемый микротаргетинг. Это означает, что продукты, которые вы видите в рекламе, сервисы или идеи, статьи на политические или кулинарные темы, четко отображают ваши предыдущие “лайки”, решения и поведение, ваш возраст, экономическое благополучие, статус, род занятий, религиозную принадлежность, сексуальные предпочтения, доход и сотни других маленьких штрихов.
В целом это не так уж и плохо. С глобальной точки зрения микротаргетинг – это та реклама, которая подходит и направлена на каждого отдельного человека и его личные потребности. В таком случае и маркетологи, и политики могут быть уверены, что те посылы, которые они отправляют своим покупателям или избирателям, действительно релевантны. У этого есть очень много преимуществ, особенно в политическом контексте.
Например, если политик будет лучше понимать своего избирателя, его социальный статус и финансовые возможности, он сможет говорить о тех частях своей программы, которые важны именно для вас, это поможет избирателям быть более вовлеченными. Я думаю, что повышение уровня интереса к политике хорошо для демократии.
С другой стороны, эта техника может привести к негативным последствиям, особенно если вы имеете дело с нечестными, аморальными политиками, теми, кто врет своим избирателями, хочет ими манипулировать, отбить у них всю охоту голосовать. Для таких политиков микротаргетинг – это дополнительный козырь, с помощью которого можно достичь неэтичных устремлений.
Причина, по которой я каждый день предостерегаю людей от использования целенаправленной рекламы и говорю о ее рисках – в том, что мы должны помнить, что с точки зрения глобальной перспективы эти инструменты созданы для нашего блага – как граждан, избирателей, потребителей.
Но для того, чтобы они были направлены во благо, нужно обязательно говорить о рисках и обратной стороне медали. Для этого нужно знать, как это регулировать, как их модернизировать и правильно использовать.
Когда политики стали пользоваться целенаправленной рекламой?
Микротаргетинг давно получил свое место в политике, им пользуются все основные кандидаты любой избирательной гонки для того, чтобы устанавливать и поддерживать коммуникацию с избирателями. По моим данным, бюджет, который был использован Хиллари Клинтон на рекламу в соцсетях, в три раза превышал бюджет Дональда Трампа.
К слову, одним из первых целенаправленную рекламу стал использовать Барак Обама, который предпринимал очень много серьезных шагов для того, чтобы достучаться до людей в соцсетях и откорректировать свои посылы, сделав их более понятными и значимыми. Не забывайте, в этом есть и позитивная сторона: эта технология позволяет политику корректировать свои послания, это хорошо для демократии.
Опять-таки, микротаргетинг – достаточно дешевый инструмент, можно сэкономить огромные деньги. Он также позволяет людям быть более осведомленными, опять-таки, это работа над лозунгами и обещаниями, которые ты даешь своим избирателем как политик, это позволяет их отточить и понять настоящие потребности людей. И это не означает, что с помощью микротаргетинга вы сразу же получаете преимущество.
Для того, чтобы оно появилось, нужно грамотно продумать большое количество разных посланий, которые будут отправлены людям. Интересующие их темы, особенно те, что важны для миноритарных групп населения. И эти, забытые раньше темы, вдруг должны стать важными.
Таким образом я как политик могу выборочно обратиться к разным группам людей, учитывая их разный финансовый, экономический и социальные статусы, разные профессии, это будут разные месседжи.
При чем тут Cambridge Analytica и Дональд Трамп?
Cambridge Analytica – британская компания, которая использует глубинный анализ данных для продвижения кандидатов в ходе избирательных кампаний в интернете. Она участвовала в предвыборной кампании Дональда Трампа, в выборах во Франции, где помогала Марин Ле Пен, а также предположительно участвовала в кампании сторонников выхода Великобритании из ЕС.
Cambridge Analytica использует в своей работе метод, относительно использования которого я неоднократно предостерегал и научное, и IT-сообщества. Называется он целенаправленной рекламой. Этим методом пользуются уже много лет. Когда я начинал свое исследование, им уже пользовались многие компании, просто они не особо этим хвастались.
Задолго до появления Cambridge Analytica я реконструировал то, что они делают за “закрытой дверью” и пытался рассказать людям о рисках этой технологии и потенциальной выгоде от нее. Потому что технологии – это всегда и польза, и зло.
В своих исследованиях я использую те же самые инструменты, которые используют специалисты по целенаправленной рекламе, работающие на правительства и отдельные компании. Но с этими инструментами я просто показываю, как выглядит ситуация изнутри. Более того, я их даже не совершенствую, не модернизирую, не пытаюсь их улучшить.
Правообладатель иллюстрации EPA Image caption Глава Cambridge Analytica Александр Никс проводит семинары, рассказывая, как его компания, используя микротаргетинг, помогла на выборах Дональду Трампу
Cambridge Analytica стала игроком на рынке микротаргетинга довольно поздно, через 10 лет после того, как эта технология уже использовалась. И точно через 10 лет после того, как почти такой же технологией впервые воспользовался Барак Обама – она, правда, была менее продвинутой, потому что в то время, когда он начал свою большую политическую карьеру, мы проводили в сети заметно меньше времени.
Если вернуться к вопросу о Cambridge Analytica: они настолько сильно опоздали к началу игры и были настолько неопытными, что рассказали широкой общественности о том, как они оплошали, раскрыли все свои темные секреты.
Более опытные компании, которые делали то же самое в течении десятков лет, были достаточно умны и опытны для того, чтобы держать язык за зубами. Вы когда-нибудь слышали о компании, которая работала на Обаму или на Клинтон? Ее название, детали деятельности? Конечно, нет. Потому что они – профессионалы.
И я вам вот еще что скажу: в США очень много негативного политического маркетинга, когда политики публикуют рекламу, которая должна убить их оппонентов. В Европе этого все-таки меньше. С психологической точки зрения мы знаем, что это очень сложно – заставить избирателя Хиллари не голосовать за нее на выборах. Та же самая ситуация с избирателями Дональда Трампа.
Единственная причина, по которой Дональд Трамп показал бы рекламу избирателю Хиллари – точно не для того, чтобы попытаться его переубедить, но убить в этом избирателе любое желание голосовать. Это, в целом, давление на избирателя.
То же самое можно применить и к Хиллари: она совершенно не рассчитывала на то, что сможет убедить сторонников Трампа голосовать на выборах за нее. Единственная причина, по которой она бы показала рекламу избирателю Трампа – заставить его остаться дома.
Как узнать, что именно обо мне знают социальные сети?
Я и мои ассистенты использовали информацию из “Твиттера”, “Фейсбука” и даже кредитные истории. Ее нам передали добровольно или, если угодно, пожертвовали около шести миллионов человек, и мы выяснили, насколько аккуратной и точной является информация, используемая компаниями и правительствами в своих целях о каждом конкретном человеке.
В результате мы решили сделать модель этого исследования публичной, доступной онлайн, чтобы люди могли увидеть, как они выглядят со стороны, как много могут рассказать их “лайки” в “Фейсбуке”.
Мы создали веб-сайт applymagicsauce.com – на нее может зайти каждый, загрузить свои “лайки” – мы их не трогаем и не сохраняем эту информацию – просто для того, чтобы увидеть, как много они, сами того не подозревая, рассказывают о себе.
О чем расскажет выражение лица?
В моем новом проекте я рассматриваю алгоритмы компьютерного анализа видео, которыми давно пользуются разведсообщества, охранные компании и множество различных стартапов. Эти компании не собираются рассказывать широкой общественности о том, что они это делают.
Я не сумасшедший.
Современный компьютерный анализ способен не только распознавать и идентифицировать лица, но и интимное поведение. Почему? Да потому что это по-настоящему отвратительно! Я использую те же самые инструменты, что и они, и пытаюсь реконструировать в своей лаборатории то, что происходит за закрытыми дверями.
И, согласно нашим последним разработкам, алгоритмы, которые используются для считывания видеоинформации, также рассказывают о нашей сексуальной ориентации с очень высокой точностью.
Эти технологии используют правительства многих стран. И я считаю, что люди заслуживают того, чтобы знать, что эта технология умеет делать.
Я считаю, что алгоритмы компьютерного анализа не должны диктовать нам нашу ориентацию – гетеросексуальны мы или гомосексуальны, мы должны решать это сами, но ведь тираничные гомофобные правительства так не считают.
Они уже сотрудничают со многими стартапами и разведывательными структурами для того, чтобы расследовать преступления. И не спрашивайте об этом меня – просто погуглите, такие страны, как Китай, Россия, США, многие европейские страны давно используют компьютерные технологии по распознаванию лиц в своих системах безопасности.
С одной стороны, это хорошие новости: мы можем уберечь детей от педофилов, мы можем сохранить невинные жизни от террористической атаки – я только за подобные технологии, но это нужно обсуждать публично. В некоторых странах гомосексуализм или атеизм предполагают уголовное преследование.
В Саудовской Аравии, если ты не гетеросексуален, тебя ожидает смертная казнь. Если ты атеист – в Саудовской Аравии это означает точно такой же приговор. И если это можно “прочесть” по человеческому лицу – это риск, и мы больше не можем его игнорировать.
Существует ли приватность?
Компьютерные алгоритмы с каждым днем становятся все лучше, их прогнозы – все более и более аккуратными. Они позволяют складывать все цифровые отпечатки о личных транзакциях, которые мы оставляем, в очень аккуратные паттерны. С помощью наших “лайков” в “Фейсбуке” можно определить наши политические взгляды, религиозные взгляды – с помощью Твиттера, а нашу сексуальную ориентацию просто прочитать на лице или по фотографии.
Мы оставляем невероятное количество цифровых следов, находясь онлайн. Мы “отмечаемся”, заходя в магазин и расплачиваясь кредитной картой. Вызываем такси через приложение в смартфоне – еще один след.
На данный момент очень тяжело понять, каким образом можно это остановить. Почему? Да потому что все эти технологии – настолько удобные и часто используемые, они делают нашу жизнь более долгой, уютной, здоровой. Я даже не пытаюсь убедить людей перестать пользоваться всем этим. Если бы так произошло – это была бы настоящая трагедия.
Без поисковых систем, мобильного банкинга, карт, образовательных онлайн-курсов и электронной почты пострадает не только личная жизнь, но еще и экономика. Если сложить все это вместе, получится вот какая картина: с каждым днем у нас все меньше и меньше личного пространства, если оно осталось вообще. И это не то, что делает меня счастливым.
И даже если в мире не останется никакой приватности, никакого личного пространства, цель, ради которой я продолжаю свои исследования – это терпимость к друг другу. Нетерпимость в мире, в котором не существует приватности, очень тяжело утаить.
Представьте себе необразованных бедных людей, убивающих и калечащих друг друга из-за религиозных разногласий, политической ориентации и вопросов сексуальности. К слову, зажиточные общества тоже могут совершать поступки из ненависти и нетерпимости.
