Капитализм слежки / Surveillance capitalism

Борцам за право человека на частную жизнь,  то, что по-английски называют privacy,  труднее всего достучаться до тех, кто живёт по принципу «я законов не нарушаю, мне нечего скрывать».

Таких людей часто презрительно называют normies, но я здесь не для того, чтобы бросаться оскорблениями.

Возьмём среднестатистического normie. Вся его жизнь, по его же словам, — это работа, зарплата, оплата счетов и сон. Какие к нему могут быть вопросы? Пусть следит за ним кто хочет и как хочет,  ему всё равно, ведь ничего противозаконного он не делает.

Как правило, активисты пытаются напугать его апокалиптическим сценарием: тоталитарное государство знает о нём всё, следит за каждым его шагом и каждым словом в сети и с помощью санкций принуждает к «правильному» поведению.

Если же человек, по мнению правительства, ведёт себя неправильно, его могут ограничить в праве снимать квартиру в определённых местах, покупать билеты на поезд или выезжать за границу. И всё это уже происходит сейчас (сходство с Китаем чисто случайное).

Однако, речь идёт исключительно о тоталитарных странах. Нам же, как известно, тоталитаризм не грозит: у нас демократия и либерализм.

Выходит, что вместо того, чтобы заниматься никому не понятной privacy, надо бороться за то, чтобы к власти не пришёл какой-нибудь диктатор.

А пока он не пришёл, нет никакого резона скрывать от государства свои мелкие грешки. Государство у нас доброе, и оно за нас.

Некоторое время назад я познакомился с замечательным YouTube-блогом под названием Business Reform. Его создатель Джон Падфилд (Jon Padfield) — человек с очень богатой биографией: инженер, затем член законодательного собрания штата, а ныне профессор бизнеса. Он рассказал, каким образом в США сейчас формируется система социального рейтинга.

Речь не идёт о каком-то тайном плане тайного правительства, о котором вам охотно расскажут конспирологи. Мы говорим о вполне естественных бизнес-процессах.

В 2024 году выяснилось, что автомобили General Motors собирают подробные данные о манере езды владельца, включая резкие разгоны и торможения. Я о так называемой программе Smart Driver.

Не знаю, с какой целью это делалось изначально, возможно, чтобы диагностировать неисправности автомобиля. Но какой-то эффективный менеджер обнаружил, что на этом можно хорошо заработать.

Эти данные можно за неплохие деньги продать так называемым брокерам данных — data brokers. А уж они найдут им применение.

Как именно? Например, брокер LexisNexis на основе этих данных присваивает каждому водителю рейтинг, по которому страховые компании решают, на каких условиях его страховать и страховать ли вообще.

Разумеется, манера езды — не единственный критерий, по которому LexisNexis присваивает рейтинг, но один из них. Полного списка критериев компания не раскрывает.

Если вы вдруг заметите, что ваш страховой полис подорожал, и обратитесь в страховую компанию, внятного ответа, с чем это связано, вы не получите. Исключительно из трогательной заботы о вашей приватности ни один сотрудник не сможет в этом разобраться. Он лишь разведёт руками: «Так решил компьютер».

Оспорить это решение вы тоже не сможете, ведь вы даже не знаете, на чём оно основано.

Когда эта история всплыла, разразился скандал, и General Motors закрыла программу Smart Driver. Федеральная торговая комиссия США запретила компании передавать такие данные брокерам. Правда, всего на пять лет. А сколько подобных программ работает прямо сейчас — просто потому, что о них ещё никто не написал?

Добро пожаловать в дивный новый мир.

Какие именно данные получают брокеры и из каких источников, я не знаю. Но давайте немного пофантазируем.

Вы искали в Google информацию о каком-нибудь опасном заболевании? Это может поставить под сомнение декларацию о здоровье, которую вы подали в страховую компанию. Слишком часто заходите в аптеку? Не записаны ни в один тренажёрный зал?

Думаю, вы уже догадались, чем это для вас обернётся.

И неважно, что в аптеку вы ходите исключительно за витаминами, а спортом регулярно занимаетесь на свежем воздухе. Этого алгоритм не учёл. Но оправдываться не перед кем — формально вас ни в чём не обвиняли.

Другой пример. Вы ждали трамвая там, где как раз проходила антиправительственная демонстрация? Что ж, готовьтесь к проблемам с допуском к работе в госструктурах.

Кстати, это вовсе не плод моей больной фантазии. После штурма Капитолия 6 января 2021 года ФБР запросило у Google данные обо всех телефонах, находившихся в тот момент в здании и вокруг него. По словам Падфилда, десяткам людей предъявили обвинения исключительно на основании этих геоданных — так называемого geofence.

Но телефон — далеко не единственный шпион у вас дома. В ваше  смарт-телевизоре,  который Вы купили, когда они внезапно подешевели, скорее всего, реализована технология ACR (automatic content recognition). Несколько раз в секунду телевизор делает снимок экрана и отправляет его — или его цифровой «отпечаток»  на сервер. Там его сравнивают с базой телепередач и фильмов, чтобы определить, что именно вы смотрите. Во всяком случае, так это выглядит в теории.

Телевизору всё равно, что у вас на экране — телепередача, фильм на Netflix или фотографии и видео из семейного архива.

По словам Vizio — американского производителя недорогих телевизоров, — эти данные использовались для рекламы. Звучит довольно невинно. Но кто даст гарантию, что этим всё и ограничится?

Теперь кто-то знает, что было у вас на экране каждую секунду. Пусть сегодня в базе нет ничего похожего. Завтра её пополнят, и ваши старые записи сверят с новой базой. А как вы уже знаете, алгоритмы иногда ошибаются.

Вы всё ещё уверены, что вам нечего скрывать?

Данные останутся у брокеров, а какие выводы из них сделают и какие ещё рейтинги вам присвоят — останется на совести компаний, о существовании которых вы, скорее всего, никогда не узнаете.

Вы уверены, что «там» всё правильно поймут?

Некоторое время назад я смонтировал из фотографий и видео своих детей фильм, чтобы показать его на праздновании  дня рождения.

Я попытался загрузить его на YouTube и получил весьма суровый отказ со ссылкой на правила сообщества о безопасности детей.

Но речь шла лишь о решении платформы отказаться публиковать мой ролик.

А теперь представьте, что тот же фильм вы смотрите дома на смарт-телевизоре с ACR. Только на этот раз выводы о вас сделает не YouTube, а компания, о которой вы ничего не знаете, — и сообщать вам о них никто не станет. Просто в вашем невидимом профиле появится пометка, название которой я не решусь не то что напечатать — даже произнести вслух.

Как думаете, велики ли ваши шансы доказать, что некая компания — вы даже не знаете какая — всё неправильно поняла? Притом что вы не знаете и того, что именно она поняла.

И дело не только в фильмах. Каждый поисковый запрос, каждая покупка, каждая поездка, каждый человек в списке ваших контактов где-то записывается, сопоставляется и оценивается. По каким критериям — вам не скажут. Какой у вас сейчас рейтинг — вы не знаете. Изменился ли он после вчерашнего вечера — тоже.

Вам откажут в кредите, и вы не узнаете почему. Не перезвонят после собеседования — и вы так и не поймёте, что было тому виной: ваше резюме, неудачный ответ на вопрос «где вы видите себя через пять лет?» или то, что полгода назад вы ждали трамвая не на той остановке. Подорожает страховка, откажут в визе, на границе пригласят в отдельную комнату — и каждый раз вы будете гадать, что именно из вашей жизни кто-то истолковал не так.

Можно, конечно, попытаться вести себя как можно более среднестатистически и избегать любых шагов, которые невидимые стукачи могут понять неправильно. Но откуда вам знать, какие шаги правильные? Правил вам никто не покажет, а меняться они могут хоть каждый день. Так что уверенности, что вопросов к вам не возникло, у вас не будет никогда. Ни когда вы открываете браузер, ни когда включаете телевизор, ни когда садитесь за руль.

Но вам-то бояться нечего. Вы ведь законов не нарушаете. А о privacy пусть пекутся преступники, террористы и прочие антиобщественные элементы — честному человеку скрывать нечего.