На этой неделе, поздно вечером в четверг, судья в Нью-Мексико сделал то, чего суды почти никогда не делают: написал свод правил для Instagram. Никаких ночных уведомлений подросткам. Лимиты времени для тех, кому нет восемнадцати. Приватность включена по умолчанию. И докажи свой возраст. Счёт для Meta — девятьсот сорок два миллиона долларов.
Но каждое правило обращено именно к детям, а платформа не видит, кто из пользователей ребёнок. Значит, стоит решить обращаться с детьми иначе — и приходится проверять каждого, просто чтобы их различить. А закон о приватности 1998 года, написанный, чтобы защитить детей, как раз проверку самых младших и делает незаконной.
В марте присяжные Нью-Мексико нашли, что Meta осознанно построила продукты, вредящие психике детей, и скрывала известное ей о сексуальной эксплуатации детей на её площадках, — «недобросовестные» практики по закону штата о защите потребителей. На этой неделе пришла цена: девятьсот сорок два миллиона долларов, большая часть — на лечение уже пострадавших подростков.
Дальше судья предписал Meta переделать приложение. Но это одно решение, в одном штате, — а сорок штатов судятся из-за того же вреда, каждый в своём суде, и общего закона нет. Поэтому дизайн пишут судьи, по одному штату за раз. И каждый упирается в одну и ту же стену.
Спор, который все ведут, — обязать платформы проверять возраст или нет — это неправильный спор. Он тихо предполагает, что защитить ребёнка можно лишь одним способом: сначала вычислить, кто из пользователей ребёнок.
И именно это допущение всё ломает. Чтобы найти детей в толпе, приходится проверить удостоверение у каждого. Так что вопрос не в том, проверять ли строже, — а в том, обязательно ли защита детей означает клетку вокруг всех нас.
Подумайте, что требует «докажи свой возраст». Сайт не видит, сколько тебе лет; чтобы убедиться, что тебе не двенадцать, он должен попросить доказать — удостоверением, сканом лица, картой. И нельзя проверить только детей: чтобы их отделить, надо сперва узнать, кто ребёнок, — а это и есть то, чего сайт не знает. Значит, проверять приходится у всех.
Это и есть клетка: пропускной пункт на парадной двери интернета. Анонимности конец, а каждая платформа становится хранилищем удостоверений, которое ждёт утечки. И вот что должно всех насторожить — клетка даже не работает. Австралия запретила соцсети для тех, кому нет шестнадцати; через три месяца больше восьмидесяти пяти процентов всё ещё были онлайн. Ответом властей было удвоить штрафы. Когда замок не держит, первый порыв всегда один: замок побольше.
Вернёмся к судье и к стене, в которую он упёрся. Он не мог назначить главную проверку — нет ли пользователю тринадцати. Потому что, чтобы проверить возраст ребёнка, надо сперва собрать его данные. А собирать данные детей запрещает как раз закон 1998 года — COPPA, написанный, чтобы держать сведения о детях подальше от компаний.
Вдумайтесь. Закон о приватности, написанный, чтобы защитить детей, теперь блокирует инструмент, которым их же защищают. И каждый из тех сорока судов упирается в ту же стену — самый медленный и лоскутный способ регулировать продукт, которым пользуются сто миллионов человек. А два дизайна, что действительно могли бы вырваться из клетки, так и не строятся, потому что тот, у кого есть власть их написать, их не пишет.
Так как же выглядел бы выход из клетки? Есть два дизайна. Первый: перестать спрашивать, сколько человеку лет, и сделать продукт безопасным для всех — без бесконечной ленты, без автоплея, без уведомлений в два ночи, ни для кого. Если он безопасен по умолчанию, знать, кто ребёнок, не нужно. Цена: взрослого при этом тоже ведут как ребёнка. Калифорния попробовала вписать это в закон; части, что диктовали дизайн в деталях, отменили как принуждение к речи — но часть, что разрешает вообще не проверять возраст, а просто включить всем безопасные настройки, уцелела. Путь без клетки и оказался тем, что разрешает конституция.
Второй выход: доказать возраст, не раскрывая, кто ты. Доказательство с нулевым разглашением позволяет доверенному источнику поручиться, что тебе есть восемнадцать, и отдать сайту один бит — да или нет. Ни имени, ни даты, ни документа. Европа это обкатывает; Google выложил инструменты. Это клетка без прутьев. Но и цена настоящая: в апреле приложение ЕС взломали, источник, что за тебя ручается, может стать журналом всех мест, где ты был, а если нет ни банка, ни документа — поручиться за тебя некому.
Легко прочитать решение на девятьсот сорок два миллиона как историю о том, как одну компанию наконец поймали. Но более трудная и более полезная история лежит глубже: общество решило защищать детей в интернете и обнаружило, что так и не выбрало, как, — и работа досталась присяжным и судьям, наугад, в темноте, со связанными руками из-за закона о приватности старше самих этих платформ, тянущимся по умолчанию к единственному инструменту, о котором все и так спорят.
Может, есть веские причины построить этот пропускной пункт. Но это выбор, и цена ему — анонимность всех нас. И это не единственный дизайн на столе. Поэтому в следующий раз, когда кто-то скажет, что ответ — просто проверять возраст, полезный вопрос не «да или нет». Он такой: чей это дизайн, кто его написал — и правда ли, чтобы уберечь одного ребёнка, нужно посадить в клетку всех остальных?
Не кто виноват — как устроено. Полный интерактивный чертёж, с тем, что не вошло в ролик, — на этой странице. In English →
Смотреть на YouTube Подписаться