Как соцсети становятся судами и полицией

Решение крупнейших ИТ-компаний мира, в числе которых Microsoft, YouTube, Facebook и Twitter, создать общую базу данных, которая поможет в борьбе с распространением террористического контента в сети, может выглядеть как в целом рутинный, но достойный похвалы процесс.

Почему рутинный процесс – потому удалять террористический или расистский конвент этим компаниям и так уже приходится. Вполне вероятно, что сегодняшняя инициатива – это, в первую очередь, просто реакция на претензии, высказанные Европейским Союзом, в частности, еврокомиссаром по вопросам юстиции Верой Юровой. Которая недавно обвинила ИТ-компании в том, что они неидеально выполняют собственную обещание об удалении со своих сервисов материалов, содержащих проявления расизма и призывы к ненависти, в срок не более 24 часа. И в Брюсселе рассматривают возможность введения законодательного регулирования процесса.

Зато база данных, которая содержит хэши – уникальные цифровые идентификаторы – картинок и видео с террористическим и экстремистским содержанием позволит существенно ускорить процесс "зачистки" подобного контента из соцсетей. Более того, открытая база данных, которой смогут пользоваться (и добавлять к ней хеши для новых картинок) разные компании, позволит еще и сэкономить силы и человеческие ресурсы, пользуясь при том результатами работы других компаний. Кстати, похожий механизм работает и в сфере противодействия детской порнографии – и неплохо проявляет себя.

Впрочем, в этой картине светлого и лишенного террористических призывов будущего есть один не очень приятный момент. Который заключается в том, что определять, что именно считать терроризмом, будут сами компании. На собственное усмотрение.

И одно дело, когда на видео ИГИЛовский отморозок режет головы пленным – тут вопросов не возникает. И совсем другое – когда на видео бородатый мужчина призывает вступать в ряды Свободной сирийской армии. Или еще кого-то из чуть ли не полусотни группировок, которые ведут боевые действия в Сирии. Разобраться в том, кто из них террорист, а кто – боец за свободу и демократию, порой не могут дипломированные востоковеды. А вот девочки и мальчики в офисе Фейсбука, по замыслу руководства, смогут сделать это легко и беспроблемно.

Наконец, все чудесно помнят волну запретов и санкций, направленных на популярных украинских блогеров – якобы за использование на Фейсбуке "языка ненависти" в отношении России. Эти инциденты исчерпывающе демонстрируют уровень компетентности модераторов соцсетей. Причин подозревать, что на Твиттере или Ютубе будет как-то иначе – как-то не заметно.

К этому следует добавить, например, тот факт, что во многих странах оппозиция к действующей власти как-то почти автоматически приравнивается к терроризму. И люди, которые живут в этих странах – пусть даже работники международных ИТ-корпораций, нередко разделяют подобные взгляды.

И если до сих пор не слишком обоснованные "баны" касались исключительно виртуальной идентичности одного лица на одном-единственном ресурсе, то сейчас они будут касаться фото - и видео материалов во всех соцсетях – и, возможно, не только на них, а и в интернете в целом. Поскольку пользоваться "антитеррористической" базой данных будут, не исключено, и фотобанки, СМИ и кто угодно еще. Таким образом изображения, напротив которого фейсбучный клерк поставил галочку "терроризм", практически исчезает из информационного пространства планеты.

Конечно, ждать решения суда на каждую глупую и жестокую картинку, брошенную в соцсеть – не выход. Система захлебнется. Но и отдавать все на откуп работникам ИТ-компаний – тоже не совсем выход. Ибо что бы они не сделали – максимум, на что могут рассчитывать жертвы – это пресс-релиз с извинениями. Хоть и этим ИТ-гиганты в последнее время как-то не злоупотребляют.

Как минимум, сейчас нужен общедоступное и общепонятное описание того, что можно считать терроризмом, а что нет. Общедоступные и максимально согласованные списки террористических организаций. И определение того, индивидуальное поведение может считаться терроризмом в строго определенном смысле этого слова.

В этой ситуации могли бы проявить себя международные организации – и сама ООН, для примера. Но они явно не спешат заниматься сложной, неблагодарной и способной привести к многочисленным скандалам работой.

Но до того момента, пока такие вещи не будут регулироваться международным правом, очередной мальчик или девочка из никому не известного офиса популярной компании будет выполнять относительно информации, от которой может зависеть судьба людей, роль судьи, представителя исполнительной власти и по совместительству – ката. И все – с помощью одного клика мышки.