Проблемы цифрового ГУЛАГа

Как пишет научно-популярное издание Naked Science, на Зимней конференции по применению компьютерного зрения, которая прошла в январе 2021 года (WACV 2021) была представлена нейросеть, что успешно «обманывает» любые детекторы дипфейков, делая таким образом невозможным различение фейкового видео от настоящего.

Исследователи отмечают, что несмотря на множество попыток достичь обратного (соответствующий тендер на разработку ПО был недавно обнаружен даже в закупочной системе МВД РФ), подобные решения демонстрируют неэффективность даже самых совершенных существующих средств определения подлинности видео, а это значит что в полной мере доверять любым видеоданным не корректно.

Всё это ставит со всей остротой вопрос о целесообразности и корректности централизованных систем видеофиксации и юридической корректности их доказательств, поскольку любое подобное видео с лицом обвиняемым в том или ином преступлении может быть подделкой, а доказать это или обратное на данный момент невозможно. Из этого следует масса очень далеко идущих выводов.

Учитывая данный контекст, особый смысл приобретает недавнее решение властей отдельных городских администраций в Калифорнии полностью отказаться от систем бюджетного видеослежения, как нарушающих приватность личных данных граждан, в то время как такие страны как Китай, демонстрируют новые рекорды в сфере массового внедрения систем видеоконтроля.

Если любые видеоматериалы могут быть сфальсифицированы и доказать обратное сейчас невозможно, это открывает бесконечный простор для манипуляций и злоупотреблений со стороны тех кто обеспечивает видеофиксацию, создавая возможность при помощи соответствующих технологий наложить любые лица на любые кадры, без возможности проверить их подлинность.

Это значит что люди «на той стороне» объектива видеокамеры обладают абсолютной властью над объектами своего слежения (с случае такой юридической и организационной возможности), а уличить их в фальсификации данных сегодня невозможно. В этих условиях, признание видеоматериалов в качестве не косвенных, а конечных юридических доказательств в судебных процессах невозможно, тогда как доверие централизованным государственным системам видеослежения равносильно своему обращению в их рабство, буквально.

С другой стороны, просторы для производства фейковых видео и уничтожения публичной репутации любого «человека из телевизора», также открываются бесконечные, где отделить фейк от правды невозможно. При том что вся современная политическая система завязана на взаимодействии аудитории с лидерами мнений через СМИ (и видеотрансляции в них), а не в результате прямого живого общения.

Оба эти обстоятельства со всей серьёзностью ставят вопрос о самом будущем централизованных институтов и решений, будь то системы слежки для обеспечения «общественной безопасности», либо вопросы доверия политикам с которыми мы не можем общаться лично, т.е. почти никому из них. Современные технологии уже позволяют стереть любое наше упоминание, фальсифицировать против нас любые обвинения и манипулировать нами практически любым образом, создавая любые визуальные образы, в лучших традициях технологических антиутопий.

Подобные новости заставляют нас с новой силой сомневаться в перспективах будущего легитимности централизованных государственных систем, основанных на централизованном принуждении своих жителей к «общему благу» посредством механизмов общенациональных выборов и слежения в национальных интересах. Разворачивающаяся на наших глазах цифровая революция не просто создаёт системы для «цифрового сдерживания», но открывает возможности для полного взаимоуничтожения в системах, слишком больших, чтобы вы лично не могли общаться со своим мэром или иным поставщиком публичных услуг.

Отказ от децентрализации и панархии в этих условиях будет наращивать вполне реальные риски проснуться однажды в цифровой антиутопии (если мы уже не в ней), лишённой малейших моральных и научных оснований для своего централизованного монопольного существования.

«Они живут» — фильм о работяге, который через специальные солнцезащитные очки обнаруживает, что правящий класс — это инопланетяне, скрывающие свою внешность и манипулирующие людьми с целью потребления, размножения и соответствия статус-кво с помощью подсознательных сообщений в СМИ.

Добавить комментарий

Заполните поля или щелкните по значку, чтобы оставить свой комментарий:

Логотип WordPress.com

Для комментария используется ваша учётная запись WordPress.com. Выход /  Изменить )

Google photo

Для комментария используется ваша учётная запись Google. Выход /  Изменить )

Фотография Twitter

Для комментария используется ваша учётная запись Twitter. Выход /  Изменить )

Фотография Facebook

Для комментария используется ваша учётная запись Facebook. Выход /  Изменить )

Connecting to %s