Дипфейк реальности.

Цивилизация и ее развитие определяются в первую очередь простотой, объемом и скоростью обмена информацией. А еще – ее достоверностью. Именно достоверность информации гарантирует положительный вектор развития. В противном случае самая эффективная система обмена ведет человечество к катастрофе.
Отдельную личность тоже формирует информационный обмен. Если такого обмена не будет, то сформируется «маугли». Отрежьте часть социума от информационного обмена и получите деревню, остров, страну или целую социальную страту, состоящую из таких «маугли».

Под информацией здесь понимаются не только слова и тексты, но и визуальная и другая информация. Мы определяем реальность и достоверность поступающей информации не только сознательно, но и через чувства. То есть, поскольку тексты и слова можно сильно искажать или сказать «что угодно», то мы ориентируемся на внешнюю составляющую, «объективную реальность», как мы ее называем. Но за последние столетия произошла очень быстрая эволюция возможностей в области подделок «объективной реальности» и замена ее весьма правдоподобными суррогатами.

Создание кино позволило поставить на поток создание иллюзий. И хотя еще недавно их можно было отличать от реальности, но с развитием компьютерной графики и интернета мы постепенно все сильнее погружаемся в виртуальность. И парадокс здесь в том, что сопереживание и вовлеченность ведет к тому, что кино и “контент” начинает подменять реальность и в итоге формирует некий иллюзорный мир. Причем мир крайне востребованный и привлекательный.
…
Естественно, возможности подмены и манипуляции реальностью активно используются различными выгодополучателями — политиками, идеологами и коммерсантами. Ни для кого не секрет, что самая успешная и массовая киноиндустрия мира Голливуд непосредственно регулируется властями и корректирует кинореальность в соответствии с актуальной политической повесткой.  «Хлеба и зрелищ!»  - прозвучало еще у древнеримского драматурга Ювенала до нашей эры.
Но и с «хлебом» тоже произошли метаморфозы, потому что химическая промышленность позволила создавать иллюзии вкусовые и пищевые. И мы имеем не только фейковую реальность в виде кино, телевидения, интернета, но и фейковые продукты питания и “заменители” их вкуса. И здесь своя «фабрика грёз» под названием  маркетинг.
Это отдельная тема, но смысл здесь такой же, что по всем фронтам появились суррогаты и возможность с помощью этих суррогатов подменять реальность, искажать ее и манипулировать восприятием человека. «Я положу в рот этот стейк, а его вкус внушит мне Матрица».
Кстати, особо стоит упомянуть о рекламе, как о крайне эффективном манипулятивном механизме. На локальных уровнях каждый выгодополучатель или бизнесмен, занимающийся рекламой, стремится мотивировать людей и заставить их действовать таким образом, чтобы они заинтересовались его продуктом. Казалось бы, это информирование людей о продукте, но на самом деле, это в большей степени манипуляция людьми. Поскольку цель рекламы — продать продукт, а не довести достоверную информацию о нем.
Отличный пример манипуляции рекламой – кейс от компании Филипс, когда рекламная кампания очередного пылесоса превратила обычный ковер в скопище невообразимо страшных пылевых клещей, смоделированных с помощью компьютерной графики и превращенных в монстров тысячекратным увеличением. На ровном месте было создано проблемное поле, с которым удивительным образом справлялся именно этот пылесос от указанной компании.

Другой пример аналогичной удачной манипуляции в политическом и финансовом пространстве – введение цифровой валюты и цифровизация в целом под общим лозунгом «удобно и безопасно». Тысячи сообщений во всех средствах массовой информации о вопиющих случаях многомиллионных потерь накоплений граждан от действий мошенников и даже снятые на злобу дня пропагандистские фильмы о механизмах и приемах телефонных разводил – типичный пример направленной информационной кампании по созданию того самого «проблемного поля», которое позволит властям перевести все деньги населения в цифровой формат, оправдать все цифровые статусы и запреты на «добровольной основе». А точнее – страхе.

Поэтому реклама, наряду с другими источниками информационного загрязнения также создаёт иллюзии. Такую же роль играет мода, которая манипулирует поведением и предпочтениями. В результате всего этого и за счет стремительного развития средств информационного обмена человечество погружается в информационный хаос.
Вот таким изощренным и хитроумным способом в воспитании и воспроизводстве личности и во взаимоотношениях людей нарушается механизм верификации и достоверности информации. А это автоматически искажает все процессы — начиная от сознания людей и кончая социальными отношениями и разрушением самой цивилизации, вернее ее трансформацией в нечто противоположное - антиутопию, где личность и социум – суть вещи второстепенные и сервисные.
…
Поскольку нарушаются исторически сложившиеся механизмы социальных отношений и формирования сознания, которые в прошлом, когда количество информации было сравнительно незначительным, могло верифицироваться жизненным опытом. В результате катастрофически растет уровень дезориентации общества. И подобное информационное загрязнение становится опасным для социума и воспроизводства людей, порождая “клиповых Маугли” с крайне примитивной картиной мира и катастрофически недоразвитой схемой социальных отношений.
…
Результат бума технологических достижений и невероятный прорыв в разработке ИИ– нейросети, критически и лавинообразно усугубляют информационный кризис. В техническом смысле, нейросеть — это новый универсальный инструмент, который позволяет упорядочивать наработанный людьми опыт, оперативно систематизировать его и по человеческим меркам мгновенно выдать результат по заданным параметрам. Формируя информационные блоки с определенной степенью вероятности, отражающие тенденции и структуры. В чем-то это весьма позитивная технология, снижающая внешнюю хаотичность информационного потока. Однако одновременно этот же инструмент стал еще одним средством по созданию иллюзий и недостоверной информации. Поскольку он позволяет сделать мощный рывок в области генерации фейков, и, в частности, дипфейков, цифровую реальность, идентичную материальной.

Дипфейк — это когда можно сделать так, чтобы человек говорил и показывал то, что он на самом деле не делал, заменив его созданной нейросетью «копией». Это на самом деле окончательно разрушает механизмы, которые позволяли хотя бы визуально ориентироваться, где реальность, а где виртуальность.
В результате такой имитации разрушаются социальные механизмы и экспертные сообщества, которые строились на лидерах мнений и верифицированных специалистах (ученых, художниках, писателях, сценаристах, актерах и т.д.), которых теперь не составляет труда подделать или вовсе создать «виртуальных экспертов». Причем с такой же «достоверной» виртуальной репутацией.
…
В ближайшем будущем возможность создания дипфейков может радикально дестабилизировать общество. Это связано с социальной деструкцией, которая может возникнуть, когда можно через дипфейк подделать выступление президентов или преступление любых лиц или целых стран, имитируя, например массовые казни и геноцид.

Кроме того, возможна социальная дестабилизация в силу многих других косвенных механизмов, включая замещение профессий нейросетями и массовую безработицу. В связи с этим крайне актуальны механизмы защиты от информационного хаоса и создание инструментов, которые бы обеспечили верификацию информации и позволяли людям ориентироваться в информационном пространстве. Однако “простые решения”, например, запретить нейросети или интернет, здесь контрпродуктивны. Невозможно остановить исторический процесс, а те, кто это не запретят, хотя и сойдут с ума, но эти сумасшедшие вырвутся “вперед”, создавая новые виды оружия и манипуляции населением. И тогда уже необратимо уничтожат цивилизацию.

Итак, в массе люди стремительно утрачивают способность адекватно мыслить и осознавать поступающую информацию. Переходя в режим «клипового сознания», где деградация достигла уровня, когда уже люди неспособны читать книги, то есть сосредоточиться на смысле и осознанно прочитать текст длинной более 1 страницы.
Причем непрерывный поток раздражителей в виде псевдо «информации» превратился в наркотическую зависимость, когда поглощение «новостей» и прочего контента (раздражение рецепторов), уже совершенно не связано с его переработкой или актуализацией, а является нездоровым, но легким  способом получения дофамина.
Поэтому сегодня средний человек не помнит, что он читал или слушал день назад, но испытывает «ломку» если его лишить интернета.

PS Об этой проблеме мало пишут, еще реже поднимают на поверхность в официальном медиапространстве. Старательно делать вид, что проблемы нет, а все это всего-навсего прогресс - тоже манипуляция. А значит – это кому-то нужно.