Перерасти Страуда: что противопоставить дипфейкам

Высадка «Аполлона-11» на Луну в 1969 году стала выдающимся научным достижением. Это было также выдающееся эпистемологическое достижение. Человек не только побывал на Луне, но и почти одновременно большая часть человечества узнала об этом событии благодаря прямой трансляции. Это стало впечатляющей иллюстрацией силы видеоматериалов. Некоторые утверждают, что в эпоху генеративного ИИ эта сила находится под угрозой. Так, инструменты для создания «глубоких подделок» — высокореалистичных синтезированных изображений или записей — угрожают вызвать повсеместный обман, а со временем и всеобщее недоверие даже к достоверным видеоматериалам. Если реалистичное видео можно создавать по своему усмотрению, то такие материалы больше не являются хорошим доказательством.

В статье для The Atlantic в 2018 году журналист Франклин Фоер высказал предположение: «Вскоре мы будем жить в мире, где нельзя верить своим глазам. Иначе говоря, мы не так уж далеки от краха реальности». Обман — это только начало проблемы. Далее Фоер предсказывает: «Сфабрикованные видеоролики вызовут новые и понятные подозрения в отношении всего, что мы смотрим». У многих возникнет соблазн воспользоваться ситуацией. Публичная фигура, столкнувшись с компрометирующими видеодоказательствами, может настаивать на том, что это дипфейк. Специалисты в области права Бобби Чесни и Даниэль Цитрон называют такую возможность отвергать видеодоказательства «дивидендами лжеца». Философ Регина Рини считает, что дипфейк подорвет функцию видеозаписи оставаться «эпистемической опорой», авторитетной формой доказательства, с которой можно сверять утверждения, фотографии и другие менее значимые формы подтверждений. А подрыв опоры знаний позволяет легче вводить в заблуждение. Подобные опасения формируют то, что британский исследователь Джошуа Хабгуд-Кут назвал «предсказанием эпистемического апокалипсиса».

Эти предзнаменования апокалипсиса кажутся довольно убедительными, особенно если учесть как много людей обеспокоены фейковыми новостями, дезинформацией и другими источниками обмана. Более того, опасения по поводу эпистемического воздействия технологии дипфейк напоминают давние скептические опасения, которые уже высказывались в истории философии. В 1984 году Барри Страуд в книге «Значение философского скептицизма» предлагает такой мысленный эксперимент. Представим себе человека, который, проснувшись, обнаруживает себя запертым в комнате, полной экранов, показывающих движущиеся изображения. Может ли он знать, что события, изображенные на экранах, соответствуют реальным событиям во внешнем мире? Видимо, нет. Его заточение не позволяет ему проверить соответствие между реальностью и изображением на экране. Он может оценить взаимную согласованность экранных событий. Но это ненадежный признак действительности за пределами экранов. Таким образом, даже если на экранах отображаются живые потоки внешних событий, он не может этого знать. Доступные ему ресурсы не обеспечивают связи между экранным представлением и внешней реальностью.

Эпистемологическая угроза, которую представляют собой фальшивки, не так страшна, как та, с которой столкнулся человек в мысленном эксперименте Страуда. У нас есть независимые средства проверки соответствия реальности хотя бы некоторых видео. И в то же время наше положение чем-то схоже с описанной ситуацией. Большая часть знаний, особенно о далеких событиях, неизбежно опосредована видеозаписями и подобными средствами отображения. Конечно, мы отличаемся от воображаемого персонажа Страуда тем, что никакие физические блокировки не мешают нам исследовать соответствие между изображением и реальностью. Однако такие исследования едва ли можно назвать целесообразными и осуществимыми. Нельзя, например, лично проверить происхождение всех видеороликов, которые появляются в вечерних новостях или в социальных сетях. Более того, особенно для видео, которые якобы представляют далекие события, наиболее очевидным способом оценки их достоверности будет сравнение с другими видео, представляющими те же события. Но генеративный ИИ, в принципе, может быть использован для массового производства взаимосогласованных видео, ложно выдающих себя за одно и то же событие. Поэтому даже согласованность с другими источниками мало говорит о достоверности материала. Таким образом, существует разрыв между видео, которые призваны отображать реальность и на которых основываются многие наши убеждения, и самой реальностью. Можно ли преодолеть этот разрыв?

Вероятный ответ находится в неожиданном источнике. Мыслительный эксперимент Страуда, в котором речь идет о запертой комнате, задуман как аналогия головоломки скептицизма, четко сформулированной философом XVII века Рене Декартом, но знакомой даже его древним предшественникам. Головоломка возникает, если считать, как это делал Декарт, что знание о мире опосредовано мысленными образами внешних объектов. Декарт задается вопросом, как можно знать, что эти мысленные образы точно отражают внешний мир, или как можно знать, что вообще существует какой-либо мир за пределами разума. Он заостряет этот вопрос, утверждая, что переживания, которые обычно принимаются за внешнюю реальность, могут быть плодом сновидений или порождены демоном обмана.

Декарт не только четко сформулировал проблему, но и заявил, что стал первым философом, когда-либо опровергнувшим скепсис. Его предложение состояло в том, чтобы победить сомнения, найти гарантию надежности своего восприятия. Декарт считал, что, доказав существование Бога, он сможет доказать, что его восприятие, в общем и целом, является верным. Совершенное существо, рассуждал Декарт, не допускает системного обмана. Хотя теологический ответ Декарта на скептицизм в целом рассматривают как весьма схематичный, мы можем применить подобную стратегию к скептицизму, который вызывает дипфейк. Подобно тому, как сны или обманчивый демон могут породить недостоверный опыт, создатели дипфейков могут производить реалистичные, но фальшивые видео. Таким образом, ничто внутри данного видео не гарантирует его достоверности. Но из этого не следует, что такой гарантии не существует. Напротив, достоверность видеоматериалов можно и нужно оценивать в зависимости от социального контекста. Мы не можем уповать на Бога, но мы должны полагаться на надежные источники как на гарант подлинности видеоматериалов.

Идея заключается в том, что доказательная сила конкретного видео не определяется строго его содержанием, а зависит от более широкого контекста. Он включает источник видео и исходные убеждения аудитории. Так, например, видео, переданное авторитетной новостной организацией, является весомым доказательством реальности событий. Видеоматериалы, размещенные анонимным аккаунтом в социальных сетях, без поддержки более авторитетных источников, представляют собой незначительное доказательство, даже если они кажутся реалистичными. В этом смысле доказательная сила видеоматериалов сродни свидетельским показаниям. Свидетельство источника, который обладает честностью и компетентностью в данном вопросе, является весомым доказательством. Слова нечестного или некомпетентного человека, а также того, чья надежность неизвестна, являются относительно слабым доказательством.

Некоторые философы утверждают, что благодаря инновациям, таким как дипфейк, которые предоставляют людям расширенные возможности манипулирования видеоматериалами, изменился сам статус видео в системе координат знаний. Эти философы предполагают, что если раньше видеозаписи давали непосредственный опыт восприятия, то теперь они могут предоставить лишь нечто похожее на косвенное свидетельство. Простым языком, если раньше, смотря видео, вы становились очевидцем события, то сейчас просмотр видео — это словно кто-то рассказал вам о нем. Но это чрезмерное упрощение. Технологии дипфейк предлагают новые способы манипуляции с материалом, однако обман был всегда. Термин «дешевые подделки» был придуман исследователями Бритт Пэрис и Джоан Донован для описания относительно грубых методов манипулирования видео, включая изменение скорости, использование двойников и искажение окружающего контекста. Возможность манипулировать видеоматериалами подобным образом неизбежна и постоянно присутствует, поэтому даже до появления дипфейков видеоматериалы никогда не были полностью надежны.

И видео — далеко не единственный материал, вызывающий сомнение. Фотографии также считаются весомым доказательством, несмотря на то, как легко их можно подделать. Photoshop или какие-либо конкретные технологические инновации ни при чем. На заре становления фотографии методы обработки снимков служили для восполнения технических недостатков, которые в противном случае не позволяли фотографиям точно отражать реальные сцены. Причины политического характера, гордость и просто мелочность часто вдохновляли авторитарных лидеров на внесение изменений в фотолетопись. Подобные действия заставляют задуматься о том, стоит ли принимать исторические фотографии за чистую монету, но они не являются основанием для абсолютного скептицизма по отношению к фотосвидетельствам. Скорее, наше доверие к фотографиям должно зависеть от надежности их источников. Точно так же дипфейки не заставляют относиться к видеоматериалам с полным скептицизмом. Напротив, доверие к видеоматериалам должно зависеть от надежности источников.

В отличие от более известных эпистемологических проблем, таких как сформулированные Страудом и Декартом, у нас есть ресурсы, чтобы решить проблему, созданную технологиями дипфейк. Это не значит, что она будет решаться всегда. Доверие работает в обе стороны. Поскольку опора на достоверные источники является решением эпистемологической угрозы фальшивок, большая угроза в том, что доверие бывает неправомерно утеряно, неправильно направлено или использовано. Кадры первой пилотируемой высадки на Луну быстро сформировали коллективное знание об этом событии, отчасти потому, что они транслировались широко известными источниками, которым доверяли. Но не все верили своим глазам или источникам съемки. Быстро возникли теории заговора, согласно которым кадры были сфабрикованы, возможно, при техническом содействии Стэнли Кубрика, который накануне события снял фильм «Космическая одиссея 2001 года». Этот пример показывает, как на фоне недоверия технические новшества влияют на восприятие видеодоказательств.

И даже больше, как недоверие порождает сомнения в подлинности видео, так излишнее доверие может усилить обманчивую силу даже грубо сфабрикованной фальшивки. Действительно, в настоящее время большая часть визуальной дезинформации принимает форму дешевых подделок, а не дипфейков. Когда аудитория ошибочно доверяет источнику видео, она может не заметить даже очевидных признаков того, что видео подверглось манипуляциям. Это особенно верно для аудитории, идеологически мотивированной верить содержанию видео.

Эпистемологическая угроза, исходящая от дипфейков, не иллюзорна, но и не непреодолима. Стоит признать этот факт, чтобы не допустить превращения сценария эпистемического апокалипсиса в самоисполняющееся пророчество параноика. Чтобы избежать такого исхода, необходимо устранить основные проблемы доверия и недоверия, которые позволяют дезинформации процветать и ставят под угрозу авторитет достоверной информации.

Сообщение Перерасти Страуда: что противопоставить дипфейкам появились сначала на Идеономика – Умные о главном.