Этические вызовы генетики и искусственного интеллекта, или Не слишком ли стар мир для высоких технологий достижения бессмертия
Комиссия Межсоборного Присутствия по вопросам общественной жизни, культуры, науки и информации организовала круглый стол, посвященный этическим подходам к использованию технологий искусственного интеллекта, а также актуальным вопросам биоэтики.
18 июня 2024 года Комиссия Межсоборного Присутствия по вопросам общественной жизни, культуры, науки и информации организовала круглый стол, посвященный этическим подходам к использованию технологий искусственного интеллекта, а также актуальным вопросам биоэтики. Встреча в Москве собрала представителей российской науки, Русской Православной Церкви, государственных и общественных институтов, средств массовой коммуникации. Обсуждались этические вызовы в современной генетике, рискологичность искусственного интеллекта и отличие христианского отношения к старению от трансгуманизма.
Генетика не должна заходить за пределы
совершенного человеческого тела
Прежде чем обсуждать этические вызовы в такой области знаний, как генетика, нужно определиться с ключевыми понятиями. «Само по себе "благо", имеющее непосредственную связь с этикой, многогранно и имеет немало самых разных определений. Однако в понимании православного христианина "благо" зиждется на учении, принесенном в мир Иисусом Христом и раскрытом Святыми Отцами Церкви», – подчеркнул член-корреспондент Российской академии наук, доктор биологических наук Александр Михайлович Кудрявцев, начиная свой доклад «Этические вызовы высоких технологий: генетика».
Он также отметил, что технологии сами по себе не несут этической нагрузки, поскольку ее возникновение происходит, когда ее начинают применять люди. Вот почему только человек должен владеть технологиями как инструментом – вне зависимости от этических нагрузок. В настоящее время в генетике можно обособить несколько групп вызовов.
К первой группе вызовов можно отнести генетические технологии в биомедицине. В последние двадцать лет генетика совершила огромный шаг вперед. Сегодня получить геном человека не составляет большого труда и затрат. Известно, что компания «Роснефть» ведет среди своих сотрудников программу генотипирования, позволяющую определить различные предрасположенности человека к заболеваниям или активностям (например, спорту). Страховые компании начинают охотиться за данными, которые могут быть использованы в их деятельности. Конфиденциальность данных о генной информации человека не имеет стопроцентной защиты, что, соответственно, ставит этические проблемы применения технологий в современном обществе.
Вторая группа вызовов сформировалась под влиянием увеличения генетических заболеваний, которые скопились у человечества, причем с каждой эпохой их становится только больше. В связи с этим некоторые ученые считают допустимым редактирование человеческого генома. Пока в подавляющем числе стран подобные эксперименты запрещены, однако в Китае уже есть пример, когда опыт с геномом человека был проведен. Допустимы ли явления такого рода? В случае редактирования генома человека существует принципиальная разница между редактированием генома взрослого человека, помогающим избавиться от некоторых генетических заболеваний, и редактированием генома эмбриона, вызывающим наиболее острые этические вопросы. Взрослый человек самостоятельно принимает решение о себе, но вправе ли кто-то допускать редактирование генома эмбриона?
Третья группа вызовов связана с репродуктивными функциями человека. В частности, ради уверенности в воспроизведении здорового потомства и отсутствии у ребенка генетических заболеваний пару мужчины и женщины могут убеждать выбрать метод экстракорпорального оплодотворения вместо естественного способа зачатия. Любые попытки вмешательства в этот процесс наталкиваются на вал критики той части общества, которая считает такое вмешательство недопустимым для совершения Божия дела – деторождения.
В четвертой группе вызовов вопросы, касающиеся лекарств нового поколения. Так, во время пандемии новой коронавирусной инфекции Covid-19 количество летальных случаев при применении вакцины «Moderna» было неприемлемо высоким. Этот факт вызывает множество этических вопросов, проистекающих из принуждения к применению медикаментов ради борьбы с вирусом. Навязывание медицинских услуг – тоталитаризм в самом худшем его виде, и это абсолютно неприемлемо.
В пятой группе вызовов сосредоточены разработки с использованием клеточных технологий. В частности, выращивание новых органов из стволовых клеток.
К остальным группам вызовов целесообразно отнести применение генетики в сельском хозяйстве, в том числе распространение генетически модифицированных организмов (ГМО). При их помощи создаются сорта растений, вызывающие привыкание человека. Кроме того, обостряется угроза экологической катастрофы в связи с передачей материала от ГМО-культур культурам диким. Здесь же актуален вопрос использования генетических технологий при создании лекарственных препаратов, в основе которых – ГМО-организмы. Особняком стоит проблема употребления химических веществ в сельском хозяйстве, поскольку это влияет на флору и фауну и на жизнедеятельность всей экосистемы. Помимо этого нельзя оставлять в стороне вызовы биобезопасности при разработке рядом стран биологического оружия и защиты от него.
По итогам сделанного доклада и последующей дискуссии участники круглого стола констатировали, что генетика не должна заходить за пределы совершенного человеческого тела.
Искусственный интеллект не чудодейственен
«Искусственный интеллект» – это технология автоматизации и не более того, пусть она сегодня и затрагивает не только сами операции, но и процесс принятия решений на основе собранных данных. Безусловно, во многих областях жизнедеятельности автоматизация необходима ввиду увеличения скорости современных процессов. При этом важно осознавать, что искусственный интеллект не способен принимать этических решений. Алгоритмы могут предложить человеку некий вариант на выбор. Решение же отличается от выбора тем, что в решении есть интеллектуальная (человеческая, нравственная, субъектная – прим. ЕЖ) составляющая, которую искусственный интеллект, при всем созвучии терминов, не имеет. Размышлениям на тему «Искусственный интеллект: состояние проблемы и моральная проблематика» был посвящен доклад советника директора Института проблем искусственного интеллекта Федерального исследовательского центра «Информатика и управление», доктора экономических, кандидата технических наук Александра Оскаровича Гурдуса.
Несмотря на то, что технология, известная сегодня под названием «искусственный интеллект», появилась 1956 году, а в 1997 году IBM Deep Blue обыграла чемпиона мира по шахматам, до настоящего момента математической модели мозга не создано. Искусственный интеллект состоит из теоретических, алгоритмических и вычислительных оснований. Никаких чудес в нем нет. Знания в искусственном интеллекте – это либо система правил, либо семантические сети.
Семантические (нейронные) сети обучаются, и сегодня они стали наиболее популярными. Семантические сети разделяются на те, которые различают объект, и сети, которые генерируют объект. При обучении нейронных сетей на первом этапе каждому объекту ставится в соответствие вопросу некий ответ (ряд признаков), а на следующем этапе обученная модель предсказывает ответ, когда появляется новый объект. Данная технология стала возможна и популярна по нескольким причинам. Во-первых, в силу роста вычислительных мощностей. Во-вторых, был собран огромный объем данных. В-третьих, придуманы алгоритмы машинного обучения. Именно эти три фактора сделали возможным реализацию искусственного интеллекта на основе нейронных сетей.
Фундаментальные преимущества искусственного интеллекта, по мнению докладчика, заключаются в следующем: неограниченный объем памяти и скорость накопления информации; скорость обработки информации; информационная трансмиссия; отсутствие усталости; отсутствие перепадов настроения. Среди недостатков искусственного интеллекта называют: непонимание контекста; отсутствие эмпатии, что поражает этические проблемы; ограничение пространства для новаций из-за принципиально встроенных в искусственный интеллект ограничений.
Генеративный искусственный интеллект в настоящее время предельно может обрабатывать 300 000 символов. Это означает, что при большем объеме текста часть информации будет потеряна, а следовательно, существенно ограничиваются возможности генеративного искусственного интеллекта. Более того, генеративный искусственный интеллект не способен сохранить редкую, уникальную информацию или же предметно важные детали текста. Он обучается на больших данных, достоверность которых сомнительна.
Особняком стоят случаи так называемого «галлюцинирования» искусственного интеллекта, когда машина, вместо того чтобы найти ответ на определенный запрос, придумывает его, причем «галлюцинированный» результат неотличим от настоящего. Подобные случаи нередки, и поэтому результаты работы искусственного интеллекта человеку необходимо перепроверять. Если деятельность человека оценивается, в первую очередь, в качественных характеристиках, то технологии – это инструмент обработки данных через количественные показатели.
Непропорционально большое увеличение роста вычислительных мощностей привело к тому, что транснациональные компании захватили лидерство в разработке систем искусственного интеллекта. Искусственный интеллект в ближайшее время, скорее, усовершенствует алгоритмы в точных науках, где по ряду задач необходима формализация данных. Однако в других науках, прежде всего социогуманитарных, – социологии, политологии, философии – применение генеративного искусственного интеллекта вряд ли будет эффективно. Согласно исследованиям, открытые базы данных, на которых учится искусственный интеллект, закончатся к 2026 году. Это значит, что искусственный интеллект не станет умнее: все сгенерированные ответы будут усредняться. Популярность генеративного искусственного интеллекта связана с экономической выгодой использования искусственного интеллекта. При этом следует знать, что, по прогнозам, при задействовании искусственного интеллекта электропотребление в мире вырастет на 30-40%.
Российская Федерация входит в десятку стран с наибольшими вычислительными мощностями. Так, суперкомпьютер Московского государственного университета имени М.В. Ломоносова делит второе и третье места в мире по мощности вычисления. Таким образом, с точки зрения математических основ развития технологий искусственного интеллекта, Россия в числе лидеров по сравнению с другими странами. Помимо этого Институт системного программирования Российской академии наук является одним из лидеров по разработке «достоверного искусственного интеллекта» – искусственного интеллекта, которому можно доверять и который будет в безопасности от разного рода атак. Это напрямую сопряжено с созданием квантовых компьютеров, которые особенно эффективны в решении криптографический задач.
Страхи людей, связанные с появлением живых роботов, надуманны, поскольку собственного интеллекта у искусственного интеллекта не существует. Однако «слабый» или «узкий» искусственный интеллект существует. «Слабый» он, поскольку в нем присутствуют только слабые намеки на разум. Основные же риски в области применения искусственного интеллекта лежат только в области человеческого поведения и принимаемых решений. В связи с этим крупнейшие экономики мира пытаются регламентировать сферу искусственного интеллекта.
Евросоюз подготовил свой корпус законов в сфере искусственного интеллекта. Его суть сводится к тому, что при повышении границ допустимого использования искусственного интеллекта до чрезмерных рисков применение искусственного интеллекта в данной области должно быть запрещено. У Китая свое законодательство: здесь сформулированы 24 пункта, касающихся обеспечения безопасности и обязательной регистрации технологий. В США разработчики сами ответственны за безопасность продукта. Проблема порядка регулирования употребления искусственного интеллекта заключается в том, что цифровое пространство является экстерриториальным, а все регламенты привязаны к определенной территории.
Попытки преодолеть последствия грехопадения косметическими средствами
ведут человека в ад
Старение – это зависимое от времени снижение функций, которое значительно увеличивает риск смерти. У человека вероятность умереть в определенном возрасте различна. Так, после рождения и в младенчестве она достаточно высока, однако к двенадцати годам сводится к минимуму. С пятнадцатилетнего возраста она увеличивается в два раза каждые десять лет и достигает условных 100% к 120 годам. Еще недавно ученые считали, что со старением бороться нельзя, поскольку это нарушение биологических законов. Однако в последние годы в определенной части ученого сообщества стала доминировать точка зрения, что старение – это болезнь. В таком ключе проблематика неоднократно освещалась в документах Всемирной организации здравоохранения, в том числе в материалах, посвященных международной классификации болезней. Христиане же считают старение богоданным свойством, появившимся со смертью в результате первородного греха.
Поднимая проблему роста популярности идей трансгуманизма, член Этического комитета Федерального научно-клинического центра физико-химической медицины Федерального медико-биологического агентства России протоиерей Владимир Духович особое внимание уделил проблеме старения человека. Эта тема особенно часто искажается трансгуманистами – последователями философской концепции бесконечного совершенствования человека на основе научно-технического развития.
Организм обладает колоссальными возможностями самовосстановления и теоретически может жить неограниченно долго: в организме нет таких органов, которые в принципе не могли бы восстанавливаться. Известно большое количество доказательств запрограммированного старения, однако такая «программа» пока не найдена. При этом у ученых возникает вопрос, откуда она взялась. Существует общепринятый набор процессов, известных как «ключевые признаки старения» (впрочем, они только лишь коррелируют с процессом старения, но не являются его причиной). Среди них можно обозначить следующие.
Исчерпание запасов стволовых клеток: с сокращением количества стволовых клеток сокращается возможность регенерации.
Сокращение теломер, или концевых участков хромосом: по теории доктора Э. Блэкберн, концевые участки могут удлиняться и тем самым тормозить старение организма. В поисках ключей к долгой молодости группа ученых предположила, что активизация теломеразы удлинит теломеры автоматически и тем самым затормозит старение. В 2010 году были проведены эксперименты, в том числе в России. Действительно, в результате теломеры удлинились, но ответы на все вопросы так и не были найдены.
Клеточное старение: особый процесс, связанный с сохранением в организме клеток, которые отработали свой срок. Они не вычищаются из организма, а остаются, старя соседние клетки. Против этого ведется разработка препаратов сенолитиков, выводящих старые клетки из организма. Российские ученые пытались найти вещество, способное остановить процесс старения. По их предположению, самоубийство клеток и организма устроены примерно одинаково. Согласно гипотезе, яд, который нас уничтожает, – это активная форма кислорода. В связи с этим ученые решили сделать сверхмощный антиоксидант, который перехватывает ядовитые формы кислорода и их обезвреживает. Трудность заключалась в том, что организм давно научился использовать и эти формы кислорода. Если просто удалять его, то организм погибает, поэтому необходимо ликвидировать избытки такого кислорода. Такое вещество удалось синтезировать в 2005 году. Его начали проверять на животных. Во всех случаях увеличение жизни было достигнуто, однако состояние этих животных оставляло желать лучшего.
Подобные идеи имеются относительно других ключевых признаков старения. Одни применяются на практике, другие прорабатываются в лабораториях. Сейчас есть возможность пожилые соматические клетки превращать в стволовые, а потом из них получать омоложенные клетки. Это в самом деле приводит к временному омоложению организма. Впрочем, все больше и больше ученых считает, что можно сделать так, чтобы программа старения вообще не запускалась: люди должны погибать не от старости, а от других причин.
Еще не так давно было поверье, что у человека есть ген старения. Однако исследования показали, что это не так: в организме нет какого-то одного гена, но существует группа генов. Серьезные вещи в биологии делаются оркестром разных систем, и у этого оркестра есть дирижер – генетическая программа старения. Но если программа генетическая, это не значит, что бороться с ней надо генетическими методами. Приказ на начало старения, возможно, удастся отменить. Если ради достижения цели жить гораздо дольше остановить программу заранее, то с большой долей вероятности человек будет выглядеть более молодо. Некоторые системы нашего организма начинают стареть с четырнадцати лет. Впрочем, сегодня до 60 лет люди умирают от причин, не зависящих от возраста. Ни одно отдельное вмешательство не может стать полноценной терапией, поскольку все эти процессы регулировать в комплексе очень трудно, а координация всех элементов старения – самая сложная задача.
Теоретически ряд ключевых признаков старения можно не только замедлить, но и обратить вспять, возвращая организм к оптимальному возрасту 25-30 лет. В этом заключается основная концепция медицины долголетия – нового направления трансляционной медицины. Биология знает только один способ сохранения и наследственной передачи биологических свойств – генетический. Если удастся найти гипотетическую программу старения, то блокирование этой программы станет более удобным и легким способом победы над старением, чем бесконечное исправление постоянно возникающих в организме поломок. Некоторые из ныне живущих людей, возможно, застанут технологии, продлевающие жизнь.
Есть понятие «фоновой смерти». Раньше очень низкая продолжительность жизни обуславливалась процессами, не связанными со старостью или состоянием здоровья (эпидемии, катастрофы). При естественной смертности люди доживают до какого-то возраста и умирают. Фоновая смертность на протяжении истории человеческой цивилизации уменьшается, а соотношение причин смертности растет в пользу естественной смерти. До недавнего времени человечество эффективно боролось с эпидемиями, катастрофами. Однако если взять кривую продолжительности жизни в отрыве от фоновой смертности, то смертность в целом одна и та же. Смерть неизбежна, но обязательной связи между ней и старением нет. Существуют организмы, которые умирают, не старея. В некоторых видах работает программа, которая убивает их быстро в определенный момент. Эти существа называются «голые землекопы» – мышки, живущие колониями, похожими на колонии насекомых. У них неестественно высокая для мелких грызунов продолжительность жизни: в неволе данные животные существуют до 28 лет, а есть особи, доживающие до 50 лет. Самое интересное, что вероятность смерти для них не зависит от возраста. У особи голого землекопа после месяца от рождения невозможно определить возраст. Основная причина смерти голых землекопов – гибель.
Есть другой интересный для изучения старения вид – птица альбатрос. Она доживает до 60 лет, но с каждым годом становится только сильнее. Ученые поставили опыт над альбатросом. Оказывается, что только самые старые особи способны долететь до Антарктиды, поскольку являются самыми сильными. Однажды альбатрос умирает, но никто не знает, почему. Природой так запрограммированно. Также можно вспомнить китов, у которых нет старения.
Надежда человека на вечную жизнь, связанную с земным существованием, получила воплощение в концепции трансгуманизма. Сейчас трансгуманизм – это некое философское научное движение, которое ищет способ, как выйти за рамки эволюции человека. Основными целями трансгуманизма являются: снижение смертности, увеличение продолжительности жизни и, как результат, достижение бессмертия. Именно эти поиски влияют на популяризацию среди людей таких технологий, как зачатие и выращивание ребенка в искусственной матке от оплодотворения до рождения, редактирование генома, чтобы исключить наличие генетических заболеваний и получить идеального ребенка, перенос интеллекта в другой носитель (условную флешку), внедрение чипов...
Технологии, обеспечивающие сохранение продолжительности жизни при сохранении ее качества, рассматриваются как вероятностное будущее. С христианской точки зрения ответ очевиден. Смерть вошла в мир после грехопадения человека. Спасение в христианстве есть избавление человека от последствий грехопадения. Отвергнув Бога, люди сами поставили себя в зависимость от искаженного грехом мира. Попытками преодолеть косметические последствия первородного нарушения своей природы человечество может добиться более губительных результатов на духовном уровне. Если всё это будет без Бога, отсутствие физического ограничения существования и сохранение греховных страстей возведут их в абсолют, что приведет к аду на земле. В условиях, когда человек становится бессмертным и умереть может только от внешних обстоятельств, он будет бояться всего окружающего. Тогда это будет не человек, а жалкое его подобие и прямое искажение намерения Божия о человеке («И сказал Бог: сотворим человека по образу Нашему по подобию Нашему, и да владычествуют они над рыбами морскими, и над птицами небесными, и над скотом, и над всею землею, и над всеми гадами, пресмыкающимися по земле» (Быт. 1. 26)). Вывод напрашивается один: бороться с богоданным свойством есть богоборчество.
Подготовлено по итогам участия в круглом столе
доцентом Сретенской духовной академии к.соц.н. Евгенией ЖУКОВСКОЙ
и аспирантом Сретенской духовной академии диаконом Александром ПЕТРЕЙКИНЫМ