Дискуссия о будущем искусственного интеллекта становится всё более острой — кого-то развитие нейросетей пугает, а кого-то завораживает новыми возможностями. В марте 2023 года тысячи ученых, предпринимателей и экспертов, включая Илона Маска, предложили ввести на полгода мораторий на развитие нейросетей.
Тема ИИ стала одной из главных и на финальном этапе ИТ-конференции «Импульс Т1» в Экспоцентре в Москве. Разработчики, инженеры и другие эксперты обсуждали технологии, которые зарождаются сегодня и изменят мир в будущем. Сотрудники Холдинга Т1 разделились на два лагеря — технооптимистов и их скептически настроенных оппонентов — и обсудили главные за и против в командных дебатах на тему замены людей искусственным интеллектом.
Кто несет ответственность за ИИ и его действия?
Скептики
Польза от алгоритмов есть, но надо рассматривать как потенциальную угрозу универсальный искусственный интеллект, способный осознавать себя как личность. Кроме того, кто будет нести ответственность за ошибки роботов? Юридическая система не регулирует ситуацию, в которой, например, самоуправляемые машины устроят аварию.
Скептики
Камеры на дорогах — это пример хорошо работающего алгоритма, но не ИИ. Нам нужно вернуться к разговору о более сложном искусственном интеллекте, который имитирует когнитивные функции человека и самостоятельно обучается. Именно он вызывает опасения у профессионалов, так как может войти в неуправляемое состояние, обрести свое «я», и человечество может не входить в его планы.
В каких сферах ИИ уже показал свои возможности?
Скептики
Но заменять человека в любом виде деятельности — неразумно и небезопасно. Недавно был случай в Бельгии, когда после нескольких недель общения с чат-ботом мужчина совершил самоубийство, и ему никто не смог помешать. Разработчик не понес за это ответственность, только выразил обеспокоенность и сообщил, что ввел дополнительные функции безопасности.
Скептики
И всё же мы должны установить четкую границу в развитии технологий. В 1930-е годы ученые наперебой совершали открытия в области ядерной физики, а в 1945 году урановый «Малыш» и плутониевый «Толстяк» унесли сотни тысяч жизней. Да, тогда бомбами управляли люди, а сейчас мы слишком доверяем искусственному интеллекту и забываем, что контроля над той или иной технологией можно лишиться на любом этапе. Сколько еще мы принесем жертв, прежде чем включим свой интеллект?
Можно ли позволить ИИ самому развиваться?
Скептики
Есть еще один аспект — у каждого из нас уникальный внутренний мир, переживания и эмоции. Это часть нашего сознания, которая блокирует деструктивное отношение к людям и миру, формирует мораль. Неизвестно, как будет вести себя ИИ, лишенный этих качеств.
Скептики
Речь и не идет о полной остановке прогресса. Но ИИ должен служить помощником, а не полной заменой человека, хотя нет сомнений, что технически он способен это сделать. Даже остановка развития нейросетей на полгода — это слишком мало. Нужно понять, какие риски перед нами, и принять серьезные решения вплоть до уничтожения дата-центров.
Может ли ИИ заменить человека?
Скептики
Нужно всё-таки просчитывать опасности наперед. Возьмем простой эксперимент с максимизатором скрепок: если поручить мощной системе ИИ произвести максимальное количество скрепок, машина будет стремиться превратить всю материю в скрепки или в машины для производства скрепок. Это казалось неправдоподобным, пока мы имели дело с обычными программами, которые «всего лишь» запускали ракеты в космос и обыгрывали величайших шахматистов. А на что будет способен искусственный интеллект с непонятными ценностями и способностью к самообучению, умением нанимать сотрудников, проходить капчи, заказывать пиццу и умело прикидываться человеком?
