Приветственным словом заседание научного семинара Международного института сравнительно-правовых исследований РУДН (МИСПИНТ РУДН) открыл Олег Александрович Ястребов — ректор РУДН, научный руководитель МИСПИНТ РУДН, Заслуженный юрист РФ, доктор юридических наук, профессор.
В своем выступлении Олег Александрович обратил внимание на недавнее создание МИСПИНТ РУДН и на большой интерес к научному семинару института со стороны слушателей:
На сегодняшний день зарегистрировалось 450 человек, из них 99 человек очно. Присутствует 4 страны.
Как сохранить самостоятельность человека в мире алгоритмических рекомендаций? Кто должен отвечать за решения, принятые с использованием искусственного интеллекта? Как меняются юридическая профессия, образование и представления о творчестве? Эти вопросы стали предметом второго заседания постоянно действующего научного семинара МИСПИНТ РУДН, объединившего философское и правовое осмысление новых технологий.
С докладом «Философские аспекты искусственного интеллекта» выступил академик РАН, доктор философских наук, профессор Владислав Александрович Лекторский. Доклад «Правовые системы и искусственный интеллект» представил доктор юридических наук, профессор Александр Евгеньевич Кирпичёв. Модератором встречи стал директор МИСПИНТ РУДН Пётр Игоревич Петкилев.
В семинаре приняли участие исследователи, преподаватели, практикующие юристы и молодые учёные. К обсуждению подключились представители университетов и научных организаций России, Беларуси, Казахстана, Молдовы и Кыргызстана. Междисциплинарный состав участников позволил рассмотреть искусственный интеллект одновременно как технологию, общественное явление и предмет правового регулирования.
Философские вопросы становятся практическими
Владислав Лекторский предложил рассматривать развитие искусственного интеллекта через вопросы о самом человеке: его возможностях, границах, свободе и будущем. В основу выступления легли три вопроса Иммануила Канта — что я могу знать, что я должен делать и на что я могу надеяться. В условиях цифровизации каждый из них приобретает конкретное практическое содержание.
Вопрос о знании связан с тем, чему человек может доверять, когда получает ответ от алгоритма. Вопрос о действии — с допустимостью передачи системе выбора, прежде совершавшегося самостоятельно. Вопрос о надежде — с оценкой обещаний технологического совершенствования человека, продления жизни и цифрового бессмертия.
Как подчеркнул докладчик, философские проблемы сегодня непосредственно связаны с решениями в области этики, права, образования и общественного устройства. Понимание того, что отличает человека от искусственной системы, влияет на выбор границ автоматизации и способов регулирования новых технологий.
Между полезной рекомендацией и утратой самостоятельности
Значительная часть первого доклада была посвящена цифровым данным о человеке. Сведения о действиях, предпочтениях и перемещениях позволяют формировать подробные модели поведения. Такие модели могут использоваться для помощи человеку, но одновременно создают возможности наблюдения, воздействия и управления.
Лекторский обратил внимание на различие между человеческой памятью и цифровым накоплением информации. Человек сохраняет в памяти прежде всего то, что имеет значение для его жизни; часть пережитого забывается или перестаёт осознаваться. Накопление цифровых следов подчиняется иной логике. Поэтому расширение объёма доступных сведений само по себе ещё не отвечает на вопрос о том, насколько их использование полезно и допустимо.
Для обсуждения самостоятельности докладчик предложил мысленный эксперимент: согласится ли человек жить в системе, которая принимает за него решения и обеспечивает благоприятный результат? По мнению Лекторского, возможность самому выбирать и отвечать за последствия своих поступков обладает самостоятельной ценностью. Даже риск ошибки не обязательно делает собственное решение менее предпочтительным, чем внешнее управление.
Этот аргумент связывает философскую постановку проблемы с защитой персональных данных и регулированием рекомендательных систем. В центре обсуждения оказывается человек, который должен сохранять возможность осознанно определять своё поведение.
Предсказание, объяснение и доверие к ИИ
Рассматривая применение искусственного интеллекта в познании, Лекторский отметил его возможности по обработке больших массивов информации. Одновременно он подчеркнул различие между выявлением корреляций, установлением причинных связей и пониманием полученного результата.
В научном исследовании предсказание традиционно связывается с теорией и объяснением. Использование ИИ ставит перед исследователем ситуацию, в которой прогноз может оказаться полезным, хотя основания его получения остаются для пользователя непрозрачными. Отсюда возникает проблема доверия: в каких обстоятельствах такой результат допустимо использовать и какая проверка необходима?
Докладчик связал ответ с последствиями возможной ошибки. В частности, при постановке медицинского диагноза высокая доля правильных ответов системы не устраняет риска для конкретного пациента. Доверие к инструменту должно сочетаться с критическим мышлением и профессиональной оценкой.
Та же проблема возникает в правосудии. Искусственный интеллект способен помогать в анализе значительного объёма материалов, однако рекомендация системы и решение судьи имеют разный статус. Если окончательный выбор передаётся машине, вопрос о том, кто отвечает за ошибку и её последствия, становится особенно острым.
Цифровое бессмертие, свобода и ответственность
Отдельный блок выступления был посвящён трансгуманизму и гипотезе цифрового бессмертия — переноса памяти и образа собственного «я» на цифровой носитель. Лекторский критически оценил как осуществимость такой перспективы, так и представление о её безусловной привлекательности.
В его рассуждении конечность человеческой жизни связана с ценностями мужества, самоотверженности, сострадания и ответственности. Поэтому обещание неограниченного существования само по себе не гарантирует сохранения личности и смысла жизни. Не менее существенен вопрос о том, кто будет определять условия такого существования и сможет ли человек оставаться самостоятельным.
Докладчик также выступил против представления о вытеснении человека машинами как о неизбежном результате эволюции. Ожидания и прогнозы способны влиять на человеческие действия, поэтому принятие определённого сценария за неизбежность уже становится фактором его осуществления. Будущее технологий, по этой логике, требует осмысленного выбора.
Свободу выбора Лекторский связал с ответственностью за поступки. Эта связь, по его мнению, должна учитываться при определении роли искусственного интеллекта в профессиональной деятельности. В образовании зависимость от готовых ответов создаёт риск утраты навыка самостоятельного размышления, в медицине — ослабления клинического мышления, а в коммуникации распространение подделок голоса и изображения осложняет проверку подлинности сообщений.
Завершая доклад, академик подчеркнул значение этического и правового регулирования, которое позволяло бы использовать возможности ИИ, сохраняя человеческую самостоятельность и ответственность.
Дискуссия о контроле, творчестве и субъектности
Вопросы участников развили основные темы первого выступления. Обсуждая опасность утраты контроля над искусственным интеллектом, Лекторский указал на необходимость правовых ограничений, открытого разговора о рисках и участия научного сообщества. Среди конкретных мер он назвал раскрытие использования ИИ при подготовке текстов.
Вопрос о том, способен ли искусственный интеллект заменить философа или создать принципиально новое направление мысли, привёл к обсуждению машинного творчества. По позиции докладчика, комбинирование существующего материала следует отличать от появления нового способа понимания мира. Он пояснил эту мысль сопоставлением стилизации под известного композитора с созданием нового музыкального языка, а прогнозирования по данным — с построением научной теории.
Обсуждение виртуальной реальности было сосредоточено на её связи с материальным миром. Лекторский подчеркнул, что цифровая информация предполагает существование носителя и условий передачи. Он не согласился с идеей полного исчезновения различия между реальным и виртуальным, одновременно отметив риски чрезмерного погружения человека в виртуальную среду.
Участники также предложили рассмотреть гипотезу незаметного перехода к цифровому существованию, при котором ни сам человек, ни окружающие не фиксируют изменения. В ответ докладчик отметил, что незаметность перехода не решает вопросов свободы и знания человеком самого себя. При этом продление активной и полноценной жизни он обозначил как важную научную задачу.
Отдельный вопрос касался субъектности ИИ. Лекторский связал её с сознанием, самостоятельным целеполаганием и ответственностью и высказал позицию, что обсуждаемые современные системы такими свойствами не обладают. Возможность возникновения машинного сознания в будущем он отнёс к нерешённым проблемам, подчеркнув, что сама природа сознания продолжает оставаться фундаментальным предметом исследования.
Правовые системы перед скоростью технологических изменений
Александр Кирпичёв продолжил обсуждение с точки зрения юридической науки и практики. В начале выступления он обозначил пределы анализа: предметом рассмотрения является известный уровень технологии, прежде всего генеративный искусственный интеллект. Пользовательский опыт взаимодействия с сегодняшними моделями не даёт достаточных оснований для уверенных выводов обо всех будущих системах.
Центральной темой доклада стала скорость изменений. Правовые системы сталкиваются с технологиями, которые уже вошли в повседневную и профессиональную деятельность, хотя их последствия ещё не получили достаточного осмысления. Привычный цикл адаптации — принятие норм, накопление судебной практики и развитие толкования — оказывается слишком длительным по отношению к темпу технологического развития.
По мысли Кирпичёва, эта ситуация требует исследовать реакцию всей правовой системы: законодательства, судов, юридической доктрины, профессионального сообщества и образования. Регулирование не исчерпывается появлением отдельного нормативного акта.
Раскрытие использования ИИ и ответственность за результат
На примере подготовки судебных документов и позиций сторон Кирпичёв сопоставил два подхода к регулированию. Первый предполагает обязанность сообщать, где и для чего использовался искусственный интеллект. Второй делает акцент на ответственности профессионала за содержание подготовленного материала при сохранении возможности пользоваться технологией.
Докладчик обратил внимание на трудности первого подхода: полноту и достоверность декларации об использовании ИИ не всегда можно проверить. Во втором подходе ключевым становится качество итогового документа. Юрист должен проверить источники, судебные ссылки и обоснованность выводов независимо от способа подготовки первоначального текста.
В этой связи обсуждалась проблема вымышленных судебных решений и иных недостоверных ссылок в материалах, созданных генеративными моделями. Кирпичёв предложил уделить особое внимание ответственности за непроверенный результат: применение инструмента не должно освобождать профессионала от оценки того, что он представляет суду или доверителю.
Почему знания законов недостаточно
Другой существенный тезис выступления касался сложности самой правовой системы. За текстом нормы стоят судебная практика, способы толкования, профессиональные представления и особенности работы институтов. Поэтому привычного противопоставления континентального и общего права недостаточно для описания современной юридической действительности.
Кирпичёв отметил нехватку описательных моделей, которые позволяли бы полно представить, как фактически действует право. Из этого следует и ограничение для технологических решений: загрузка кодексов и иных нормативных текстов сама по себе ещё не обеспечивает правильного понимания применимого права.
Для юридического анализа необходимо учитывать контекст применения нормы, её связь с другими положениями и сложившейся практикой. Именно эти обстоятельства усложняют как автоматизацию, так и профессиональную проверку ответов ИИ.
Запросы к моделям и данные как предмет правового анализа
Кирпичёв рассмотрел юридическое значение действий, которые прежде могли восприниматься как технические. Формулируя запрос к модели, пользователь направляет её поведение и стремится получить определённый результат. Это ставит вопросы о правовой оценке самого взаимодействия человека с системой.
Отдельное внимание было уделено данным для обучения моделей. Пользователь цифрового сервиса получает услугу и одновременно может создавать материал, представляющий ценность для разработчика. Обсуждая дело, связанное с сервисом виртуальных персонажей, докладчик выделил проблемы ответственности компаний и дальнейшего использования пользовательской переписки.
Аналогичные вопросы возникают в отношении данных, формируемых подключёнными устройствами. По мысли Кирпичёва, договоры об их передаче требуют самостоятельного осмысления: к таким отношениям не всегда достаточно применить привычные представления о продаже информации или распоряжении интеллектуальной собственностью.
Риск переноса чужого правового контекста
Одним из центральных вопросов второго доклада стало влияние обучающих материалов на юридические ответы моделей. Кирпичёв обратил внимание на риск переноса культурных и правовых предпосылок одной системы в ситуацию, относящуюся к другой юрисдикции.
Этот риск был проиллюстрирован примерами запросов о религиозных организациях и текстами, в которых смешивались особенности разных судебных систем. Убедительно сформулированный ответ может содержать ошибку в понимании компетенции суда, характера затронутых прав или исходных условий правовой оценки.
Таким образом, проверка юридического материала, подготовленного с помощью ИИ, требует внимания к нескольким уровням: достоверности сведений, существованию приведённых источников, применимой юрисдикции и предпосылкам рассуждения. Формальная связность текста не заменяет такой проверки.
Как меняется подготовка юристов
В заключительной части доклада Кирпичёв обратился к юридическому образованию. Он выделил риск ослабления навыка субсумпции — подведения обстоятельств конкретного дела под абстрактную правовую норму. Именно эта операция составляет важную часть профессиональной работы юриста.
Доступность готового ответа меняет условия обучения. Студент может получить решение, не пройдя самостоятельного поиска нормы, её толкования и соотнесения с фактами. По мнению докладчика, такая ситуация требует переосмысления учебных заданий и способов оценки знаний.
В ответах на вопросы Кирпичёв рассказал о заданиях, контекст которых способен направить модель к неверной юрисдикции. Он также описал сочетание занятий с разрешённым использованием ИИ и занятий без гаджетов. Основная задача таких подходов — сохранить самостоятельную интеллектуальную работу учащегося.
При этом прогноз докладчика не сводился к утрате юридической профессии. Он выразил ожидание, что правовые системы адаптируются, хотя переход будет сопровождаться изменением востребованных навыков и трудностями для части специалистов.
Творческий вклад человека и правовая охрана
Вопрос об интеллектуальных правах связал оба доклада и получил развитие в заключительной дискуссии. Кирпичёв допустил, что отдельные содержательно сложные запросы к модели могут включать творческий вклад. Этот тезис не был распространён на любой промпт или любой результат генерации.
Обсуждая возможную охрану произведений, созданных с помощью ИИ, докладчик предложил обращать внимание на степень участия человека: наличие собственного замысла, последовательность содержательных запросов и управление результатом. Он высказал мнение, что длительная работа с моделью ради воплощения задуманного образа может заслуживать правовой охраны.
Вместе с тем на практике остаются трудности установления и оценки такого вклада. Внешний вид результата не всегда позволяет понять, какую роль сыграли человек и инструмент. Дискуссия обозначила необходимость дальнейшего поиска критериев, не предлагая единого решения для всех случаев.
Философский и юридический ракурсы здесь дополнили друг друга. Лекторский рассматривал вопрос о самостоятельном творчестве машины и возникновении принципиально новых идей. Кирпичёв сосредоточился на вкладе человека, использующего генеративную систему для реализации собственного замысла.
Пределы регулирования и право на взаимодействие с человеком
Участники спросили о возможности установить универсальные ограничения применения ИИ и о регулировании этой сферы в России. В ответ Кирпичёв подчеркнул значение сочетания специальных норм, рамочных и стратегических документов и общих принципов права, в том числе в области интеллектуальных прав. Правовое воздействие, по его позиции, не всегда может быть сведено к простой последовательности формальных предписаний.
Заключительный вопрос касался права гражданина в одностороннем порядке отказаться от применения к нему искусственного интеллекта. Докладчик оценил всеобщий отказ как практически трудноосуществимый из-за широкого распространения технологии в повседневных сервисах.
Более реалистичные направления защиты он связал с контролем человека над использованием его данных, правом знать о взаимодействии с ИИ и возможностью вступить в диалог с человеком. Эти предложения вернули обсуждение к исходной теме семинара — сохранению самостоятельности личности в условиях технологических изменений.
Направления дальнейшей научной работы
Семинар показал взаимосвязь философских вопросов и конкретных задач юридической науки. Представления о свободе, сознании и творчестве влияют на то, как определяются ответственность, допустимые пределы автоматизации и критерии правовой охраны. В свою очередь, судебная и образовательная практика ставит перед философией новые вопросы о роли человека.
В ходе встречи были обозначены направления дальнейшего исследования: граница между рекомендацией системы и решением профессионала; соотношение раскрытия использования ИИ и ответственности за результат; выявление чужих правовых предпосылок в ответах моделей; сохранение самостоятельного юридического мышления; оценка творческого вклада человека; защита данных и прозрачность автоматизированного взаимодействия.
Участникам также представили ежеквартальный дайджест МИСПИНТ, посвящённый регулированию новых технологий в разных странах, судебной практике и научным подходам. Завершая встречу, модератор подчеркнул значение вопросов, которые становятся основанием для дальнейшего осмысления и поиска правовых решений. Постоянно действующий семинар продолжает работу как площадка для междисциплинарного обсуждения этих проблем.