Искусственный интеллект в авторском и патентном праве: объекты, субъектный состав правоотношений, сроки правовой охраны
аспирант кафедры интеллектуальных прав
Московского государственного юридического университета
имени О.Е. Кутафина (МГЮА)
"Журнал Суда по интеллектуальным правам", № 2 (36), июнь 2022 г., с. 90-98
Постановка проблемы и определение круга объектов
Появление и активное развитие искусственного интеллекта породило многочисленные научные дискуссии по поводу определения его места и роли в системе общественных отношений, регулирования правовых отношений, возникающих в сфере создания и применения искусственного интеллекта и связанных с ним объектов.
Палитра позиций ученых достаточно широка: от предложений признать искусственный интеллект новым объектом права или даже самостоятельным субъектом права с наделением определенными гражданскими и политическими правами, в связи с чем подчеркивается необходимость в силу специфичности данного объекта (субъекта) разработать качественно новое sui generis правовое регулирование, до утверждений о том, что все необходимые категории и правовые режимы уже имеются в существующем законодательстве, поэтому необходимость в дополнительном правовом регулировании искусственного интеллекта отсутствует.
В данной работе сознательно не затрагивается вопрос о правосубъектности искусственного интеллекта, поскольку, по мнению автора, на данном этапе развития технологий он носит скорее теоретический характер. Основной аргумент, выдвигаемый в пользу данного тезиса, – наличие у искусственного интеллекта когнитивных способностей, придающих ему сходство с человеком, – способность самообучаться, способность решать поставленные задачи не по заранее заданному алгоритму и т.д. Вместе с тем отсутствие на настоящем уровне развития искусственного интеллекта у него таких ключевых признаков субъекта права, как «воля», «волеизъявление», «интерес», не позволяет сделать вывод о возможности определения его правового статуса в качестве самостоятельного субъекта права. Кроме того, вопрос о наделении искусственного интеллекта статусом автономного субъекта лежит в предметной области философии и этики и должен был первоначально быть осмыслен именно с этих позиций, и только затем получить дальнейшее развитие в рамках юридической науки и правового регулирования.
Имеющей практическое значение в настоящее время представляется проблема определения не правового статуса искусственного интеллекта в качестве субъекта права, а определения правового режима данного объекта.
Для решения поставленной задачи прежде всего следует ответить на вопрос, является ли искусственный интеллект единым объектом либо это собирательное понятие, которым принято обозначать некий круг объектов, относимых к искусственному интеллекту.
Обратимся к существующим в Российской Федерации нормативно-правовым актам: Федеральный закон от 24 апреля 2020 г. № 123-ФЗ «О проведении эксперимента по установлению специального регулирования в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта в субъекте Российской Федерации - городе федерального значения Москве и внесении изменений в статьи 6 и 10 Федерального закона «О персональных данных»1 (далее – Закон № 123-ФЗ) и Указ Президента Российской Федерации от 10 октября 2019 г. № 490 «О развитии искусственного интеллекта в Российской Федерации», которым утверждена Национальная стратегия развития искусственного интеллекта на период до 2030 г.2 (далее - Указ Президента РФ № 490), содержат следующие понятия:
-
искусственный интеллект - комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые, как минимум, с результатами интеллектуальной деятельности человека. Комплекс технологических решений включает в себя информационно-коммуникационную инфраструктуру, программное обеспечение (в том числе в котором используются методы машинного обучения), процессы и сервисы по обработке данных и поиску решений;
-
технологии искусственного интеллекта - технологии, основанные на использовании искусственного интеллекта, включая компьютерное зрение, обработку естественного языка, распознавание и синтез речи, интеллектуальную поддержку принятия решений и перспективные методы искусственного интеллекта;
-
перспективные методы искусственного интеллекта - методы, направленные на создание принципиально новой научно-технической продукции, в том числе в целях разработки универсального (сильного) искусственного интеллекта (автономное решение различных задач, автоматический дизайн физических объектов, автоматическое машинное обучение, алгоритмы решения задач на основе данных с частичной разметкой и (или) незначительных объемов данных, обработка информации на основе новых типов вычислительных систем, интерпретируемая обработка данных и другие методы);
-
технологическое решение - технология, программа для электронно-вычислительных машин (программа для ЭВМ), база данных или их совокупность, а также сведения о наиболее эффективных способах их использования.
Итак, законодатель разграничивает понятия «искусственный интеллект» и «технологии искусственного интеллекта», часто отождествляемые в дискуссиях и литературе. Если обратиться к терминологии патентного права, можно сказать, что данные понятия соотносятся как «изобретение» и «зависимое изобретение».
Помимо смешения указанных выше понятий в литературе часто отождествляют искусственный интеллект и материальный объект (устройство), в котором воплощен, - «робот», «робототехническое устройство» [1, с. 41].
Это неудивительно: как отмечает Р. Кало, «немногие сложные технологии имеют единое, стабильное, неоспоримое определение. Роботы не являются исключением. Однако существует определенный консенсус в отношении идеи о том, что роботы - это механические объекты, которые воспринимают мир, обрабатывают то, что они чувствуют, и в свою очередь воздействуют на мир. В этом случае польза так называемой парадигмы «разум-мышление-действие» заключается в том, чтобы отличать роботов от других технологий. Ноутбук с камерой может в какой-то степени воспринимать и обрабатывать внешний мир. Но ноутбук не воздействует на мир. Автомобиль с дистанционным управлением с помощью камеры воспринимает и физически воздействует на окружающую среду, но в части обработки информации зависит от оператора-человека. Идея робота или роботизированной системы заключается в том, что технология сочетает в себе все три составляющие» [5, с. 529-530].
Безусловно, автор имеет в виду робота (робототехническое устройство), оснащенное искусственным интеллектом, а не условного «робота-пылесоса», дать определение которому значительно проще, например: «Машина, предназначенная для автоматического выполнения одного или нескольких заданий со скоростью и точностью» [8] или «устройство, предназначенное для осуществления различного рода механических операций, которое действует по заранее заложенной программе»3.
Таким образом, не всякий робот оснащен искусственным интеллектом (технологией искусственного интеллекта), и не всякий искусственный интеллект обязательно воплощается в робототехническом устройстве, следует это учитывать во избежание путаницы в определении правовой природы и режимов данных объектов.
Соответственно, в круг объектов, включаемых в понятие «искусственного интеллекта», входит и его материальное воплощение в форме робота (робототехнического устройства). Пользуясь терминологией права интеллектуальной собственности, данные понятия можно соотнести как «результат интеллектуальной деятельности» и «материальный носитель (вещь), в котором выражен результат интеллектуальной деятельности» [1, с. 42].
Возвращаясь к определению искусственного интеллекта, предложенному в данных нормативных актах, обратим внимание на словосочетание «результаты, сопоставимые, как минимум, с результатами интеллектуальной деятельности человека». Данные объекты не смешиваются в литературе с самим искусственным интеллектом, но также требуют определения правового режима, в частности, определения круга таких объектов, возможности распространения на них режима интеллектуальных прав, установления правообладателя, способов использования, сроков правовой охраны и др. В Указе Президента РФ № 490 упоминается один из таких результатов в определении понятия «перспективные методы искусственного интеллекта» - автоматический дизайн физических объектов, однако, круг их гораздо шире: от музыкальных и литературных произведений до новых лекарственных средств.
Изложенное позволяет сделать вывод о том, что в перечень объектов в сфере искусственного интеллекта входят:
-
искусственный интеллект;
-
технологии искусственного интеллекта;
-
устройства, в которых выражен искусственный интеллект;
-
результаты деятельности искусственного интеллекта.
Из данного перечня объектами, имеющими достаточно определенный правовой режим, на наш взгляд, выделяются устройства, в которых выражен искусственный интеллект, - в соответствии с существующей классификацией объектов гражданских прав они относятся к вещам, и на них распространяется вещно-правовой режим.
Что касается остальных объектов, их правовой режим на законодательном уровне не определен и единство мнений ученых по данному вопросу отсутствует, однако актуальность вопроса о разработке теоретической модели регулирования и дальнейшего ее воплощения в нормативно-правовых актах возрастает по мере научно-технического развития общества.
Искусственный интеллект и технологии искусственного интеллекта как объекты интеллектуальных прав
Искусственный интеллект и технологии искусственного интеллекта в законодательстве Российской Федерации и законодательстве иностранных государств не поименованы в качестве результатов интеллектуальной деятельности как таковые.
Защита возникающих прав на их отдельные компоненты реализуется посредством норм авторского права, объектами которого являются программы для ЭВМ, а также посредством патентования технических решений в области искусственного интеллекта в качестве изобретений.
Как указано в докладе Всемирной организации интеллектуальной собственности 2019 г. из серии «Тенденции развития технологии», искусственный интеллект [2], с момента появления науки об искусственном интеллекте в 1950-е гг. изобретатели подали патентные заявки почти на 340 тысяч изобретений в этой области. Объемы патентования изобретений в области искусственного интеллекта быстро возрастают: патенты более чем на половину всех изобретений в данной области опубликованы после 2013 г. Среди методов искусственного интеллекта, раскрываемых в патентах, доминирует машинное обучение: ему посвящено более трети всех выявленных изобретений (134 777 патентных документов). Среди функциональных приложений искусственного интеллекта самыми популярными являются технологии компьютерного зрения, включая системы распознавания образов. Разработки в области компьютерного зрения упоминаются в 49% всех патентов на изобретения в области искусственного интеллекта (167 038 патентных документов). Наиболее высокие темпы роста числа патентных заявок в период с 2013 г. по 2016 г. среди функциональных приложений искусственного интеллекта наблюдались в сегменте технологий для робототехники и в разработке методов управления.
Вместе с тем, если рассматривать искусственный интеллект в качестве комплекса технологических решений, как это предложено в формулировке Закона №-123 ФЗ, возникает вопрос о фрагментарности защиты данного объекта в рамках авторского и патентного права.
В качестве решения данной проблемы Л.Ю. Василевская, ссылаясь на указанное определение искусственного интеллекта, предлагает расширить установленный в ст. 1240 Гражданского кодекса Российской Федерации4 (далее – ГК РФ) перечень сложных объектов интеллектуальных прав, включив в него искусственный интеллект, структурными элементами которого выступают: программный продукт (программа для ЭВМ); программное обеспечение компьютера как совокупность программ; искусственные нейронные сети (программы для ЭВМ); алгоритмы, программное обеспечение в качестве ноу-хау; технические решения как изобретения; базы данных [1, с. 91-92].
Существует и иной подход к соединению нескольких компонентов искусственного интеллекта в едином объекте правовой охраны.
Так, в 2017 г. Китай впервые внес поправки в свои Руководящие принципы проведения патентных экспертиз (далее - Руководящие принципы) с целью обеспечить патентоспособность бизнес-методов, реализованных с помощью программного обеспечения, что позволило отграничить изобретения, реализованные в компьютерных программах, от самих компьютерных программ. Поправкой к Руководящим принципам 2019 г. дополнительно установлено, что если заявка на патент, связанная с искусственным интеллектом, содержит как технические, так и нетехнические признаки, включая алгоритмы и бизнес-методы, она не будет отклонена напрямую из-за нетехнических частей [7, с. 5].
Данный подход позволяет предоставить защиту комплексным решениям в области искусственного интеллекта, однако размывает при этом понятие объекта патентного права, что также является не вполне оправданным. Включение в формулу признаков, не относящихся к техническому решению, ведет к утрате изобретением его существа как такового. Напротив, определение и технологии искусственного интеллекта в качестве сложного объекта позволит сохранить существенные черты и собственный правовой режим входящих в его состав объектов и при этом обеспечит правовую защиту единого комплекса таких объектов в качестве самостоятельного результата интеллектуальной деятельности.
Однако реализация данного подхода требует согласования с концепцией сложного объекта интеллектуальных прав в российском праве.
Действующее законодательство не содержит легального определения понятия сложного объекта, вместе с тем законодатель в ст. 1240 ГК РФ в качестве сложных перечисляет следующие объекты: аудиовизуальное произведение, театрально-зрелищное представление, мультимедийный продукт, базы данных.
В пункте 17 Обзора судебной практики по делам, связанным с разрешением споров о защите интеллектуальных прав, утвержденного Президиумом Верховного Суда Российской Федерации 23 сентября 2015 г.5, отмечено, что ст. 1240 ГК РФ называет один признак сложного объекта: он включает в себя несколько охраняемых результатов интеллектуальной деятельности, однако по смыслу закона должен представлять собой единое целое завершенное произведение, в котором невозможность использования хотя бы одной составляющей его части приведет к утрате авторского замысла создателя сложного объекта, в результате чего нарушится целостность результата интеллектуальной деятельности и его дальнейшее применение станет невозможным.
Таким образом, закрепленный в ст. 1240 ГК РФ перечень сложных объектов включает в себя объекты, относимые к сфере авторских и смежных прав, в то время как искусственный интеллект в определении Закона № 123-ФЗ представляет собой комплекс технологический решений, которые могут быть отнесены к сферам авторского права (программы для ЭВМ, базы данных), смежных прав (базы данных), патентного права (изобретения), а также секретов производства (ноу-хау), в свою очередь технологии искусственного интеллекта включают в себя искусственный интеллект как комплекс технологический решений и дополнительные технические решения, относимые в большей степени к области патентного права. В таком случае возникает вопрос о предполагаемом сроке правовой охраны искусственного интеллекта и технологии искусственного интеллекта как сложных объектов, включающих в себя разнородные результаты интеллектуальной деятельности, имеющие различные сроки правовой охраны, определяемые различным образом.
Результаты деятельности искусственного интеллекта как объекты интеллектуальных прав
Рассматривая возможные правовые режимы результатов деятельности искусственного интеллекта, сопоставимых с результатами интеллектуальной деятельности, следует провести их разграничение по аналогии с охраняемыми объектами интеллектуальных прав:
-
на результаты деятельности искусственного интеллекта, сопоставимые с объектами авторского права;
-
результаты деятельности искусственного интеллекта, сопоставимые с объектами патентных прав.
Данное разделение имеет значение для исследования природы таких объектов по аналогии с их «прототипами» и выбора возможных вариантов их правовой охраны.
Результаты деятельности искусственного интеллекта, сопоставимые с объектами авторского права
В юрисдикциях нескольких стран общего права – Новой Зеландии, Соединенном Королевстве, Ирландии, Гонконге, Южной Африке и Индии – установлен специальный режим для произведений, созданных программами для ЭВМ, при этом авторство на такие работы принадлежит лицу, которым приняты меры, необходимые для создания произведения; или лицу, которое является инициатором создания произведение. Срок охраны таких произведений исчисляется с даты их производства (например, в Великобритании он установлен в 50 лет с даты создания произведения).
Как отмечает А. Рамальо, правило авторства на созданное компьютером произведение – это юридическая фикция, которая отступает от общего правила об определении в качестве автора того, кто создал произведение. Таким образом, связь между авторством и условиями охраны возрождается, поскольку требование оригинальности должно быть самостоятельным и независимым от авторства, не связанным с лицом, ответственным за мероприятия (поскольку оно является автором только в силу юридической фикции и не имеет прямого отношения к произведению), но и не связанным с компьютером [9, с. 10-11]. Как альтернативы данному режиму автор предлагает режим объектов смежных прав, имеющих коммерческий или технический характер; либо режим общественного достояния в сочетании со смежным правом публикатора.
Исследуя вопрос о применимости первого подхода в российском праве, в качестве ближайшего аналога можно рассмотреть такой объект смежных прав, как фонограмму. В соответствии с положениями ст. 1322, 1324 ГК РФ исключительное право на фонограмму возникает у лица, взявшего на себя инициативу и ответственность за первую запись звуков исполнения или других звуков либо отображений этих звуков. При этом личность того, кто непосредственно произвел такую запись, не имеет значения, и вопрос о наличии у него каких-либо прав на созданный объект не возникает. Кроме того, не ставится вопрос и о предоставлении исключительного права на фонограмму тому лицу, которому принадлежит исключительное право на звукозаписывающее оборудование, на котором произведена запись, и лицу, являющемуся собственником данного оборудования. Стоит также отметить, что не предъявляется требование о наличии творческого вклада в создание фонограммы кого-либо из вышеперечисленных лиц.
Определение правообладателя фонограммы вполне коррелируется с упомянутым выше определением инициатора создания компьютерно-сгенерированных произведений, а правовой режим фонограммы, по нашему мнению, вполне применим для таких произведений. В частности, положения о сроке действия исключительного права на фонограмму, способах ее использования и положения ст. 1326 ГК РФ, определяющие правила использования фонограммы, опубликованной в коммерческих целях, могут послужить основой для разработки положений о правовой охране произведений, созданных искусственным интеллектом.
Применимые аналоги правовых режимов рассматриваемых объектов можно найти и в патентном праве. Так, созданный искусственным интеллектом дизайн можно рассматривать как аналог промышленного образца – по сути, это объект авторского права (произведение дизайна или изобразительного искусства), созданный и используемый в коммерческих целях. Решение внешнего вида изделия, созданное человеком, может иметь двойную правовую охрану: как объект авторского права и как промышленный образец. В свою очередь, если такое решение разработано искусственным интеллектом, может быть избран, как единственно возможный, вариант патентно-правовой охраны.
Результаты деятельности искусственного интеллекта, сопоставимые с объектами патентного права
Рассматривая вопрос о возможности патентования изобретений, полезных моделей, промышленных образцов, созданных искусственным интеллектом, следует обратить внимание на специфику субъектного состава в патентных отношениях.
Патентное право значительно в большей степени, чем авторское право, характеризуется несовпадением автора и правообладателя (патентообладателя) в одном лице. Так, как отмечает Е.В. Домовская, ссылаясь на данные перечней Федеральной службы по интеллектуальной собственности «100 лучших изобретений России», наблюдается ежегодный рост доли патентов, выданных юридическим лицам [3, с. 1]. В литературе и различных статистических источниках неоднократно отмечается, что более 80 % изобретений во всем мире являются служебными. Перечень личных неимущественных прав авторов в патентном праве значительно у́же такового в авторском праве, при этом в зарубежной научной литературе ведутся споры о необходимости выделения личных неимущественных применительно к объектам промышленной собственности [4, с. 381], поводом для которых является ст. 9.1 Соглашения по торговым аспектам прав интеллектуальной собственности (ТРИПС) от 15 апреля 1994 г.,6 прямо исключающая из сферы регулирования отношения, касающиеся личных неимущественных прав авторов объектов промышленной собственности. Наконец, сроки действия исключительных прав на патентоохраняемые объекты не связаны с продолжительностью жизни авторов данных результатов интеллектуальной деятельности.
Изложенное дает основания полагать, что патентно-правовой режим охраны может быть распространен на результаты деятельности искусственного интеллекта, сопоставимые с объектами патентного права, при сохранении в качестве фигуры патентообладателя физического, юридического лица или публично-правового образования.
Подобный подход нашел применение в отдельных иностранных государствах.
30 июля 2021 г. Федеральным судом Австралии было принято первое в мире решение о признании искусственного интеллекта автором изобретения. Инженер Стивен Талер, специалист по искусственному интеллекту, заявил, что созданный им искусственный интеллект под названием DABUS (Device for the Autonomous Bootstrapping of Unified Sentience) автономно генерирует патентоспособные изобретения, и подал заявки на выдачу патентов на созданные DABUS изобретения (аварийный маяк и контейнер для еды) в патентное ведомство Великобритании в рамках Договора о патентной кооперации (РСТ)7, указав в графе «автор изобретения» на искусственный интеллект. Получив решения об отказе в выдаче патентов, С. Талер обжаловал их в судебном порядке, однако это не принесло успеха ни в США, ни в Великобритании.
В отличие от США и Великобритании, в Австралии нет законодательного определения понятия «изобретатель». Категории лиц, которым может быть выдан патент, являются следующими: изобретатель; лицо, «имеющее право на присвоение патента»; лицо, которое «получает право собственности» на изобретение от изобретателя; законный представитель умершего лица. С. Талер утверждал, что он может быть включен в категорию лиц, «получающих право собственности» от изобретателя [6, с. 3-6].
Федеральный суд Австралии, всесторонне проанализировав процесс создания спорных изобретений, значение и грамматическую природу слова «изобретатель» в английском языке и иные значимые обстоятельства, стал на сторону С. Талера, указав в обоснование принятого решения следующее8:
«В настоящее время доктор Талер является владельцем авторских прав на исходный код DABUS. Он также является владельцем, ответственным лицом и оператором компьютера, на котором работает DABUS. Но доктор Талер не является изобретателем предполагаемого изобретения, являющегося предметом заявки. Изобретатель указан в заявке как “DABUS. Изобретение было создано искусственным интеллектом автономно”. DABUS не является физическим или юридическим лицом. DABUS — это система искусственного интеллекта, включающая искусственные нейронные сети…
-
система искусственного интеллекта может быть изобретателем для целей Закона9. Во-первых, изобретатель — это отглагольное существительное; действующим может быть человек или вещь, которая изобретает. Во-вторых, владение отражает реальность с точки зрения многих других патентоспособных изобретений, о которых нельзя разумно сказать, что человек является изобретателем. В-третьих, ничто в Законе не требует обратного вывода…
-
только физическое или юридическое лицо может быть владельцем, управляющим или патентообладателем. Это в полной мере относится и к изобретателю, который является человеком. Но было бы заблуждением утверждать, что изобретателем может быть только человек. Изобретателем может быть система искусственного интеллекта, но она не может быть владельцем, управляющим или патентообладателем патентоспособного изобретения».
Приведенный подход свидетельствует о том, что результаты деятельности искусственного интеллекта, сопоставимые с объектами патентных прав, могут найти свое регулирование в существующем режиме патентно-правовой охраны.
В качестве вывода следует отметить, что правовое регулирование отношений, возникающих в сфере искусственного интеллекта, находится на начальном этапе своего развития, однако актуальность данной проблемы возрастает, в связи с чем всестороннее рассмотрение существующих подходов к определению субъектного состава данных отношений, объектов, относимых к искусственному интеллекту, возможных вариантов правового режима данных объектов способствует формированию целостной концепции нормативного регулирования.
1 Федеральный закон от 24 апреля 2020 г. № 123-ФЗ «О проведении эксперимента по установлению специального регулирования в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта в субъекте Российской Федерации - городе федерального значения Москве и внесении изменений в статьи 6 и 10 Федерального закона «О персональных данных» // Собрание законодательства РФ, 27 апреля 2020 г., № 17, Ст. 2701.
2 Указ Президента Российской Федерации от 10 октября 2019 г. № 490 «О развитии искусственного интеллекта в Российской Федерации» // Собрание законодательства РФ, 14 октября 2019 г., № 41. Ст. 5700.
3 URL: https://ru.wikipedia.org/wiki/Робот.
4 Гражданский кодекс Российской Федерации (ч. 4) от 18 декабря 2006 г. № 230-ФЗ (ред. от 11 июня 2021 г.) // Собрание законодательства РФ, 25 декабря 2006 г., № 52 (1 ч.). Ст. 5496.
5 Обзор судебной практики по делам, связанным с разрешением споров о защите интеллектуальных прав (утв. Президиумом Верховного Суда Российской Федерации 23 сентября 2015 г.) // Бюллетень Верховного Суда РФ, № 11, ноябрь, 2015.
6 Соглашение по торговым аспектам прав интеллектуальной собственности (ТРИПС/TRIPS) [рус., англ.] (Заключено в г. Марракеше 15 апреля 1994 г.) (с изм. от 06 декабря 2005 г.) // Собрание законодательства РФ. 10 сентября 2012 г. N 37 (приложение, ч. VI). С. 2818 - 2849 (на русском языке); Собрание законодательства РФ. 10 сентября 2012 г. № 37 (приложение, ч. V). С. 2336 - 2369; International Investment Instruments: A Compendium. Volume I.- New York and Geneva: United Nations, 1996. P. 337 - 371 (на английском языке).
7 Договор о патентной кооперации (РСТ), подписанный в Вашингтоне 19 июня 1970 г., пересмотренный 28 сентября 1979 г., измененный 03 февраля 1984 г. и 03 октября 2001 г. и Инструкция к РСТ (текст, имеющий силу с 01 июля 2014 г.) [Текст]. - Женева: ВОИС, 2014. - 258 с.
8 Thaler v Commissioner of Patents [2021] FCA 879, Federal Court (Australia). URL: http://www6.austlii.edu.au/cgi-bin/viewdoc/au/cases/cth/FCA/2021/879.html
9 Patents Act 1990. № 83, 1990. URL: https://www.legislation.gov.au/Details/C2019C00088
Список литературы
1. Василевская Л.Ю. Цифровизация гражданского оборота: правовая характеристика «искусственного интеллекта» и «цифровых» субъектов (цивилистическое исследование): В 5 т. / Л.Ю. Василевская, Е.Б. Подузова, Ф.А. Тасалов; Отв. ред. Л.Ю. Василевская; Московский государственный юридический университет имени О.Е. Кутафина (МГЮА). – Москва: Общество с ограниченной ответственностью «Проспект», 2021. – 288 с. – ISBN 978-5-392-35438-2.
2. Доклад ВОИС 2019 г. из серии «Тенденции развития технологии». Искусственный интеллект. // URL: https://www.wipo.int/publications/ru/details.jsp?id=4386.
3. Домовская Е.В. Институт служебных объектов патентного права. Автореферат дисс. … канд. юр. наук. М, 2021.
4. Право интеллектуальной собственности: Учебник / О.Л. Алексеева, А.С. Ворожевич, Е.С. Гринь и др.; под общ. ред. Л.А. Новоселовой. М.: Статут, 2019. Т. 4: Патентное право.
5. Calo, Ryan. Robotics and the Lessons of Cyberlaw (February 28, 2014) // California Law Review, Vol. 103, No. 3, pp. 513-63 (2015), University of Washington School of Law Research Paper No. 2014-08.
6. George, Amanda-Jane. World First: An Australian Court Opens the Door to Inventor Recognition for Artificial Intelligence Systems (January 25, 2022) // URL: https://ssrn.com/abstract=4016939
7. Lee, Jyh-An and Hilty, Reto and Liu, Kung-Chung. Roadmap to Artificial Intelligence and Intellectual Property: An Introduction (March 11, 2021). Artificial Intelligence and Intellectual Property (Jyh-An Lee, Reto Hilty & Kung-Chung Liu eds, Oxford University Press, 2021) // The Chinese University of Hong Kong Faculty of Law Research Paper No. 2021-13.
8. Margaret Rouse. Robotics. Robot definition // URL: https://searchenterpriseai.techtarget.com/definition/robot
9. Ramalho, Ana, Will Robots Rule the (Artistic) World? A Proposed Model for the Legal Status of Creations by Artificial Intelligence Systems (June 13, 2017) // URL: https://ssrn.com/abstract=2987757