SlideShare une entreprise Scribd logo
1  sur  19
Télécharger pour lire hors ligne
Познание начинается с
удивления
Аристотель
Роботы в законе
Moscow Legal Tech, 16.03.2017
Виктор Наумов
доцент СПбГУ, в.н.с. РАНХ и ГС при Президенте РФ, к.ю.н.,
руководитель российской практики Dentons в области ИС, ИТ
и телекоммуникаций, управляющий партнер офиса Dentons в
Санкт-Петербурге
Вызовы права XXI века:
общий взгляд
3
Вызовы права XXI века - 1
4
Технологический рост и правовая политика:
• С одной стороны: «компрессия пространства и времени» (Д. Харви) –
за счет развития информационно-телекоммуникационных технологий
глобализируются социально-экономические отношения.
«Технологическая глобализация» (как альтернатива глобализации
политической).
• С другой стороны: изменяется ландшафт международных отношений,
государства становятся более компетентными в понимании значения
технологических факторов, и, как следствие, стремятся развить
суверенитет в «киберпространстве».
Соцсети как «государства»? Новый передел мира?
Вызовы права XXI века - 2
5
Новые технологии меняют социальную реальность:
• Быстрое технологическое развитие: хотя фундаментальных
изменений в основных принципах права крайне мало (предмет –
отношения между людьми, которые по сути меняются медленно), но
возникает много проблем в рамках правоприменения. В то же время
и правотворчество медленно по своей природе, и слабо справляется с
этим. Следствие – вектор регулирования смещается, в том числе, от
законодательной в сторону исполнительной власти
• Накопление правовых проблем по экспоненте (?): разработка новых
подходов к регулированию в условиях информационно-
телекоммуникационных подходов, как правило, не разрешает проблему
полностью, а комплекс проблем при этом накапливается
Вызовы права XXI века - 3
6
Не все новые технологии сочетаются с классическими подходами:
• Bitcoin / Blockchain: технологии, предполагающие использование
распределенных одноранговых сетей предполагают больше число
пользователей, отношения между которыми складываются так, что
каждый из узлов – и «клиент», и «сервер» одновременно. В отсутствие
какого либо «центра» происходит сбой применения регулятивных
норм. Пример: концепция «эмитента» в отношении криптовалют.
• Идентификация субъектов + Автоматизированные действия:
«полный цикл» правоотношения может сейчас во многих случаях
реализовываться без участия человека. Каким образом могут
применяться классические нормы о юридической ответственности,
в том числе гражданско-правовой, в условиях, где взаимодействие
между субъектами максимально отдалено от самих субъектов?
Пример права интеллектуальной
собственности: эволюция или революция?
7
На перепутье: нужна ли новая парадигма? (разрешено, что разрешено VS.
разрешено, что не запрещено)
Опыт совершенствования и примеры фиаско
Вызовы:
- Простота копирования и модификации: массовость; "домашние производства"
- Множественность субъектов и "автоматизированное" "творчество"
- Новые объекты: НТД, 3D-печать
Роль знаний и монополия ИС: нужно ли учитывать интересы доступа к знаниям
- сиротские произведения
- перевод в общественное достояние
- гранты
Административные барьеры в инновациях
Конкуренция отраслей права
Информация и знания как новые ключевые объекты права XXI века
Саморегулирование
Новые технологии в
правовом контексте
Большие данные,
искусственный интеллект,
виртуальная и дополненная
реальность, робототехника
8
Новые технологии в правовом контексте
9
Большие данные (Big Data) – юридически-значимые аспекты:
• Volume, Variety, Velocity: (а) огромное количество (б) разнообразных
данных обращается (в) с огромной скоростью.
• Данные как товар: информация продается и покупается, выступая в
качестве объекта сделок.
• Широкая область применения: практически каждый сектор экономики,
от банковского сектора до розничной торговли.
• Общий конфликт права и технологии: защита частной жизни весьма
условна в контексте Больших данных.
Новые технологии в правовом контексте
10
Большие данные (Big Data) – персональные данные:
• Несовместимость с законодательством о персональных
данных: в первую очередь, в России и ЕС. Невозможно заранее
определить цели данных, сложно разделять базы данных по разным
целям, ограниченные возможности получения конкретного и
информированного согласия.
• Принципиально иной подход: в условиях Больших данных любое
согласие на обработку персональных данных может толковаться,
скорее, как: «Я согласен с тем, что мои данные могут использоваться
как угодно и кем угодно». Согласие, по сути, может быть только общим.
• Неопределенность законодательства и практики, риски: широкое
определение понятия персональных данных, отсутствие однозначных
подходов в судебной и административной практике. Сложность в
снижении юридических рисков в случаях, где данные – commodity.
Новые технологии в правовом контексте
11
Большие данные (Big Data) – информация и ИС:
• Информация как объект правоотношений. ГК РФ не рассматривает
информацию как объект гражданских прав, но фактически – она предмет
оборота. С другой стороны, как определить владение информацией (в
противовес владению вещами)?
• Правовая охрана Больших данных. Применение норм о базах данных.
Но как на практике устанавливать пределы добросовестного
использования таких данных третьими лицами? Защищаются ли
общедоступные базы Больших данных?
Новые технологии в правовом контексте
12
Искусственный интеллект – проблема [ближайшего?] будущего:
• Правовой режим? Проблема правосубъектности и
деликтоспособности «сильного» искусственного интеллекта.
• Возможные сферы применения? Потенциально – в предельно значимых
сферах, включая медицину и правосудие.
• Автоматизированные решения? Могут ли юридически-значимые
решения приниматься ИИ?
• Распределение ответственности? Кто будет нести ответственность за
действия даже «слабого» ИИ при его самообучаемости.
• Справедливость? На каком-либо этапе ИИ может начать принимать
решения, недоступные пониманию человека.
Новые технологии в правовом контексте
13
Виртуальная реальность – эффект «погружения»:
• Эффект «погружения»: проблема определения возрастных рейтингов
(требуется альтернатива). Возможные риски, связанные со потерей
ориентации в пространстве и, как следствие, причинения вреда
пользователям.
• Интеллектуальные права: ожидается рост споров, связанных с
использованием объектов интеллектуальных прав в виртуальной
реальности – новые способы использования, воспроизведения
произведений, нарушения патентных прав.
• Потенциально новые способы коммерческого применения: сервисы
информационных посредников в виртуальной реальности,
непредсказуемые направления применения и, как следствие, новые
юридические проблемы.
Новые технологии в правовом контексте
14
Робототехника – ответственность и правосубъектность:
• Правовой режим: робот – это вещь / имущество? Гипотетическое
применение гражданско-правовых норм о животных по аналогии.
Особенности применения норм к роботам. Виндикация «умных роботов»?
• Гражданско-правовая ответственность: кто будет нести ответственность
за вред, причиненный роботом (программист, владелец, производитель и
т.п.)? Как быть в том случае, если робот стал бесхозяйным и
бесконтрольным?
• Умысел и неосторожность: могут ли «законы роботехники» А. Азимова
стать обязательными, и определять различные формы вины, в зависимости
от того, были ли они реализованы?
• Будущее – вопрос о правосубъектности: автономные роботы с «сильным»
ИИ, способные пройти «Тест Тьюринга» – субъекты или объекты права?
Общая концепция законодательства о роботах
(по заказу Дмитрия Гришина / Grishin Robotics)
15
Текущий подход Проекта (будет меняться): изменения в ГК РФ (актуальный проект) +
специальный Федеральный закон «О робототехнике» (в разработке).
ДВИЖИВОЕ ИМУЩЕСТВО, НАДЕЛЕННОЕ ОГРАНИЧЕННОЙ ПРАВОСУБЪЕКТНОСТЬЮ
Ключевые поправки в ГК РФ
• Понятие «робота» (устройство, способное действовать, определять свои действия и
оценивать их последствия на основе информации, поступающей из внешней среды,
без полного контроля со стороны человека).
• Некоторые роботы - «роботы-агенты», наделяются специальной
правосубъектностью (по аналогии с юридическими лицами с т.з. теорий фикции –
имущество, наделенное правосубъектностью).
• Одновременно роботы рассматриваются как имущество и могут рассматриваться
как источник повышенной опасности. Частичная аналоги с правовым режимом
животных.
• Отдельные положения: регистрация в реестре видов моделей роботов-агентов,
представительство с участием роботов-агентов, ответственность за действия
роботов-агентов и др.
Общая концепция законодательства о роботах
(по заказу Дмитрия Гришина / Grishin Robotics) - 2
16
Ключевые авторы: Владислав Архипов, Виктор Наумов
Перспективы ФЗ «О робототехнике»
• Lex specialis по отношению к ГК РФ, регулирует особо значимые
правоотношения, которые требуют особого регулирования (с учетом, в том
числе, «нестандартных» качеств роботов как имущества).
• Разрешает спорные вопросы применения информационного
законодательства к отношениям с использованием роботов:
информационные системы, ограничение распространения информацией,
персональные данные, обрабатываемые с использованием роботов и т.п.
• Закрепляет основные права и обязанности участников правоотношений в
области робототехники, закрепляет основные принципы и правила
робототехники (в том числе, содержит адаптацию «Трех законов
роботехники» А. Азимова/Кэмпбелла).
Контекст опыта ЕС
17
Учтен опыт Draft Report with recommendations to the Commission on Civil Law on
Robotics (2015/2013(INL)), http://www.europarl.europa.eu/sides/getDoc.do?pubRef=-
//EP//NONSGML%2BCOMPARL%2BPE-582.443%2B01%2BDOC%2BPDF%2BV0//EN;
Что общего?
• Проект основан примерно на том же подходе, что был предложен в ЕС: в первую
очередь, была поставлена проблема понимания пределов автономности
роботов, и возможное юридическое значение такой автономности.
• (а) Внимание проблемам правосубъектности, (б) ответственности, (в)
саморегулирования, (г) искусственного интеллекта, (да) создания
уполномоченного органа.
Ряд различий
• не все «умные роботы» классифицируются и наделяются правосубъектностью, а
только те, кого решили на свое усмотрение сделать агентами
• Таким образом, отдельная юридическая категория «робот» выделяется (даже если
это не робот-агент) для «умных роботов» (по стандарту ЕС), все остальные
роботы, «не-умные», продолжают рассматриваться как обычные вещи, объекты
гражданского оборота, подчиняющиеся общим правилам.
Социальные, экономические и
геополитические проблемы появления и
использования роботов!!!
Междисциплинарная дискуссия!
18
Dentons – первая в мире полицентричная международная юридическая фирма. В 2015 году Dentons вошла в рейтинг 20
ведущих юридических брендов мира, составленный Acritas. Международная команда юристов предлагает инновационные и
практичные бизнес-решения, способствующие успеху бизнеса клиентов фирмы. Dentons обеспечивает понимание местных
культурных реалий, необходимое для осуществления сделок или разрешения споров в различных странах. Мы предоставляем
полный спектр услуг международным и российским корпорациям, банкам и другим финансовым институтам, фондам прямых
инвестиций, стартапам, государственным предприятиям, частным лицам и некоммерческим организациям. Сегодня Dentons –
крупнейшая международная юридическая фирма в мире, располагающая 125 офисами в 50 странах. www.dentons.com.
© 2016 Dentons. Dentons – международная юридическая фирма, предоставляющая услуги клиентам по всему миру через свои и аффилированные офисы. Содержание данной публикации не является юридической
консультацией и не может служить основанием для осуществления каких-либо действий или отказа от действий. Более подробная информация представлена в разделе «Правовая информация» на сайте
dentons.com.
25/03/2017 19
Виктор Наумов
к.ю.н., руководитель российской практики Dentons
в области ИС, ИТ и телекоммуникаций,
управляющий партнер офиса Dentons в Санкт-
Петербурге
T: +7 812 325 84 44
E: victor.naumov@dentons.com
Спасибо!

Contenu connexe

En vedette

Автоматизация как залог эффективности юриста
Автоматизация как залог эффективности юристаАвтоматизация как залог эффективности юриста
Автоматизация как залог эффективности юристаInfotropic Media
 
Юридические боты
Юридические ботыЮридические боты
Юридические ботыInfotropic Media
 
Application of AI in the analysis of contracts
Application of AI in the analysis of contractsApplication of AI in the analysis of contracts
Application of AI in the analysis of contractsInfotropic Media
 
Business of law. agile legal project management
Business of law. agile legal project managementBusiness of law. agile legal project management
Business of law. agile legal project managementInfotropic Media
 
Сайт юридической фирмы. Перезагрузка
Сайт юридической фирмы. ПерезагрузкаСайт юридической фирмы. Перезагрузка
Сайт юридической фирмы. ПерезагрузкаInfotropic Media
 
Thomas Loeschke - Cybersecurity for Lawyers. What to do?
Thomas Loeschke - Cybersecurity for Lawyers. What to do?Thomas Loeschke - Cybersecurity for Lawyers. What to do?
Thomas Loeschke - Cybersecurity for Lawyers. What to do?Infotropic Media
 
Oleg Bezik - Biometric technology as a means of ensuring the information secu...
Oleg Bezik - Biometric technology as a means of ensuring the information secu...Oleg Bezik - Biometric technology as a means of ensuring the information secu...
Oleg Bezik - Biometric technology as a means of ensuring the information secu...Infotropic Media
 
Maria Voronova - Protection against internal threats
Maria Voronova - Protection against internal threatsMaria Voronova - Protection against internal threats
Maria Voronova - Protection against internal threatsInfotropic Media
 
Vitaly Malkin - Hackers. View from the dark side
Vitaly Malkin - Hackers. View from the dark sideVitaly Malkin - Hackers. View from the dark side
Vitaly Malkin - Hackers. View from the dark sideInfotropic Media
 
Kirill Belsky - Ccyberthreats in legal business
Kirill Belsky - Ccyberthreats in legal businessKirill Belsky - Ccyberthreats in legal business
Kirill Belsky - Ccyberthreats in legal businessInfotropic Media
 
Law department automation survey
Law department automation surveyLaw department automation survey
Law department automation surveyInfotropic Media
 
Sergey Negodyaev - Cybercrime in Russia and its impact on the economy
Sergey Negodyaev - Cybercrime in Russia and its impact on the economySergey Negodyaev - Cybercrime in Russia and its impact on the economy
Sergey Negodyaev - Cybercrime in Russia and its impact on the economyInfotropic Media
 
Holger Zscheyge - Opening remarks Cybersecurity for Lawyers Conference 2016
Holger Zscheyge - Opening remarks Cybersecurity for Lawyers Conference 2016Holger Zscheyge - Opening remarks Cybersecurity for Lawyers Conference 2016
Holger Zscheyge - Opening remarks Cybersecurity for Lawyers Conference 2016Infotropic Media
 
Andrey Bryzgin - Information security practices and industry specifics of law...
Andrey Bryzgin - Information security practices and industry specifics of law...Andrey Bryzgin - Information security practices and industry specifics of law...
Andrey Bryzgin - Information security practices and industry specifics of law...Infotropic Media
 
2013 IFA CIS conference - Limitations on the Use of Double Tax Treaties
2013 IFA CIS conference - Limitations on the Use of Double Tax Treaties2013 IFA CIS conference - Limitations on the Use of Double Tax Treaties
2013 IFA CIS conference - Limitations on the Use of Double Tax TreatiesInfotropic Media
 
Налогообложение исламских финансовых инструментов
Налогообложение исламских финансовых инструментовНалогообложение исламских финансовых инструментов
Налогообложение исламских финансовых инструментовInfotropic Media
 

En vedette (19)

Автоматизация как залог эффективности юриста
Автоматизация как залог эффективности юристаАвтоматизация как залог эффективности юриста
Автоматизация как залог эффективности юриста
 
Юридические боты
Юридические ботыЮридические боты
Юридические боты
 
Application of AI in the analysis of contracts
Application of AI in the analysis of contractsApplication of AI in the analysis of contracts
Application of AI in the analysis of contracts
 
Business of law. agile legal project management
Business of law. agile legal project managementBusiness of law. agile legal project management
Business of law. agile legal project management
 
Dentons Nextlaw Labs
Dentons Nextlaw LabsDentons Nextlaw Labs
Dentons Nextlaw Labs
 
Сайт юридической фирмы. Перезагрузка
Сайт юридической фирмы. ПерезагрузкаСайт юридической фирмы. Перезагрузка
Сайт юридической фирмы. Перезагрузка
 
Thomas Loeschke - Cybersecurity for Lawyers. What to do?
Thomas Loeschke - Cybersecurity for Lawyers. What to do?Thomas Loeschke - Cybersecurity for Lawyers. What to do?
Thomas Loeschke - Cybersecurity for Lawyers. What to do?
 
Agile, jazz & holacracy
Agile, jazz & holacracyAgile, jazz & holacracy
Agile, jazz & holacracy
 
Oleg Bezik - Biometric technology as a means of ensuring the information secu...
Oleg Bezik - Biometric technology as a means of ensuring the information secu...Oleg Bezik - Biometric technology as a means of ensuring the information secu...
Oleg Bezik - Biometric technology as a means of ensuring the information secu...
 
Maria Voronova - Protection against internal threats
Maria Voronova - Protection against internal threatsMaria Voronova - Protection against internal threats
Maria Voronova - Protection against internal threats
 
Vitaly Malkin - Hackers. View from the dark side
Vitaly Malkin - Hackers. View from the dark sideVitaly Malkin - Hackers. View from the dark side
Vitaly Malkin - Hackers. View from the dark side
 
Kirill Belsky - Ccyberthreats in legal business
Kirill Belsky - Ccyberthreats in legal businessKirill Belsky - Ccyberthreats in legal business
Kirill Belsky - Ccyberthreats in legal business
 
Law department automation survey
Law department automation surveyLaw department automation survey
Law department automation survey
 
Sergey Negodyaev - Cybercrime in Russia and its impact on the economy
Sergey Negodyaev - Cybercrime in Russia and its impact on the economySergey Negodyaev - Cybercrime in Russia and its impact on the economy
Sergey Negodyaev - Cybercrime in Russia and its impact on the economy
 
Holger Zscheyge - Opening remarks Cybersecurity for Lawyers Conference 2016
Holger Zscheyge - Opening remarks Cybersecurity for Lawyers Conference 2016Holger Zscheyge - Opening remarks Cybersecurity for Lawyers Conference 2016
Holger Zscheyge - Opening remarks Cybersecurity for Lawyers Conference 2016
 
Andrey Bryzgin - Information security practices and industry specifics of law...
Andrey Bryzgin - Information security practices and industry specifics of law...Andrey Bryzgin - Information security practices and industry specifics of law...
Andrey Bryzgin - Information security practices and industry specifics of law...
 
2013 IFA CIS conference - Limitations on the Use of Double Tax Treaties
2013 IFA CIS conference - Limitations on the Use of Double Tax Treaties2013 IFA CIS conference - Limitations on the Use of Double Tax Treaties
2013 IFA CIS conference - Limitations on the Use of Double Tax Treaties
 
Life after Cyprus
Life after CyprusLife after Cyprus
Life after Cyprus
 
Налогообложение исламских финансовых инструментов
Налогообложение исламских финансовых инструментовНалогообложение исламских финансовых инструментов
Налогообложение исламских финансовых инструментов
 

Similaire à Роботы в законе

Исследование «Права пользователей: Россия и мир, теория и практика»
Исследование «Права пользователей: Россия и мир, теория и практика»Исследование «Права пользователей: Россия и мир, теория и практика»
Исследование «Права пользователей: Россия и мир, теория и практика»Vladimir Haritonov
 
Реестр цифровых объектов
Реестр цифровых объектовРеестр цифровых объектов
Реестр цифровых объектовSarkis Darbinyan
 
Законодательный каток по рунету v.2.0
Законодательный каток по рунету v.2.0Законодательный каток по рунету v.2.0
Законодательный каток по рунету v.2.0Artem Kozlyuk
 
РосКомСвобода. Законодательный каток по Рунету
РосКомСвобода. Законодательный каток по РунетуРосКомСвобода. Законодательный каток по Рунету
РосКомСвобода. Законодательный каток по РунетуArtem Kozlyuk
 
Р. Фадеев. Сайт, контент и право
Р. Фадеев. Сайт, контент и правоР. Фадеев. Сайт, контент и право
Р. Фадеев. Сайт, контент и правоit-people
 
Интеллектуальная собственность в Интернете
Интеллектуальная собственность в ИнтернетеИнтеллектуальная собственность в Интернете
Интеллектуальная собственность в ИнтернетеSarkis Darbinyan
 
позиция апи ппр_ркс (2)
позиция апи ппр_ркс (2)позиция апи ппр_ркс (2)
позиция апи ппр_ркс (2)Sarkis Darbinyan
 
Мониторинг законодательства РФ по вопросам неприкосновенности частной жизни
Мониторинг законодательства РФ по вопросам неприкосновенности частной жизниМониторинг законодательства РФ по вопросам неприкосновенности частной жизни
Мониторинг законодательства РФ по вопросам неприкосновенности частной жизниArtem Kozlyuk
 
проект 2
проект 2проект 2
проект 2Ivan182812
 
4 рамиля аметова kg
4 рамиля аметова kg4 рамиля аметова kg
4 рамиля аметова kgAnnely Nurkaliyeva
 
ульяна зинина
ульяна зининаульяна зинина
ульяна зининаguest449eb498
 
Результат общественного обсуждения блока “антитеррористических законопроектов...
Результат общественного обсуждения блока “антитеррористических законопроектов...Результат общественного обсуждения блока “антитеррористических законопроектов...
Результат общественного обсуждения блока “антитеррористических законопроектов...Artem Kozlyuk
 
Михаил Волчек — Свободные лицензии. быть или не быть? Продолжение
Михаил Волчек — Свободные лицензии. быть или не быть? ПродолжениеМихаил Волчек — Свободные лицензии. быть или не быть? Продолжение
Михаил Волчек — Свободные лицензии. быть или не быть? ПродолжениеMinsk Linux User Group
 
Цифровое судопроизводство. Суд будущего.
Цифровое судопроизводство. Суд будущего.Цифровое судопроизводство. Суд будущего.
Цифровое судопроизводство. Суд будущего.Sarkis Darbinyan
 
Презентация И.Лоскутова
Презентация И.ЛоскутоваПрезентация И.Лоскутова
Презентация И.ЛоскутоваIpolito
 

Similaire à Роботы в законе (20)

Agora concept
Agora conceptAgora concept
Agora concept
 
Исследование «Права пользователей: Россия и мир, теория и практика»
Исследование «Права пользователей: Россия и мир, теория и практика»Исследование «Права пользователей: Россия и мир, теория и практика»
Исследование «Права пользователей: Россия и мир, теория и практика»
 
Реестр цифровых объектов
Реестр цифровых объектовРеестр цифровых объектов
Реестр цифровых объектов
 
Законодательный каток по рунету v.2.0
Законодательный каток по рунету v.2.0Законодательный каток по рунету v.2.0
Законодательный каток по рунету v.2.0
 
РосКомСвобода. Законодательный каток по Рунету
РосКомСвобода. Законодательный каток по РунетуРосКомСвобода. Законодательный каток по Рунету
РосКомСвобода. Законодательный каток по Рунету
 
Р. Фадеев. Сайт, контент и право
Р. Фадеев. Сайт, контент и правоР. Фадеев. Сайт, контент и право
Р. Фадеев. Сайт, контент и право
 
Интеллектуальная собственность в Интернете
Интеллектуальная собственность в ИнтернетеИнтеллектуальная собственность в Интернете
Интеллектуальная собственность в Интернете
 
Natural rights and AI 2019
Natural rights and AI 2019Natural rights and AI 2019
Natural rights and AI 2019
 
позиция апи ппр_ркс (2)
позиция апи ппр_ркс (2)позиция апи ппр_ркс (2)
позиция апи ппр_ркс (2)
 
Мониторинг законодательства РФ по вопросам неприкосновенности частной жизни
Мониторинг законодательства РФ по вопросам неприкосновенности частной жизниМониторинг законодательства РФ по вопросам неприкосновенности частной жизни
Мониторинг законодательства РФ по вопросам неприкосновенности частной жизни
 
открытое правосудие
открытое правосудиеоткрытое правосудие
открытое правосудие
 
проект 2
проект 2проект 2
проект 2
 
4 рамиля аметова kg
4 рамиля аметова kg4 рамиля аметова kg
4 рамиля аметова kg
 
ульяна зинина
ульяна зининаульяна зинина
ульяна зинина
 
Результат общественного обсуждения блока “антитеррористических законопроектов...
Результат общественного обсуждения блока “антитеррористических законопроектов...Результат общественного обсуждения блока “антитеррористических законопроектов...
Результат общественного обсуждения блока “антитеррористических законопроектов...
 
Bitcoinconf.moscow-2015
Bitcoinconf.moscow-2015Bitcoinconf.moscow-2015
Bitcoinconf.moscow-2015
 
Михаил Волчек — Свободные лицензии. быть или не быть? Продолжение
Михаил Волчек — Свободные лицензии. быть или не быть? ПродолжениеМихаил Волчек — Свободные лицензии. быть или не быть? Продолжение
Михаил Волчек — Свободные лицензии. быть или не быть? Продолжение
 
Цифровое судопроизводство. Суд будущего.
Цифровое судопроизводство. Суд будущего.Цифровое судопроизводство. Суд будущего.
Цифровое судопроизводство. Суд будущего.
 
Politfiction
PolitfictionPolitfiction
Politfiction
 
Презентация И.Лоскутова
Презентация И.ЛоскутоваПрезентация И.Лоскутова
Презентация И.Лоскутова
 

Plus de Infotropic Media

2013 IFA CIS Conference - Controlled Transactions and Related Parties EN
2013 IFA CIS Conference - Controlled Transactions and Related Parties EN2013 IFA CIS Conference - Controlled Transactions and Related Parties EN
2013 IFA CIS Conference - Controlled Transactions and Related Parties ENInfotropic Media
 
2013 IFA CIS Conference - Controlled Transactions and Related Parties RU
2013 IFA CIS Conference - Controlled Transactions and Related Parties RU2013 IFA CIS Conference - Controlled Transactions and Related Parties RU
2013 IFA CIS Conference - Controlled Transactions and Related Parties RUInfotropic Media
 
2013 IFA CIS Conference - BEPS and its influence in Russia
2013 IFA CIS Conference - BEPS and its influence in Russia2013 IFA CIS Conference - BEPS and its influence in Russia
2013 IFA CIS Conference - BEPS and its influence in RussiaInfotropic Media
 
2013 IFA CIS Conference - Hybrid Financial Instruments in International Tax P...
2013 IFA CIS Conference - Hybrid Financial Instruments in International Tax P...2013 IFA CIS Conference - Hybrid Financial Instruments in International Tax P...
2013 IFA CIS Conference - Hybrid Financial Instruments in International Tax P...Infotropic Media
 
2013 IFA CIS Conference - Recent International Taxation Court Cases in the ...
2013 IFA CIS Conference - Recent International  Taxation Court  Cases in the ...2013 IFA CIS Conference - Recent International  Taxation Court  Cases in the ...
2013 IFA CIS Conference - Recent International Taxation Court Cases in the ...Infotropic Media
 
2013 IFA CIS Conference - Taxation of Dividends
2013 IFA CIS Conference - Taxation of Dividends2013 IFA CIS Conference - Taxation of Dividends
2013 IFA CIS Conference - Taxation of DividendsInfotropic Media
 
2013 IFA CIS Conference - Taxation of Permanent Establishments
2013 IFA CIS Conference - Taxation of Permanent Establishments2013 IFA CIS Conference - Taxation of Permanent Establishments
2013 IFA CIS Conference - Taxation of Permanent EstablishmentsInfotropic Media
 
2013 IFA CIS Conference - Transfer Pricing Control
2013 IFA CIS Conference - Transfer Pricing Control2013 IFA CIS Conference - Transfer Pricing Control
2013 IFA CIS Conference - Transfer Pricing ControlInfotropic Media
 
2013 IFA CIS Conference - Transfer Pricing
2013 IFA CIS Conference - Transfer Pricing2013 IFA CIS Conference - Transfer Pricing
2013 IFA CIS Conference - Transfer PricingInfotropic Media
 
Kazan Smart City – a new Business Hub in Russia
Kazan Smart City – a new Business Hub in RussiaKazan Smart City – a new Business Hub in Russia
Kazan Smart City – a new Business Hub in RussiaInfotropic Media
 

Plus de Infotropic Media (10)

2013 IFA CIS Conference - Controlled Transactions and Related Parties EN
2013 IFA CIS Conference - Controlled Transactions and Related Parties EN2013 IFA CIS Conference - Controlled Transactions and Related Parties EN
2013 IFA CIS Conference - Controlled Transactions and Related Parties EN
 
2013 IFA CIS Conference - Controlled Transactions and Related Parties RU
2013 IFA CIS Conference - Controlled Transactions and Related Parties RU2013 IFA CIS Conference - Controlled Transactions and Related Parties RU
2013 IFA CIS Conference - Controlled Transactions and Related Parties RU
 
2013 IFA CIS Conference - BEPS and its influence in Russia
2013 IFA CIS Conference - BEPS and its influence in Russia2013 IFA CIS Conference - BEPS and its influence in Russia
2013 IFA CIS Conference - BEPS and its influence in Russia
 
2013 IFA CIS Conference - Hybrid Financial Instruments in International Tax P...
2013 IFA CIS Conference - Hybrid Financial Instruments in International Tax P...2013 IFA CIS Conference - Hybrid Financial Instruments in International Tax P...
2013 IFA CIS Conference - Hybrid Financial Instruments in International Tax P...
 
2013 IFA CIS Conference - Recent International Taxation Court Cases in the ...
2013 IFA CIS Conference - Recent International  Taxation Court  Cases in the ...2013 IFA CIS Conference - Recent International  Taxation Court  Cases in the ...
2013 IFA CIS Conference - Recent International Taxation Court Cases in the ...
 
2013 IFA CIS Conference - Taxation of Dividends
2013 IFA CIS Conference - Taxation of Dividends2013 IFA CIS Conference - Taxation of Dividends
2013 IFA CIS Conference - Taxation of Dividends
 
2013 IFA CIS Conference - Taxation of Permanent Establishments
2013 IFA CIS Conference - Taxation of Permanent Establishments2013 IFA CIS Conference - Taxation of Permanent Establishments
2013 IFA CIS Conference - Taxation of Permanent Establishments
 
2013 IFA CIS Conference - Transfer Pricing Control
2013 IFA CIS Conference - Transfer Pricing Control2013 IFA CIS Conference - Transfer Pricing Control
2013 IFA CIS Conference - Transfer Pricing Control
 
2013 IFA CIS Conference - Transfer Pricing
2013 IFA CIS Conference - Transfer Pricing2013 IFA CIS Conference - Transfer Pricing
2013 IFA CIS Conference - Transfer Pricing
 
Kazan Smart City – a new Business Hub in Russia
Kazan Smart City – a new Business Hub in RussiaKazan Smart City – a new Business Hub in Russia
Kazan Smart City – a new Business Hub in Russia
 

Роботы в законе

  • 2. Роботы в законе Moscow Legal Tech, 16.03.2017 Виктор Наумов доцент СПбГУ, в.н.с. РАНХ и ГС при Президенте РФ, к.ю.н., руководитель российской практики Dentons в области ИС, ИТ и телекоммуникаций, управляющий партнер офиса Dentons в Санкт-Петербурге
  • 3. Вызовы права XXI века: общий взгляд 3
  • 4. Вызовы права XXI века - 1 4 Технологический рост и правовая политика: • С одной стороны: «компрессия пространства и времени» (Д. Харви) – за счет развития информационно-телекоммуникационных технологий глобализируются социально-экономические отношения. «Технологическая глобализация» (как альтернатива глобализации политической). • С другой стороны: изменяется ландшафт международных отношений, государства становятся более компетентными в понимании значения технологических факторов, и, как следствие, стремятся развить суверенитет в «киберпространстве». Соцсети как «государства»? Новый передел мира?
  • 5. Вызовы права XXI века - 2 5 Новые технологии меняют социальную реальность: • Быстрое технологическое развитие: хотя фундаментальных изменений в основных принципах права крайне мало (предмет – отношения между людьми, которые по сути меняются медленно), но возникает много проблем в рамках правоприменения. В то же время и правотворчество медленно по своей природе, и слабо справляется с этим. Следствие – вектор регулирования смещается, в том числе, от законодательной в сторону исполнительной власти • Накопление правовых проблем по экспоненте (?): разработка новых подходов к регулированию в условиях информационно- телекоммуникационных подходов, как правило, не разрешает проблему полностью, а комплекс проблем при этом накапливается
  • 6. Вызовы права XXI века - 3 6 Не все новые технологии сочетаются с классическими подходами: • Bitcoin / Blockchain: технологии, предполагающие использование распределенных одноранговых сетей предполагают больше число пользователей, отношения между которыми складываются так, что каждый из узлов – и «клиент», и «сервер» одновременно. В отсутствие какого либо «центра» происходит сбой применения регулятивных норм. Пример: концепция «эмитента» в отношении криптовалют. • Идентификация субъектов + Автоматизированные действия: «полный цикл» правоотношения может сейчас во многих случаях реализовываться без участия человека. Каким образом могут применяться классические нормы о юридической ответственности, в том числе гражданско-правовой, в условиях, где взаимодействие между субъектами максимально отдалено от самих субъектов?
  • 7. Пример права интеллектуальной собственности: эволюция или революция? 7 На перепутье: нужна ли новая парадигма? (разрешено, что разрешено VS. разрешено, что не запрещено) Опыт совершенствования и примеры фиаско Вызовы: - Простота копирования и модификации: массовость; "домашние производства" - Множественность субъектов и "автоматизированное" "творчество" - Новые объекты: НТД, 3D-печать Роль знаний и монополия ИС: нужно ли учитывать интересы доступа к знаниям - сиротские произведения - перевод в общественное достояние - гранты Административные барьеры в инновациях Конкуренция отраслей права Информация и знания как новые ключевые объекты права XXI века Саморегулирование
  • 8. Новые технологии в правовом контексте Большие данные, искусственный интеллект, виртуальная и дополненная реальность, робототехника 8
  • 9. Новые технологии в правовом контексте 9 Большие данные (Big Data) – юридически-значимые аспекты: • Volume, Variety, Velocity: (а) огромное количество (б) разнообразных данных обращается (в) с огромной скоростью. • Данные как товар: информация продается и покупается, выступая в качестве объекта сделок. • Широкая область применения: практически каждый сектор экономики, от банковского сектора до розничной торговли. • Общий конфликт права и технологии: защита частной жизни весьма условна в контексте Больших данных.
  • 10. Новые технологии в правовом контексте 10 Большие данные (Big Data) – персональные данные: • Несовместимость с законодательством о персональных данных: в первую очередь, в России и ЕС. Невозможно заранее определить цели данных, сложно разделять базы данных по разным целям, ограниченные возможности получения конкретного и информированного согласия. • Принципиально иной подход: в условиях Больших данных любое согласие на обработку персональных данных может толковаться, скорее, как: «Я согласен с тем, что мои данные могут использоваться как угодно и кем угодно». Согласие, по сути, может быть только общим. • Неопределенность законодательства и практики, риски: широкое определение понятия персональных данных, отсутствие однозначных подходов в судебной и административной практике. Сложность в снижении юридических рисков в случаях, где данные – commodity.
  • 11. Новые технологии в правовом контексте 11 Большие данные (Big Data) – информация и ИС: • Информация как объект правоотношений. ГК РФ не рассматривает информацию как объект гражданских прав, но фактически – она предмет оборота. С другой стороны, как определить владение информацией (в противовес владению вещами)? • Правовая охрана Больших данных. Применение норм о базах данных. Но как на практике устанавливать пределы добросовестного использования таких данных третьими лицами? Защищаются ли общедоступные базы Больших данных?
  • 12. Новые технологии в правовом контексте 12 Искусственный интеллект – проблема [ближайшего?] будущего: • Правовой режим? Проблема правосубъектности и деликтоспособности «сильного» искусственного интеллекта. • Возможные сферы применения? Потенциально – в предельно значимых сферах, включая медицину и правосудие. • Автоматизированные решения? Могут ли юридически-значимые решения приниматься ИИ? • Распределение ответственности? Кто будет нести ответственность за действия даже «слабого» ИИ при его самообучаемости. • Справедливость? На каком-либо этапе ИИ может начать принимать решения, недоступные пониманию человека.
  • 13. Новые технологии в правовом контексте 13 Виртуальная реальность – эффект «погружения»: • Эффект «погружения»: проблема определения возрастных рейтингов (требуется альтернатива). Возможные риски, связанные со потерей ориентации в пространстве и, как следствие, причинения вреда пользователям. • Интеллектуальные права: ожидается рост споров, связанных с использованием объектов интеллектуальных прав в виртуальной реальности – новые способы использования, воспроизведения произведений, нарушения патентных прав. • Потенциально новые способы коммерческого применения: сервисы информационных посредников в виртуальной реальности, непредсказуемые направления применения и, как следствие, новые юридические проблемы.
  • 14. Новые технологии в правовом контексте 14 Робототехника – ответственность и правосубъектность: • Правовой режим: робот – это вещь / имущество? Гипотетическое применение гражданско-правовых норм о животных по аналогии. Особенности применения норм к роботам. Виндикация «умных роботов»? • Гражданско-правовая ответственность: кто будет нести ответственность за вред, причиненный роботом (программист, владелец, производитель и т.п.)? Как быть в том случае, если робот стал бесхозяйным и бесконтрольным? • Умысел и неосторожность: могут ли «законы роботехники» А. Азимова стать обязательными, и определять различные формы вины, в зависимости от того, были ли они реализованы? • Будущее – вопрос о правосубъектности: автономные роботы с «сильным» ИИ, способные пройти «Тест Тьюринга» – субъекты или объекты права?
  • 15. Общая концепция законодательства о роботах (по заказу Дмитрия Гришина / Grishin Robotics) 15 Текущий подход Проекта (будет меняться): изменения в ГК РФ (актуальный проект) + специальный Федеральный закон «О робототехнике» (в разработке). ДВИЖИВОЕ ИМУЩЕСТВО, НАДЕЛЕННОЕ ОГРАНИЧЕННОЙ ПРАВОСУБЪЕКТНОСТЬЮ Ключевые поправки в ГК РФ • Понятие «робота» (устройство, способное действовать, определять свои действия и оценивать их последствия на основе информации, поступающей из внешней среды, без полного контроля со стороны человека). • Некоторые роботы - «роботы-агенты», наделяются специальной правосубъектностью (по аналогии с юридическими лицами с т.з. теорий фикции – имущество, наделенное правосубъектностью). • Одновременно роботы рассматриваются как имущество и могут рассматриваться как источник повышенной опасности. Частичная аналоги с правовым режимом животных. • Отдельные положения: регистрация в реестре видов моделей роботов-агентов, представительство с участием роботов-агентов, ответственность за действия роботов-агентов и др.
  • 16. Общая концепция законодательства о роботах (по заказу Дмитрия Гришина / Grishin Robotics) - 2 16 Ключевые авторы: Владислав Архипов, Виктор Наумов Перспективы ФЗ «О робототехнике» • Lex specialis по отношению к ГК РФ, регулирует особо значимые правоотношения, которые требуют особого регулирования (с учетом, в том числе, «нестандартных» качеств роботов как имущества). • Разрешает спорные вопросы применения информационного законодательства к отношениям с использованием роботов: информационные системы, ограничение распространения информацией, персональные данные, обрабатываемые с использованием роботов и т.п. • Закрепляет основные права и обязанности участников правоотношений в области робототехники, закрепляет основные принципы и правила робототехники (в том числе, содержит адаптацию «Трех законов роботехники» А. Азимова/Кэмпбелла).
  • 17. Контекст опыта ЕС 17 Учтен опыт Draft Report with recommendations to the Commission on Civil Law on Robotics (2015/2013(INL)), http://www.europarl.europa.eu/sides/getDoc.do?pubRef=- //EP//NONSGML%2BCOMPARL%2BPE-582.443%2B01%2BDOC%2BPDF%2BV0//EN; Что общего? • Проект основан примерно на том же подходе, что был предложен в ЕС: в первую очередь, была поставлена проблема понимания пределов автономности роботов, и возможное юридическое значение такой автономности. • (а) Внимание проблемам правосубъектности, (б) ответственности, (в) саморегулирования, (г) искусственного интеллекта, (да) создания уполномоченного органа. Ряд различий • не все «умные роботы» классифицируются и наделяются правосубъектностью, а только те, кого решили на свое усмотрение сделать агентами • Таким образом, отдельная юридическая категория «робот» выделяется (даже если это не робот-агент) для «умных роботов» (по стандарту ЕС), все остальные роботы, «не-умные», продолжают рассматриваться как обычные вещи, объекты гражданского оборота, подчиняющиеся общим правилам.
  • 18. Социальные, экономические и геополитические проблемы появления и использования роботов!!! Междисциплинарная дискуссия! 18
  • 19. Dentons – первая в мире полицентричная международная юридическая фирма. В 2015 году Dentons вошла в рейтинг 20 ведущих юридических брендов мира, составленный Acritas. Международная команда юристов предлагает инновационные и практичные бизнес-решения, способствующие успеху бизнеса клиентов фирмы. Dentons обеспечивает понимание местных культурных реалий, необходимое для осуществления сделок или разрешения споров в различных странах. Мы предоставляем полный спектр услуг международным и российским корпорациям, банкам и другим финансовым институтам, фондам прямых инвестиций, стартапам, государственным предприятиям, частным лицам и некоммерческим организациям. Сегодня Dentons – крупнейшая международная юридическая фирма в мире, располагающая 125 офисами в 50 странах. www.dentons.com. © 2016 Dentons. Dentons – международная юридическая фирма, предоставляющая услуги клиентам по всему миру через свои и аффилированные офисы. Содержание данной публикации не является юридической консультацией и не может служить основанием для осуществления каких-либо действий или отказа от действий. Более подробная информация представлена в разделе «Правовая информация» на сайте dentons.com. 25/03/2017 19 Виктор Наумов к.ю.н., руководитель российской практики Dentons в области ИС, ИТ и телекоммуникаций, управляющий партнер офиса Dentons в Санкт- Петербурге T: +7 812 325 84 44 E: victor.naumov@dentons.com Спасибо!