SlideShare une entreprise Scribd logo
1  sur  39
Télécharger pour lire hors ligne
М. Бурцев
Кафедра Кибернетики,
НИЯУ МИФИ

Лаб. Нейроинтеллекта и
нейроморфных систем,
Курчатовский НБИКC-Центр

НИИ Нормальной физиологии
им. П.К. Анохина РАМН

Институт прикладной математики
им. М.В. Келдыша РАН
Что такое Искусственный
интеллект (ИИ)?

 Искусственный интеллект -
  интеллектуальные машины и область
  компьютерных наук, которая стремится их
  создать.
 Основное свойство Homo sapiens человека
  разумного – разум, может быть настолько
  точно описан, что может быть
  воспроизведен машиной.
Вычисления и интеллект

 IBM Deep Blue (1997)
   2 108 позиций в
    секунду
   11 GFLOPS



 IBM Watson (2011)
   2880 POWER7
    processor cores
   16 Tб of RAM
   500 Гб/с
   80 TFLOPS
Вычисления и интеллект
Вычисления и интеллект
Вычисления и интеллект
Вычисления и интеллект
Два пути


                              мозг можно        искусственные
  Нейроны передают
                            смоделировать         нейронные
электрические сигналы
                         электрической схемой        сети




Человеческий интеллект   компьютер совершает
основан на манипуляции      манипуляции с       искусственный
     с символами              символами           интеллект
История ИИ




      •   1958, H. A. Simon and Allen Newell: "within ten years a digital
          computer will be the world's chess champion" and "within ten years
          a digital computer will discover and prove an important new
          mathematical theorem."
      •   1965, H. A. Simon: "machines will be capable, within twenty years,
          of doing any work a man can do."
      •   1967, Marvin Minsky: "Within a generation ... the problem of
          creating 'artificial intelligence' will substantially be solved."
      •   1970, Marvin Minsky: "In from three to eight years we will have a
          machine with the general intelligence of an average human being."
Обещания ИИ
А что же нейробиологи?
А что же нейробиологи?
 H. Markram
 (104 нейронов, 108 синапсов)
   Смоделирована
    кортикальная
    колонка
А что же нейробиологи?
 E. Ижикевич
    (1011 нейронов, 1015 синапсов)
   Воспроизведены частоты
    спайковой активности
    различных типов корковых
    нейронов.
   Ритмы и волны
    распространения спонтанной
    активности по своим
    параметрам похожи на
    наблюдаемые in vivo.
   Модельный фМРТ похож на
    регистриуемый на человеке.
   Пертрубация одного спайка (из
    миллионов) ведет к
    перестройки активности всей
    сети за доли секунды.
Нейроморфные системы - будущее искусственного интеллекта
Проблема


     Интеллект человека
   является очень сложным
          объектом

       Прямое создание
   целостной теории очень
            трудно
БУДУЩЕЕ
   ИСКУССТВЕННОГО ИНТЕЛЛЕКТА?

 ТРЕБУЕТСЯ ПЕРЕЗАГРУЗКА!
Нейроморфные системы
   искусственного интеллекта
Как
самоорганизация
миллиардов
адаптивных
элементов приводит
к возникновению
системных
когнитивных
процессов?
•Искусственный интеллект
основанный на принципах
работы мозга
•Пути повышения
эффективности
естественного и
искусственного интеллекта
Теория функциональных систем


       отбор

      развитие   проблема




                 обучение
Модель эволюционного сиcтемогенеза
  Эволюция нейросетевых агентов в среде с
  иерархией целей
    Задача: обучение цепочкам целенаправленных
    действий в среде с конкурирующими целями
Модель эволюционного сиcтемогенеза
                                700


                                600
номер поведенческой стратегии




                                500


                                400


                                300


                                200


                                100


                                  0
                   3000
приспособленность




                   2000



                   1000



                                 0
                                      0   1000   2000 поколения   3000   4000   5000
Модель эволюционного сиcтемогенеза

     117



           86    30


                        29

           162   28
     126

                        31


           161   32



     127
Модель эволюционного сиcтемогенеза
                                                                                                                   Действие №
                              8                                                                                   1    4    13
                              3                 9

                                                6




                                                                                                 интер-нейронов
                                                                        10
                                                1




                                                                                                   Активность
        0
0                             1                           2                            4
                                            2                           11
        13                                  7
                          5        4
                                            12                           - состояние
                                                               5
    5                         3
                                                              10         - действие
                    31

                    29

                    27
        # нейрона




                    25

                    23

                    21

                    19

                    17

                    15
                         30   35       40       45   50   55       60        65   70       75   80       85       90

                                                               Время
Модель эволюционного сиcтемогенеза
         Эволюция локомоции
Обучение в теории функциональных систем


        Генерация                    Реализация
        (и фиксация)                  функции и
            новой                   предсказание
      функциональной                 результата
           системы                    действий




                    Детекция рассогла-
                         сования
Обучение в теории функциональных систем


Теория функциональных систем           Модели нейронных
 Обучение происходит за счет                 сетей
  формирования новых               Обучение происходит за счет
  функциональных систем             изменения связей в сети
  путем «надстройки»
  имеющихся систем
 Имеющиеся системы                Имеющиеся связи
  сохраняются                       нарушаются
 На нейрональном уровне           На нейрональном уровне
  надстройка функциональной         происходит изменение связей
  системы выражается в              между всеми активными
  специализации нейронов            нейронами
Обучение в теории функциональных систем

  Распознавание образов (категоризация)
  Требования
    для эффективного обучения необходимо
     формировать нейрональные группы уже при
     однократном столкновении с проблемой
    для сохранения памяти, новые группы не
     должны нарушать работу старых
  Построение конкуренции между
  областями притяжения динамики
Генерация Реализация Рассогласование
 Новые (значимые) признаки проблемной ситуации связываются с
  действиями
 История генерации ФС формирует новую память
 Специализация нейронов позволяет сохранить имеющуюся
  память
Генерация Реализация Рассогласование

 Категоризация и воспроизведение
Генерация Реализация Рассогласование
Генерация Реализация Рассогласование

 Сравнение точности
  категоризации с
  аналогичным подходом
   Вероятность
    правильного отклика
    сети в ответ на
    зашумленный образ.
    а) Предложенная модель
    б)Ассоциативная сеть
    Хопфилда.
     Р1- вероятность молчания
      активного нейрона
      исходного паттерна
     Р2 – вероятность
      активации нейрона, не
      принадлежащего
      исходному паттерну.
Генерация Реализация Рассогласование

 Для достижения результата в новых условиях
  обычно необходима последовательность действий
 Сформированная динамическая цепочка активаций
  специализированных нейронов дает возможность
  предсказания
Генерация Реализация Рассогласование
 Системогенез нужен, когда одна из имеющихся систем не
  может получить свой результат
 Если системогенез происходит за счет специализации, то
  откуда нейроны, которые могут подключиться к системе,
  узнают, что пора специализироваться?
 Знать о проблеме могут только клетки конкретного АРД.
  Что это за клетки?
Динамическая модель ФС
 Задача: обучение цепочкам целенаправленных
  действий в среде с конкурирующими целями
 Элементарная ФС
   Активируется в проблемном состоянии для
    выполнения необходимых действий
   После достижения целевого состояния
    деактивируется.
  а)                                     б)




   Рис. а) Фазовая плоскость функциональной системы. б) Динамика функциональной
   системы при воздействии управляющих импульсов
Эксперименты

                                              0000
«Жизнь мыши»
                                1000   0100          0010   0001

FS1: 0000 – нора спать
FS2: 0001 – нора         1100   1010    1001         0110   0101   0011
размножаться
FS3: 1010 – пища                1110    1101         1011   0111
FS4: 0111 – вода
                                              1111
Эксперименты
 Среда с несколькими целями
   до обучения             после обучения
Динамическая модель ФС
 Среда с несколькими целями
   рост числа вторичных систем при обучении
Эксперименты
 Сравнение с обучением с подкреплением
    Адаптация агента в нестационарной среде и конструкция
       альтернативных цепочек действий

       1111                             1111                         1111


1101           0111              1101            0111         1101          0111
                                                        или
1001           0011              1001            0011         1001          0011


       0001                             0001                         0001


       0000                             0000                         0000



  50 % одно из красных ребер удалено в каждом опыте
  (переход невозможен, среда нестационарная)
Эксперименты
 Сравнение с обучением с подкреплением
      Адаптация агента в нестационарной среде и конструкция
        альтернативных цепочек действий




Количество элементарных действий до цели в зависимости от номера попытки. DS –
предложенная модель; Q – алгоритм обучения с подкреплением Q-learning при различных
параметрах фактора обучения (LF) и дисконтирующего фактора (DF).
Будущее искусственного
         интеллекта
 Алгоритмы интеллектуальных систем,
  основанные на «грубой» вычислительной силе
  катастрофично неэффективны
 Вычислительных возможностей современных
  компьютеров с лихвой достаточно для
  обеспечения интеллектуального поведения
 В любой момент может быть найден подход, на
  порядки повышающий вычислительную
  эффективность интеллектуальных систем
 Одно из перспективных направлений поиска –
  нейроморфные системы – системы основанные на
  интеллектуальных алгоритмах «подсмотренных»
  у живых систем.

Contenu connexe

En vedette

Михаил Черномордиков
Михаил ЧерномордиковМихаил Черномордиков
Михаил Черномордиков.toster
 
Deep learning: technology overview and trends
Deep learning: technology overview and trendsDeep learning: technology overview and trends
Deep learning: technology overview and trendsRussia.AI
 
Using neural networks methods in reinforcement learning tasks
Using neural networks methods in reinforcement learning tasksUsing neural networks methods in reinforcement learning tasks
Using neural networks methods in reinforcement learning tasksRussia.AI
 
Михаил Бурцев, МФТИ, основатель DeepHack, «Последние хиты глубокого обучения»
Михаил Бурцев, МФТИ, основатель DeepHack, «Последние хиты глубокого обучения»Михаил Бурцев, МФТИ, основатель DeepHack, «Последние хиты глубокого обучения»
Михаил Бурцев, МФТИ, основатель DeepHack, «Последние хиты глубокого обучения»Mail.ru Group
 
Владимир Гулин, Mail.Ru Group, Learning to rank using clickthrough data
Владимир Гулин, Mail.Ru Group, Learning to rank using clickthrough dataВладимир Гулин, Mail.Ru Group, Learning to rank using clickthrough data
Владимир Гулин, Mail.Ru Group, Learning to rank using clickthrough dataMail.ru Group
 
Artificial Intelligence: investment trends and applications, H1 2016
Artificial Intelligence: investment trends and applications, H1 2016Artificial Intelligence: investment trends and applications, H1 2016
Artificial Intelligence: investment trends and applications, H1 2016Russia.AI
 

En vedette (6)

Михаил Черномордиков
Михаил ЧерномордиковМихаил Черномордиков
Михаил Черномордиков
 
Deep learning: technology overview and trends
Deep learning: technology overview and trendsDeep learning: technology overview and trends
Deep learning: technology overview and trends
 
Using neural networks methods in reinforcement learning tasks
Using neural networks methods in reinforcement learning tasksUsing neural networks methods in reinforcement learning tasks
Using neural networks methods in reinforcement learning tasks
 
Михаил Бурцев, МФТИ, основатель DeepHack, «Последние хиты глубокого обучения»
Михаил Бурцев, МФТИ, основатель DeepHack, «Последние хиты глубокого обучения»Михаил Бурцев, МФТИ, основатель DeepHack, «Последние хиты глубокого обучения»
Михаил Бурцев, МФТИ, основатель DeepHack, «Последние хиты глубокого обучения»
 
Владимир Гулин, Mail.Ru Group, Learning to rank using clickthrough data
Владимир Гулин, Mail.Ru Group, Learning to rank using clickthrough dataВладимир Гулин, Mail.Ru Group, Learning to rank using clickthrough data
Владимир Гулин, Mail.Ru Group, Learning to rank using clickthrough data
 
Artificial Intelligence: investment trends and applications, H1 2016
Artificial Intelligence: investment trends and applications, H1 2016Artificial Intelligence: investment trends and applications, H1 2016
Artificial Intelligence: investment trends and applications, H1 2016
 

Нейроморфные системы - будущее искусственного интеллекта

  • 1. М. Бурцев Кафедра Кибернетики, НИЯУ МИФИ Лаб. Нейроинтеллекта и нейроморфных систем, Курчатовский НБИКC-Центр НИИ Нормальной физиологии им. П.К. Анохина РАМН Институт прикладной математики им. М.В. Келдыша РАН
  • 2. Что такое Искусственный интеллект (ИИ)?  Искусственный интеллект - интеллектуальные машины и область компьютерных наук, которая стремится их создать.  Основное свойство Homo sapiens человека разумного – разум, может быть настолько точно описан, что может быть воспроизведен машиной.
  • 3. Вычисления и интеллект  IBM Deep Blue (1997)  2 108 позиций в секунду  11 GFLOPS  IBM Watson (2011)  2880 POWER7 processor cores  16 Tб of RAM  500 Гб/с  80 TFLOPS
  • 8. Два пути мозг можно искусственные Нейроны передают смоделировать нейронные электрические сигналы электрической схемой сети Человеческий интеллект компьютер совершает основан на манипуляции манипуляции с искусственный с символами символами интеллект
  • 9. История ИИ • 1958, H. A. Simon and Allen Newell: "within ten years a digital computer will be the world's chess champion" and "within ten years a digital computer will discover and prove an important new mathematical theorem." • 1965, H. A. Simon: "machines will be capable, within twenty years, of doing any work a man can do." • 1967, Marvin Minsky: "Within a generation ... the problem of creating 'artificial intelligence' will substantially be solved." • 1970, Marvin Minsky: "In from three to eight years we will have a machine with the general intelligence of an average human being."
  • 11. А что же нейробиологи?
  • 12. А что же нейробиологи?  H. Markram (104 нейронов, 108 синапсов)  Смоделирована кортикальная колонка
  • 13. А что же нейробиологи?  E. Ижикевич (1011 нейронов, 1015 синапсов)  Воспроизведены частоты спайковой активности различных типов корковых нейронов.  Ритмы и волны распространения спонтанной активности по своим параметрам похожи на наблюдаемые in vivo.  Модельный фМРТ похож на регистриуемый на человеке.  Пертрубация одного спайка (из миллионов) ведет к перестройки активности всей сети за доли секунды.
  • 15. Проблема Интеллект человека является очень сложным объектом Прямое создание целостной теории очень трудно
  • 16. БУДУЩЕЕ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА? ТРЕБУЕТСЯ ПЕРЕЗАГРУЗКА!
  • 17. Нейроморфные системы искусственного интеллекта Как самоорганизация миллиардов адаптивных элементов приводит к возникновению системных когнитивных процессов? •Искусственный интеллект основанный на принципах работы мозга •Пути повышения эффективности естественного и искусственного интеллекта
  • 18. Теория функциональных систем отбор развитие проблема обучение
  • 19. Модель эволюционного сиcтемогенеза  Эволюция нейросетевых агентов в среде с иерархией целей  Задача: обучение цепочкам целенаправленных действий в среде с конкурирующими целями
  • 20. Модель эволюционного сиcтемогенеза 700 600 номер поведенческой стратегии 500 400 300 200 100 0 3000 приспособленность 2000 1000 0 0 1000 2000 поколения 3000 4000 5000
  • 22. Модель эволюционного сиcтемогенеза Действие № 8 1 4 13 3 9 6 интер-нейронов 10 1 Активность 0 0 1 2 4 2 11 13 7 5 4 12 - состояние 5 5 3 10 - действие 31 29 27 # нейрона 25 23 21 19 17 15 30 35 40 45 50 55 60 65 70 75 80 85 90 Время
  • 24. Обучение в теории функциональных систем Генерация Реализация (и фиксация) функции и новой предсказание функциональной результата системы действий Детекция рассогла- сования
  • 25. Обучение в теории функциональных систем Теория функциональных систем Модели нейронных  Обучение происходит за счет сетей формирования новых  Обучение происходит за счет функциональных систем изменения связей в сети путем «надстройки» имеющихся систем  Имеющиеся системы  Имеющиеся связи сохраняются нарушаются  На нейрональном уровне  На нейрональном уровне надстройка функциональной происходит изменение связей системы выражается в между всеми активными специализации нейронов нейронами
  • 26. Обучение в теории функциональных систем  Распознавание образов (категоризация)  Требования  для эффективного обучения необходимо формировать нейрональные группы уже при однократном столкновении с проблемой  для сохранения памяти, новые группы не должны нарушать работу старых  Построение конкуренции между областями притяжения динамики
  • 27. Генерация Реализация Рассогласование  Новые (значимые) признаки проблемной ситуации связываются с действиями  История генерации ФС формирует новую память  Специализация нейронов позволяет сохранить имеющуюся память
  • 28. Генерация Реализация Рассогласование  Категоризация и воспроизведение
  • 30. Генерация Реализация Рассогласование  Сравнение точности категоризации с аналогичным подходом  Вероятность правильного отклика сети в ответ на зашумленный образ. а) Предложенная модель б)Ассоциативная сеть Хопфилда.  Р1- вероятность молчания активного нейрона исходного паттерна  Р2 – вероятность активации нейрона, не принадлежащего исходному паттерну.
  • 31. Генерация Реализация Рассогласование  Для достижения результата в новых условиях обычно необходима последовательность действий  Сформированная динамическая цепочка активаций специализированных нейронов дает возможность предсказания
  • 32. Генерация Реализация Рассогласование  Системогенез нужен, когда одна из имеющихся систем не может получить свой результат  Если системогенез происходит за счет специализации, то откуда нейроны, которые могут подключиться к системе, узнают, что пора специализироваться?  Знать о проблеме могут только клетки конкретного АРД. Что это за клетки?
  • 33. Динамическая модель ФС  Задача: обучение цепочкам целенаправленных действий в среде с конкурирующими целями  Элементарная ФС  Активируется в проблемном состоянии для выполнения необходимых действий  После достижения целевого состояния деактивируется. а) б) Рис. а) Фазовая плоскость функциональной системы. б) Динамика функциональной системы при воздействии управляющих импульсов
  • 34. Эксперименты 0000 «Жизнь мыши» 1000 0100 0010 0001 FS1: 0000 – нора спать FS2: 0001 – нора 1100 1010 1001 0110 0101 0011 размножаться FS3: 1010 – пища 1110 1101 1011 0111 FS4: 0111 – вода 1111
  • 35. Эксперименты  Среда с несколькими целями до обучения после обучения
  • 36. Динамическая модель ФС  Среда с несколькими целями рост числа вторичных систем при обучении
  • 37. Эксперименты  Сравнение с обучением с подкреплением  Адаптация агента в нестационарной среде и конструкция альтернативных цепочек действий 1111 1111 1111 1101 0111 1101 0111 1101 0111 или 1001 0011 1001 0011 1001 0011 0001 0001 0001 0000 0000 0000 50 % одно из красных ребер удалено в каждом опыте (переход невозможен, среда нестационарная)
  • 38. Эксперименты  Сравнение с обучением с подкреплением  Адаптация агента в нестационарной среде и конструкция альтернативных цепочек действий Количество элементарных действий до цели в зависимости от номера попытки. DS – предложенная модель; Q – алгоритм обучения с подкреплением Q-learning при различных параметрах фактора обучения (LF) и дисконтирующего фактора (DF).
  • 39. Будущее искусственного интеллекта  Алгоритмы интеллектуальных систем, основанные на «грубой» вычислительной силе катастрофично неэффективны  Вычислительных возможностей современных компьютеров с лихвой достаточно для обеспечения интеллектуального поведения  В любой момент может быть найден подход, на порядки повышающий вычислительную эффективность интеллектуальных систем  Одно из перспективных направлений поиска – нейроморфные системы – системы основанные на интеллектуальных алгоритмах «подсмотренных» у живых систем.