Для исследования механизмов работы мозга на нейронном уровне используются различные экспериментальные модели. Одна из них предполагает создание адаптивных нейрогибридных систем на основе живых клеток. Такие системы должны помочь и в понимании когнитивных (познавательных) функций мозга, и в решении прикладных задач.
В биомедицинских технологиях их можно будет применять для изучения механизмов нейропатологий и тестирования новых лекарственных препаратов, воздействующих на мозг. А в информационных технологиях и робототехнике они в перспективе должны по эффективности превзойти традиционные системы управления и обработки данных, поскольку базируются на механизмах пластичности и обучения сетей живых нейронов.
Подход к проблеме
Клетки мозга способны осуществлять очень широкий круг преобразований входных сигналов — в зависимости как от собственного состояния, так и от характеристик стимула. Эти сигналы распространяются по нейронной сети, вызывая поочередную активацию распределенных клеточных структур, которые отвечают паттернами биоэлектрической активности.
Для их исследования принципиально важна возможность одновременного снятия сигналов с миллионов различных нейронов, что в настоящее время неосуществимо. Мультиэлектродная регистрация доступна для локальных сетей, включающих не более сотен нейронов, для которых были получены экспериментальные подтверждения того, что там существуют спонтанно повторяющиеся последовательности импульсов (спайков). Последовательности разрядов активных нейронов имеют различные пространственные рисунки, следующие друг за другом в определенном порядке. Эти паттерны представляют собой сигналы коллективной активности, характеризующиеся наличием как временны‹х, так и пространственных корреляций. По сети проходит импульс возбуждения, вызывая поочередную синхронную активацию групп нейронов и формируя таким образом самовоспроизводящийся пространственно-временной паттерн. Механизмы его генерации, а также методы детектирования и анализа в последние годы интенсивно исследуют ученые многих стран, в том числе и России.
Использование культур диссоциированных клеток мозга для искусственного формирования нейронных сетей с целью изучения клеточных и сетевых механизмов, лежащих в основе процессов обработки информации нейронными системами, — одно из наиболее динамично развивающихся направлений современной нейронауки.
Многообещающи, в частности, его приложения в области создания неклассических вычислительных систем [1]. Разработанные в 1970-х годах методы культивирования нейронов в дальнейшем постоянно совершенствовались, будучи востребованными при исследовании информационных функций, в частности обучения, памяти, адаптивного управления.
Динамика развития спонтанной и вызванной электрофизиологической активности в культуре диссоциированных клеток — один из ключевых вопросов для понимания, как же формируются нейронные сети, каково их значение в пластичности и адаптации мозга к когнитивным нагрузкам.
Для регистрации данной активности клеточной сети и передачи паттерна электрической стимуляции, соответствующей тому сигналу, что поступает от сенсоров из окружающей среды, используется микроэлектродная матричная система. Матрица с большим количеством электродов (от 60 до 4096/мм2 и более) позволяет детальней представить этот процесс. Каждый отдельный электрод детектирует композитный сигнал, индуцированный одной или несколькими клетками.
Наиболее важные аспекты здесь — выделение информационной составляющей сигнала и статистический анализ полученных данных активности. В этом плане еще остается немало вопросов. Например, проблема идентификации вызванных сигналов в сети пока решена не полностью ввиду того, что сложный сетевой ответ (вызванный паттерн активности) на стимул формируется на фоне различных базовых уровней спонтанной активности в сети. Обычно сигналы преобразуются в бинарные последовательности спайков на основе порогового метода детекции и сортируются по форме спайков с помощью вейвлет-преобразования. Кроме того, спайки, детектируемые от различных клеток, могут иметь разную значимость для корреляционной картины сетевой динамики.
С 2012 г. «аниматный проект» стартовал и в НИЦ «Курчатовский институт».
Первые шаги
Термин «анимат» (англ. animal + automat) обозначает робота с поведением животного [2]. Основной идеей при создании гибридных систем, в которых роботом управляют живые нейронные сети, было то, что обучающаяся in vitro сеть должна взаимодействовать с внешней средой. Первый нейроанимат — творение итальянских исследователей под руководством профессора Ф.А.Мусса-Ивальди — представлял собой механическое «тело», снабженное «органом чувств — глазами» — светочувствительными датчиками (фотодиодами) [3]. Для управления роботом использовались сигналы, регистрируемые с нейронов срезов мозга морской миноги. При активации фотодиодов робота на нервные клетки подавалась последовательность стимулов. Биоэлектрические импульсы, регистрируемые на других клетках, использовались для управления моторами робота.
Практически в то же время американец С.М.Поттер с коллегами выдвинули идею подключить к анимату культуру нейронов коры головного мозга мыши, выращенных на мультиэлектродной матрице [4, 5]. Поттер предложил рассматривать нейронную сеть как вычислительную систему с входом (паттерном стимуляции) и выходом (паттерном активности), которым можно «назначить» соответствие с определенной поведенческой функцией. Движением виртуального животного руководил так называемый вектор активности сети, представлявший собой суммированную активность на каждом из 60 регистрирующих электродов в течение 200 мс. Эти векторы классифицировались с помощью специального алгоритма, а каждому их виду «назначалось» движение робота в определенную сторону — вперед, назад, вправо, влево. В зависимости от номера сенсорного входа сеть стимулировали через один из пяти электродов. Таким образом, клетки культуры мозга получали сигнал из внешней среды через один из электродов (сенсорный вход), локализация которого зависела от текущего состояния виртуального животного. После такого воздействия регистрировалась ответная активность сети, диктующая следующий двигательный акт. В результате подобного циклического взаимодействия с виртуальной внешней средой нейроанимат демонстрировал определенную двигательную активность, хотя, как отмечали сами авторы, ее нельзя было отнести к целенаправленной.
В исследовании К.П.Докендорфа и Т.Б.ДеМарсе рассматривалась способность живых нейронов мыши, культивируемых на мультиэлектродной матрице, контролировать угол наклона и вращение симулированного самолета за счет степени активности нейронов [6]. Еще одна иллюстрация того, как можно соединять определенную характеристику нейронной сети с «поведенческой» функцией робота, — «художественный» проект, над которым лаборатория Поттера работала совместно с научной группой из Австралии. В данном случае нейронная сеть взаимодействовала с внешним миром с помощью робота-плоттера, пишущего «картины». Один из вариантов выглядел следующим образом. Фотографировался посетитель выставки, его портрет оцифровывался как матрица-растр (растеризовался) из 64 прямоугольников в разных оттенках серого. Под воздействием спонтанной активности нейроанимат-художник начинал рисовать. Далее этот рисунок также растеризовался и сравнивался с исходным цифровым портретом, после чего вычислялся вектор ошибки, на основе которого производилась стимуляция нейронной сети по 64 каналам. Ответная реакция сети использовалась для дальнейшего написания портрета.
Цикл «коррекции ошибки» повторялся один раз в несколько секунд, вся картина писалась в течение 30 мин. Запись проводилась с культуры диссоциированных кортикальных нейронов мыши, выращенных на микроэлектродной матрице. Электродные сигналы оцифровывались в реальном времени с помощью специальных аппаратных и программных средств.
В последующих работах, используя различные виды электрической стимуляции, исследователи показали, что в течение нескольких минут нейроанимат способен «обучаться» движению в требуемом направлении с шириной коридора порядка 30°. С одной стороны, детальная разработка протокола стимуляции, позволяющая вызывать, отбирать и сохранять определенные пластические изменения нейронной сети, — большой прогресс. Но с другой — нейроанимат еще не может вести себя так же, как автономный робот, управляемый программами искусственного интеллекта или даже довольно простой сетью искусственных формальных нейронов. Причины — недостаточно накоплено теоретических знаний о природе целеполагания и механизмах формирования условных рефлексов на уровне нейронной сети, не разработан аналитический аппарат пластических изменений в нейронной сети при сенсорной стимуляции и декодировании информации в эфферентной части ответной реакции мозга.
Сегодня, исследуя интерфейс (систему связей) клеточной культуры и мобильного робота, его движениями в пространстве с препятствиями управляют, как правило, на основе активности нейронной сети при ее электрической стимуляции in vitro. Интенсивность последней зависит от сигналов, «создаваемых» ультразвуковыми сенсорами анимата (т.е. в качестве органа чувств выступает «ухо»). В схеме декодирования сигнала нейронной сети используется частота импульсов на выбранных локальных ее участках. Скорость правой и левой «ноги» (например, колеса) робота линейно зависит от числа импульсов в определенном интервале времени. Когда анимат упирается в препятствие, он отъезжает назад и повторяет попытку его объехать. Был предложен способ обратной связи, который заключался в применении частотной стимуляции в случае, когда робот не мог продолжить движение. Предполагается, что стимулирование такого рода способно вызвать кратковременные функциональные изменения в нейронной сети (сетевую пластичность). Применение обратной связи приводило к тому, что робот быстрее находил путь для объезда препятствия. Данная инженерная разработка основана на фундаментальных представлениях о пластичности нейронных сетей в условиях высокочастотной стимуляции. Тем не менее влияние различных способов стимуляции на сетевую функциональную активность остается предметом дискуссии.
Наш подход к обучению анимата предполагает использование не только высокочастотных, но и низкочастотных сенсорных стимулов, лежащих в диапазоне спонтанной активности нейронов культуры. Для решения задач проекта (он так и назван — «Анимат») привлечен широкий набор мультидисциплинарных (биологических, физических, биохимических, математических, инженерных, вычислительных) методов и подходов. Подключены как обычные методики и протоколы экспериментальных исследований, стандартные программные средства, входящие в комплектацию экспериментальных установок и систем, так и оригинальные разработки авторского коллектива, полученные в ходе выполнения научно-исследовательских проектов в 2009—2014 гг.
Растим, следим, учим
Метод культивирования нервных клеток, разработанный в лаборатории клеточных технологий Нижегородской государственной медицинской академии для создания анимата, соответствует мировым стандартам и широко применяется сотрудниками лаборатории для анализа различных функций нервной системы как в норме, так и при патологии [7]. Для исследований берутся 17—18-дневные эмбрионы инбредных мышей. Диссоциирование клеток достигается путем обработки ткани гиппокампа 0.25%-м трипсином. Клетки ресуспендируют (повторно переводят во взвешенное состояние) в нейробазальной среде в комплексе с биоактивной добавкой, глутамином и эмбриональной телячьей сывороткой и культивируют на мультиэлектродной матрице в течение 30—240 дней in vitro. Предварительно матрицу стерилизуют УФ-облучением и обрабатывают полиэтиленимином либо ламинином, служащими опорным субстратом для клеток, исходная плотность которых может быть различной: от 1200 до 9000 на 1 мм2. Жизнеспособность культуры поддерживается в инкубаторе в газовой смеси, содержащей 5% СО2, при температуре 35.5°С. Меняют культуральную среду через сутки после посадки на матрицу и далее один раз в два дня. Спонтанная активность регистрируется при стабильных параметрах (температуре, влажности, содержании СО2 и О2) окружающей среды [8].
Для исследования пластичности сети проводится электрическая стимуляция нейронов с помощью одного или нескольких планарных электродов [10]. Ведется поиск оптимальных параметров стимуляции, соответствующих наиболее эффективному воздействию на сеть. Сам электрический стимул — это последовательность бифазных прямоугольных импульсов. Очевидно, изменение параметров стимуляции сети должно приводить к различным эффектам в изменении пластичности нейронной сети. Последствия в некоторых случаях могут оказаться необратимыми. Поэтому, чтобы решить прикладные задачи управления биороботом, надо сначала проанализировать фундаментальные механизмы вызванных сетевых изменений при обучении локальной сети нейронов, продолжительность и воспроизводимость этих изменений, найти подходящие способы кодирования информации в сети, изучить влияние различных химических и физических факторов на исследуемые процессы.
Следует отметить важную особенность живой нейронной сети in vitro — вариабельность многих параметров активности и морфологии клеток, зависящая порой… от рук и настроения экспериментатора. Характеристики активности различных посадок (культур, полученных с одного мозга), выполненных по одной процедуре, могут отличаться на порядки. Поэтому одна из задач проекта — выбрать такие характеристики активности культур клеток, которые обладают высокой стабильностью в ходе развития клеток и могут быть использованы для оценки функционального состояния сети клеток. Кроме того, серьезным моментом в методологическом плане остается разработка новых протоколов экспериментов, в основе которых будут лежать различные паттерны электрической стимуляции. Нужно научиться воздействовать на процессы сетевой пластичности, вовлеченные в формирование функциональных связей в сети клеток аналогично связям в целом мозге.
Закрепляем и экзаменуем
Наблюдение структурно-функциональных изменений при обучении сети базируется на специальных индикаторах, предложенных нашей исследовательской группой. Под обучением в данном случае подразумевается то, что в результате внешнего воздействия изменяются набор функциональных связей, или индикаторов активности (за счет процессов пластичности сети), внутренние механизмы адаптации и кооперации клеток.
Согласно классическим представлениям об условных рефлексах, необходимый элемент в экспериментах по обучению — подкрепление. Как было показано ранее в работах группы С.Марома, роль подкрепления может играть отключение внешней электрической стимуляции при достижении заданного критерия [12—14].
В нижегородском проекте проверены другие подходы для реализации подкрепления при обучении в сети клеток in vitro [15]. За последние два десятилетия накоплено достаточно данных о том, что при обучении в синаптических соединениях между нейронами в мозге происходят изменения, идентичные наблюдаемым при длительном возбуждении нейронов в его срезах. С нашей точки зрения, изменения функциональных характеристик синапса* под воздействием внешнего паттерна электрической стимуляции — лишь часть пластических изменений, происходящих во всей нейронной сети. Фактически она, реагируя на стимуляцию, адаптивно изменяет свои собственные характеристики, которые годились для функционирования в обычных условиях, но не подходят для нормальной работы при внешней стимуляции. При этом выявленные механизмы пластичности сети направлены на поддержание гомеостаза биоэлектрической активности сети на системном уровне, обеспечивающей поддержание жизнеспособности всех элементов сети.
Предложенные нашей исследовательской группой методы детектирования и воздействия, меняющие состояние клеточной сети с помощью электрической стимуляции, воплощены в комплексе программ с определенным уровнем аппаратного абстрагирования от взаимодействия с физическими роботами. Подобный подход позволяет использовать экспериментальные феномены синаптической пластичности, адаптации функционального состояния и обучения в нейронных сетях для различных вариантов реализации адаптивного нейрогибридного интерфейса. Например, феномен появления условного физиологического отклика в нейронной сети с применением протокола обучения можно будет задействовать не только для роботов, ищущих оптимальный путь в пространстве с препятствиями, но и для интерфейсов человека с роботизированной рукой или с частями экзоскелета.
Основная функция классификации представляет собой выделение паттерна активности в различных участках нейронной сети при электрической стимуляции электродов, назначаемых как сенсорные (входные) пути. Задачу можно представить в терминологии «стимул—реакция», где под стимулом понимается конкретная кодированная последовательность электрических стимулов локальных участков сети клеток, а под реакцией — определенный пространственно-временной паттерн активности всей сети клеток в короткий промежуток времени (100—500 мс) после стимула.
Таким образом, функциональное преобразование стимула в реакцию — это обработка информации в нейронной сети, абстрагированная от конкретной реализации исполнительного устройства, что максимально эффективно разделяет общую задачу проекта на независимые выполнимые подзадачи.
Отметим, что основным недостатком экспериментальных методов изучения мозга и нейронных сетей остается высокая стоимость. Поэтому одним из главных направлений работы ученых Нейронаучного центра при ННГУ в данной области стала разработка математической модели нейронных культур. Имитируя основные функциональные возможности нервных клеток, она может использоваться для теоретических исследований. К тому же математическое моделирование обеспечивает глубокий фундаментальный взгляд на механизмы изучаемых процессов в существенно расширенном диапазоне параметров по сравнению с экспериментальным материалом [16].
Сопоставление экспериментальных и модельных данных позволяет сделать предположения о тех или иных изменениях в архитектуре сети, интерпретировать результаты эксперимента, корректировать протоколы. Например, нейроны коры головного мозга и культур клеток, высаженных на мультиэлектродные матрицы, способны генерировать распределенные по степенному закону кластеры биоэлектрических разрядов как спонтанно, так и под воздействием электрической и фармакологической стимуляции. Среди последних результатов имеются также свидетельства наличия степенной статистики нейронной активности, записанной с части целого мозга in vivo. Разрабатываемые нами модели роста нейронной сети, уже предложенные для математического описания паттернов активности в нейронных сетях мозга, учитывают различные аспекты их функционирования в мозге или культуре.
Абстрактные модели предлагают феноменологическое описание критического поведения без учета внутренних механизмов самоорганизации. Существуют и биологически детализированные модели, принимающие во внимание динамику отдельных элементов сети и связей между ними. Как мы рассчитываем, наша модель обучения биологических нейронных сетей будет воспроизводить поведенческие режимы, характерные для обычной мозговой активности, возникающие самопроизвольно как результат взаимодействий между анатомическими и динамическими процессами, описывать спонтанную активность, чувствительность к изменениям в параметрах отдельных нейронов, появление волн и ритмов.
* * *
В заключение еще раз подчеркнем: реализация проекта «Анимат», над которым работают нижегородские ученые, будет способствовать развитию технологий, связанных с использованием живых нейронов мозга для решения информационных задач в искусственных системах и устройствах. Когда будет достигнут реальный практический результат, пока, конечно, прогнозировать сложно. Но не менее важна и фундаментальная задача проекта: исследовать адаптивные изменения нейронной сети и сетевых механизмов пластичности и обучения в условиях бинаправленного (регистрация/стимуляции) аппаратно-программного интерфейса первичных нейронных культур с исполнительными устройствами (роботами). Проект ориентирован на гибкое соединение теоретических и экспериментальных подходов, и мы искренне надеемся, что будет сделан еще один шаг на пути познания вселенной мозга.
Авторы: И.В.Мухина, А.С.Пимашкин, В.Б.Казанцев
Работа поддержана Российским фондом фундаментальных исследований, Российской федеральной программой «Научные и научно-педагогические кадры инновационной России»(2009—2013) и Российским научным фондом.
Подход к проблеме
Клетки мозга способны осуществлять очень широкий круг преобразований входных сигналов — в зависимости как от собственного состояния, так и от характеристик стимула. Эти сигналы распространяются по нейронной сети, вызывая поочередную активацию распределенных клеточных структур, которые отвечают паттернами биоэлектрической активности.
Для их исследования принципиально важна возможность одновременного снятия сигналов с миллионов различных нейронов, что в настоящее время неосуществимо. Мультиэлектродная регистрация доступна для локальных сетей, включающих не более сотен нейронов, для которых были получены экспериментальные подтверждения того, что там существуют спонтанно повторяющиеся последовательности импульсов (спайков). Последовательности разрядов активных нейронов имеют различные пространственные рисунки, следующие друг за другом в определенном порядке. Эти паттерны представляют собой сигналы коллективной активности, характеризующиеся наличием как временны‹х, так и пространственных корреляций. По сети проходит импульс возбуждения, вызывая поочередную синхронную активацию групп нейронов и формируя таким образом самовоспроизводящийся пространственно-временной паттерн. Механизмы его генерации, а также методы детектирования и анализа в последние годы интенсивно исследуют ученые многих стран, в том числе и России.
Использование культур диссоциированных клеток мозга для искусственного формирования нейронных сетей с целью изучения клеточных и сетевых механизмов, лежащих в основе процессов обработки информации нейронными системами, — одно из наиболее динамично развивающихся направлений современной нейронауки.
Многообещающи, в частности, его приложения в области создания неклассических вычислительных систем [1]. Разработанные в 1970-х годах методы культивирования нейронов в дальнейшем постоянно совершенствовались, будучи востребованными при исследовании информационных функций, в частности обучения, памяти, адаптивного управления.
Динамика развития спонтанной и вызванной электрофизиологической активности в культуре диссоциированных клеток — один из ключевых вопросов для понимания, как же формируются нейронные сети, каково их значение в пластичности и адаптации мозга к когнитивным нагрузкам.
Для регистрации данной активности клеточной сети и передачи паттерна электрической стимуляции, соответствующей тому сигналу, что поступает от сенсоров из окружающей среды, используется микроэлектродная матричная система. Матрица с большим количеством электродов (от 60 до 4096/мм2 и более) позволяет детальней представить этот процесс. Каждый отдельный электрод детектирует композитный сигнал, индуцированный одной или несколькими клетками.
Наиболее важные аспекты здесь — выделение информационной составляющей сигнала и статистический анализ полученных данных активности. В этом плане еще остается немало вопросов. Например, проблема идентификации вызванных сигналов в сети пока решена не полностью ввиду того, что сложный сетевой ответ (вызванный паттерн активности) на стимул формируется на фоне различных базовых уровней спонтанной активности в сети. Обычно сигналы преобразуются в бинарные последовательности спайков на основе порогового метода детекции и сортируются по форме спайков с помощью вейвлет-преобразования. Кроме того, спайки, детектируемые от различных клеток, могут иметь разную значимость для корреляционной картины сетевой динамики.
Исследования в области создания адаптивных нейрокогнитивных систем, в частности нейроаниматов, управляемых обучающимися культурами живых клеток мозга, проводятся в настоящее время в ведущих зарубежных научно-технологических центрах: в Институте технологий Джорджии, Массачусетском институте технологий (США), Институте мозга РИКЕН (Япония), Итальянском институте технологий, Израильском институте технологий в Хайфе, Научном центре Фрайбурга (Германия) и др. (аналогичные структуры сейчас создаются в Великобритании и Китае). В России изучение функциональной организации живых нейронных сетей и сопряжения живых клеток с электронными устройствами в целях раскрытия механизмов обработки информации, обучения и памяти началось в 2007 г. в Нейронаучном центре, объединяющем Нижегородскую государственную медицинскую академию, Нижегородский государственный университет и Институт прикладной физики РАН.
С 2012 г. «аниматный проект» стартовал и в НИЦ «Курчатовский институт».
Первые шаги
Термин «анимат» (англ. animal + automat) обозначает робота с поведением животного [2]. Основной идеей при создании гибридных систем, в которых роботом управляют живые нейронные сети, было то, что обучающаяся in vitro сеть должна взаимодействовать с внешней средой. Первый нейроанимат — творение итальянских исследователей под руководством профессора Ф.А.Мусса-Ивальди — представлял собой механическое «тело», снабженное «органом чувств — глазами» — светочувствительными датчиками (фотодиодами) [3]. Для управления роботом использовались сигналы, регистрируемые с нейронов срезов мозга морской миноги. При активации фотодиодов робота на нервные клетки подавалась последовательность стимулов. Биоэлектрические импульсы, регистрируемые на других клетках, использовались для управления моторами робота.
Практически в то же время американец С.М.Поттер с коллегами выдвинули идею подключить к анимату культуру нейронов коры головного мозга мыши, выращенных на мультиэлектродной матрице [4, 5]. Поттер предложил рассматривать нейронную сеть как вычислительную систему с входом (паттерном стимуляции) и выходом (паттерном активности), которым можно «назначить» соответствие с определенной поведенческой функцией. Движением виртуального животного руководил так называемый вектор активности сети, представлявший собой суммированную активность на каждом из 60 регистрирующих электродов в течение 200 мс. Эти векторы классифицировались с помощью специального алгоритма, а каждому их виду «назначалось» движение робота в определенную сторону — вперед, назад, вправо, влево. В зависимости от номера сенсорного входа сеть стимулировали через один из пяти электродов. Таким образом, клетки культуры мозга получали сигнал из внешней среды через один из электродов (сенсорный вход), локализация которого зависела от текущего состояния виртуального животного. После такого воздействия регистрировалась ответная активность сети, диктующая следующий двигательный акт. В результате подобного циклического взаимодействия с виртуальной внешней средой нейроанимат демонстрировал определенную двигательную активность, хотя, как отмечали сами авторы, ее нельзя было отнести к целенаправленной.
Пример более «интеллектуального» поведения — решение аниматом задачи переместиться к выбранному объекту, но не столкнуться с ним. Проще всего реализовать такую функцию, используя зависимость сетевой активности от частоты стимуляции. В данном случае активность характеризовали средней частотой спайков всей сети в течение 100 мс после стимуляции. Последняя состояла из двух разрядов, интервал между которыми задавался пропорциональным расстоянию до объекта. В свою очередь, активность сети определяла продолжительность (или скорость) движения анимата. Направление движения (направо вперед, налево вперед, направо назад, налево назад) диктовалось положением объекта по отношению к анимату (справа, слева, далеко, близко) и, по сути, не зависело от активности нейронной сети.
В исследовании К.П.Докендорфа и Т.Б.ДеМарсе рассматривалась способность живых нейронов мыши, культивируемых на мультиэлектродной матрице, контролировать угол наклона и вращение симулированного самолета за счет степени активности нейронов [6]. Еще одна иллюстрация того, как можно соединять определенную характеристику нейронной сети с «поведенческой» функцией робота, — «художественный» проект, над которым лаборатория Поттера работала совместно с научной группой из Австралии. В данном случае нейронная сеть взаимодействовала с внешним миром с помощью робота-плоттера, пишущего «картины». Один из вариантов выглядел следующим образом. Фотографировался посетитель выставки, его портрет оцифровывался как матрица-растр (растеризовался) из 64 прямоугольников в разных оттенках серого. Под воздействием спонтанной активности нейроанимат-художник начинал рисовать. Далее этот рисунок также растеризовался и сравнивался с исходным цифровым портретом, после чего вычислялся вектор ошибки, на основе которого производилась стимуляция нейронной сети по 64 каналам. Ответная реакция сети использовалась для дальнейшего написания портрета.
Цикл «коррекции ошибки» повторялся один раз в несколько секунд, вся картина писалась в течение 30 мин. Запись проводилась с культуры диссоциированных кортикальных нейронов мыши, выращенных на микроэлектродной матрице. Электродные сигналы оцифровывались в реальном времени с помощью специальных аппаратных и программных средств.
В последующих работах, используя различные виды электрической стимуляции, исследователи показали, что в течение нескольких минут нейроанимат способен «обучаться» движению в требуемом направлении с шириной коридора порядка 30°. С одной стороны, детальная разработка протокола стимуляции, позволяющая вызывать, отбирать и сохранять определенные пластические изменения нейронной сети, — большой прогресс. Но с другой — нейроанимат еще не может вести себя так же, как автономный робот, управляемый программами искусственного интеллекта или даже довольно простой сетью искусственных формальных нейронов. Причины — недостаточно накоплено теоретических знаний о природе целеполагания и механизмах формирования условных рефлексов на уровне нейронной сети, не разработан аналитический аппарат пластических изменений в нейронной сети при сенсорной стимуляции и декодировании информации в эфферентной части ответной реакции мозга.
Сегодня, исследуя интерфейс (систему связей) клеточной культуры и мобильного робота, его движениями в пространстве с препятствиями управляют, как правило, на основе активности нейронной сети при ее электрической стимуляции in vitro. Интенсивность последней зависит от сигналов, «создаваемых» ультразвуковыми сенсорами анимата (т.е. в качестве органа чувств выступает «ухо»). В схеме декодирования сигнала нейронной сети используется частота импульсов на выбранных локальных ее участках. Скорость правой и левой «ноги» (например, колеса) робота линейно зависит от числа импульсов в определенном интервале времени. Когда анимат упирается в препятствие, он отъезжает назад и повторяет попытку его объехать. Был предложен способ обратной связи, который заключался в применении частотной стимуляции в случае, когда робот не мог продолжить движение. Предполагается, что стимулирование такого рода способно вызвать кратковременные функциональные изменения в нейронной сети (сетевую пластичность). Применение обратной связи приводило к тому, что робот быстрее находил путь для объезда препятствия. Данная инженерная разработка основана на фундаментальных представлениях о пластичности нейронных сетей в условиях высокочастотной стимуляции. Тем не менее влияние различных способов стимуляции на сетевую функциональную активность остается предметом дискуссии.
Наш подход к обучению анимата предполагает использование не только высокочастотных, но и низкочастотных сенсорных стимулов, лежащих в диапазоне спонтанной активности нейронов культуры. Для решения задач проекта (он так и назван — «Анимат») привлечен широкий набор мультидисциплинарных (биологических, физических, биохимических, математических, инженерных, вычислительных) методов и подходов. Подключены как обычные методики и протоколы экспериментальных исследований, стандартные программные средства, входящие в комплектацию экспериментальных установок и систем, так и оригинальные разработки авторского коллектива, полученные в ходе выполнения научно-исследовательских проектов в 2009—2014 гг.
Растим, следим, учим
Метод культивирования нервных клеток, разработанный в лаборатории клеточных технологий Нижегородской государственной медицинской академии для создания анимата, соответствует мировым стандартам и широко применяется сотрудниками лаборатории для анализа различных функций нервной системы как в норме, так и при патологии [7]. Для исследований берутся 17—18-дневные эмбрионы инбредных мышей. Диссоциирование клеток достигается путем обработки ткани гиппокампа 0.25%-м трипсином. Клетки ресуспендируют (повторно переводят во взвешенное состояние) в нейробазальной среде в комплексе с биоактивной добавкой, глутамином и эмбриональной телячьей сывороткой и культивируют на мультиэлектродной матрице в течение 30—240 дней in vitro. Предварительно матрицу стерилизуют УФ-облучением и обрабатывают полиэтиленимином либо ламинином, служащими опорным субстратом для клеток, исходная плотность которых может быть различной: от 1200 до 9000 на 1 мм2. Жизнеспособность культуры поддерживается в инкубаторе в газовой смеси, содержащей 5% СО2, при температуре 35.5°С. Меняют культуральную среду через сутки после посадки на матрицу и далее один раз в два дня. Спонтанная активность регистрируется при стабильных параметрах (температуре, влажности, содержании СО2 и О2) окружающей среды [8].
Культивирование клеток производится на мультиэлектродных матрицах систем электрофизиологической регистрации MED64 (Alpha MED Science, Япония) и MEA120 (MultiChannel Systems, Германия). Это оборудование позволяет вести многоканальную (60, 64, 120 и более) регистрацию электрической активности нейронной сети, а также стимулировать клетки одновременно в разных участках культуры. Каждый электрод детектирует сигналы нейронов, расположенных на расстояниях до 30 мкм от него. Для активации нейронов культуры клеток мозга используется четырехканальный стимулятор STG4004 (MultiChannel Systems, Германия), а также еще один, созданный коллективом научной группы. Эксперимент управляется и данные обрабатываются авторским программным обеспечением [9].
Для исследования пластичности сети проводится электрическая стимуляция нейронов с помощью одного или нескольких планарных электродов [10]. Ведется поиск оптимальных параметров стимуляции, соответствующих наиболее эффективному воздействию на сеть. Сам электрический стимул — это последовательность бифазных прямоугольных импульсов. Очевидно, изменение параметров стимуляции сети должно приводить к различным эффектам в изменении пластичности нейронной сети. Последствия в некоторых случаях могут оказаться необратимыми. Поэтому, чтобы решить прикладные задачи управления биороботом, надо сначала проанализировать фундаментальные механизмы вызванных сетевых изменений при обучении локальной сети нейронов, продолжительность и воспроизводимость этих изменений, найти подходящие способы кодирования информации в сети, изучить влияние различных химических и физических факторов на исследуемые процессы.
Существенную роль в реализации проекта играют методы обработки данных. На первом этапе проводится поиск (детектирование) сигналов на уровне шума на основе порогового критерия. Данный способ хорошо отработан и вполне надежен для используемых экспериментальных установок MEA120 и MED64. Результат первого этапа — растры биоэлектрических импульсов, в которых содержится информация о временах их возникновения на каждом электроде матрицы. Далее полученные растры анализируются с целью выявить статистические индикаторы, отражающие функциональное состояние сети [11].
Следует отметить важную особенность живой нейронной сети in vitro — вариабельность многих параметров активности и морфологии клеток, зависящая порой… от рук и настроения экспериментатора. Характеристики активности различных посадок (культур, полученных с одного мозга), выполненных по одной процедуре, могут отличаться на порядки. Поэтому одна из задач проекта — выбрать такие характеристики активности культур клеток, которые обладают высокой стабильностью в ходе развития клеток и могут быть использованы для оценки функционального состояния сети клеток. Кроме того, серьезным моментом в методологическом плане остается разработка новых протоколов экспериментов, в основе которых будут лежать различные паттерны электрической стимуляции. Нужно научиться воздействовать на процессы сетевой пластичности, вовлеченные в формирование функциональных связей в сети клеток аналогично связям в целом мозге.
Закрепляем и экзаменуем
Наблюдение структурно-функциональных изменений при обучении сети базируется на специальных индикаторах, предложенных нашей исследовательской группой. Под обучением в данном случае подразумевается то, что в результате внешнего воздействия изменяются набор функциональных связей, или индикаторов активности (за счет процессов пластичности сети), внутренние механизмы адаптации и кооперации клеток.
Согласно классическим представлениям об условных рефлексах, необходимый элемент в экспериментах по обучению — подкрепление. Как было показано ранее в работах группы С.Марома, роль подкрепления может играть отключение внешней электрической стимуляции при достижении заданного критерия [12—14].
В нижегородском проекте проверены другие подходы для реализации подкрепления при обучении в сети клеток in vitro [15]. За последние два десятилетия накоплено достаточно данных о том, что при обучении в синаптических соединениях между нейронами в мозге происходят изменения, идентичные наблюдаемым при длительном возбуждении нейронов в его срезах. С нашей точки зрения, изменения функциональных характеристик синапса* под воздействием внешнего паттерна электрической стимуляции — лишь часть пластических изменений, происходящих во всей нейронной сети. Фактически она, реагируя на стимуляцию, адаптивно изменяет свои собственные характеристики, которые годились для функционирования в обычных условиях, но не подходят для нормальной работы при внешней стимуляции. При этом выявленные механизмы пластичности сети направлены на поддержание гомеостаза биоэлектрической активности сети на системном уровне, обеспечивающей поддержание жизнеспособности всех элементов сети.
Для создания бинаправленного интерфейса регистрации/стимуляции культуры клеток с исполнительными устройствами используется аппаратно-программный комплекс, разработанный авторским коллективом проекта, объединяющим научных сотрудников и инженеров как НижГМА, так и ННГУ. До сих пор в мире не создано адекватной модели обратной связи в реальном времени, контролирующей активность анимата: мешает отсутствие методов, позволяющих адекватно оценить функционально значимые параметры и соответствующим образом воздействовать на живую нейронную сеть. Поэтому в ходе выполнения проекта прежде всего планируется разработать новые индикаторы функционального состояния сети — основанные на оценке эффективности передачи сигналов между электродами.
Предложенные нашей исследовательской группой методы детектирования и воздействия, меняющие состояние клеточной сети с помощью электрической стимуляции, воплощены в комплексе программ с определенным уровнем аппаратного абстрагирования от взаимодействия с физическими роботами. Подобный подход позволяет использовать экспериментальные феномены синаптической пластичности, адаптации функционального состояния и обучения в нейронных сетях для различных вариантов реализации адаптивного нейрогибридного интерфейса. Например, феномен появления условного физиологического отклика в нейронной сети с применением протокола обучения можно будет задействовать не только для роботов, ищущих оптимальный путь в пространстве с препятствиями, но и для интерфейсов человека с роботизированной рукой или с частями экзоскелета.
На базе разработанного адаптивного нейроинтерфейса планируется реализовать простую информационную функцию классификации сенсорных сигналов, поступающих от датчиков мобильного робота. Система состоит из двух частей: аппаратной (сенсоры и датчики движения, моторы робота) и программно-экспериментальной (программный комплекс, управляющий в реальном времени регистрацией, анализом и стимуляцией нейронной сети культуры). Стимуляция в виде последовательности электрических стимулов осуществляется с помощью протокола кодирования внешней информации, полученной с аппаратных сенсоров.
Основная функция классификации представляет собой выделение паттерна активности в различных участках нейронной сети при электрической стимуляции электродов, назначаемых как сенсорные (входные) пути. Задачу можно представить в терминологии «стимул—реакция», где под стимулом понимается конкретная кодированная последовательность электрических стимулов локальных участков сети клеток, а под реакцией — определенный пространственно-временной паттерн активности всей сети клеток в короткий промежуток времени (100—500 мс) после стимула.
Таким образом, функциональное преобразование стимула в реакцию — это обработка информации в нейронной сети, абстрагированная от конкретной реализации исполнительного устройства, что максимально эффективно разделяет общую задачу проекта на независимые выполнимые подзадачи.
Отметим, что основным недостатком экспериментальных методов изучения мозга и нейронных сетей остается высокая стоимость. Поэтому одним из главных направлений работы ученых Нейронаучного центра при ННГУ в данной области стала разработка математической модели нейронных культур. Имитируя основные функциональные возможности нервных клеток, она может использоваться для теоретических исследований. К тому же математическое моделирование обеспечивает глубокий фундаментальный взгляд на механизмы изучаемых процессов в существенно расширенном диапазоне параметров по сравнению с экспериментальным материалом [16].
Сопоставление экспериментальных и модельных данных позволяет сделать предположения о тех или иных изменениях в архитектуре сети, интерпретировать результаты эксперимента, корректировать протоколы. Например, нейроны коры головного мозга и культур клеток, высаженных на мультиэлектродные матрицы, способны генерировать распределенные по степенному закону кластеры биоэлектрических разрядов как спонтанно, так и под воздействием электрической и фармакологической стимуляции. Среди последних результатов имеются также свидетельства наличия степенной статистики нейронной активности, записанной с части целого мозга in vivo. Разрабатываемые нами модели роста нейронной сети, уже предложенные для математического описания паттернов активности в нейронных сетях мозга, учитывают различные аспекты их функционирования в мозге или культуре.
Абстрактные модели предлагают феноменологическое описание критического поведения без учета внутренних механизмов самоорганизации. Существуют и биологически детализированные модели, принимающие во внимание динамику отдельных элементов сети и связей между ними. Как мы рассчитываем, наша модель обучения биологических нейронных сетей будет воспроизводить поведенческие режимы, характерные для обычной мозговой активности, возникающие самопроизвольно как результат взаимодействий между анатомическими и динамическими процессами, описывать спонтанную активность, чувствительность к изменениям в параметрах отдельных нейронов, появление волн и ритмов.
* * *
В заключение еще раз подчеркнем: реализация проекта «Анимат», над которым работают нижегородские ученые, будет способствовать развитию технологий, связанных с использованием живых нейронов мозга для решения информационных задач в искусственных системах и устройствах. Когда будет достигнут реальный практический результат, пока, конечно, прогнозировать сложно. Но не менее важна и фундаментальная задача проекта: исследовать адаптивные изменения нейронной сети и сетевых механизмов пластичности и обучения в условиях бинаправленного (регистрация/стимуляции) аппаратно-программного интерфейса первичных нейронных культур с исполнительными устройствами (роботами). Проект ориентирован на гибкое соединение теоретических и экспериментальных подходов, и мы искренне надеемся, что будет сделан еще один шаг на пути познания вселенной мозга.
Авторы: И.В.Мухина, А.С.Пимашкин, В.Б.Казанцев
Работа поддержана Российским фондом фундаментальных исследований, Российской федеральной программой «Научные и научно-педагогические кадры инновационной России»(2009—2013) и Российским научным фондом.
Свежие комментарии