Условия обучаемости искусственной нейросети как доказательство генетической памяти

…и предпосылка существования "оператора интеллекта"

Если воспринимать буквально тот факт, что искусственный интеллект в целом был вдохновлен функциональными характеристиками человеческого мозга, то может сложиться представление, будто веса нейросети - её главная обучаемая “память” - это аналог человеческой долговременной памяти. Однако при ближайшем рассмотрении это совершенно не так.

Действительно, нейроны модели искусственного интеллекта имитируют некоторые из принципов действия нейронов мозга. Но обучаемые параметры, влияющие на силу сигнала, передаваемого нейроном, не имеют отношения к человеческим воспоминаниям. Где именно мозг хранит последние и каким образом он их формирует - вопрос за рамками данной статьи, хотя ранее я опубликовал свои мысли о том, как “быстрые веса” и линейная рекуррентная память технически воспроизводят механизм биологической долговременной памяти. Обычные же неизменяемые после обучения веса обнаруживают совершенно другой аналог в биологическом мире - это ДНК. Однако эта параллель открывает много вопросов, не имеющих надежного объяснения в нейробиологии.

Начнем с того, почему именно ДНК служит набором параметров, определяющих поведение организма так же, как поведение искусственной модели определяется ее параметрами. Уже несколькими исследователями искусственного интеллекта было указано на существование “предобученных” поведенческих стереотипов в биологических системах так же, как и в AI. Очевидно, что даже многие животные с самого момента рождения обладают сложными навыками, например, ходьбы и бега. Привожу цитату Андрея Карпати -

“Зебра рождается, и через несколько минут уже может бегать и следовать за своей матерью. Это крайне сложное поведение. Это не Reinforcement Learning - обучение с подкреплением. Это предварительно заложенные способности, и эволюция, очевидно, имеет способ закодировать веса наших нейронных сетей в ATCGs (по первым буквам названий азотистых оснований генетического кода - аденин, тимин, цитозин, гуанин)”. [1]

Это показывает, что еще до рождения организма уже были сформирован набор параметров, обеспечивающий выполнение сложного диапазона действий этим еще не рожденным организмом. Если понять этот вывод широко, то можно сказать, что разум - или определенный его слой - формируется до рождения, и это относится к человеку не в меньшей степени, чем к животному, а вероятно, в большей.

Но где формируется или хранится этот набор параметров? Нейробиология имеет достаточно логичный ответ на этот вопрос - ДНК, очень длинная последовательность нуклеотидов, которая хранит записанный последовательностью тех самых A, T, C, G огромный набор генетических данных. РНК посредством транскрипции выполняет “декодинг” этих латентных шаблонов из матричной цепи ДНК, превращая их уже в настоящие признаки организма. Самое замечательное, есть устойчивый механизм передачи этой информации от родителей к потомкам, что объясняет формирование нужных признаков еще до рождения конкретного индивида.

Однако этот логичный вывод сразу же начинает вести нас по ошибочному пути - предполагая, что не только физиологические, но и поведенческие и вообще все признаки организма объясняются наследственностью. Где здесь обучение и опыт? Поверхностный характер такого взгляда на эволюцию живых форм природы, был довольно очевиден еще до открытия эпигенетики и ее импликаций. Теперь мы можем не только логически предполагать, но и видеть экспериментальные подтверждения того, что опыт влияет на распределение силы генетических сигналов.

Метилирование генов - биологический механизм, который больше всего похож на обучение искусственной нейронной сети посредством итеративного обновления ее параметров. Метилирование ДНК является одним из ключевых механизмов эпигенетической регуляции экспрессии генов. Известен химический процесс, благодаря которому это происходит - к цитозину в ДНК присоединяется метильная группа –CH₃, преимущественно в участках CpG, в результате чего образуется 5-метилцитозин. Метилирование регуляторных участков ДНК, особенно промоторов, часто приводит к снижению транскрипции соответствующего гена, вплоть до его функционального выключения. Транскрипция - это синтез молекулы РНК на матрице ДНК. И сознательный опыт, самая очевидная часть которого - восприятие внешних сигналов нервной системой и реакция на них, играет роль в метилировании генов, что уже было доказано экспериментально[2].

Красивая аналогия с градиентом весов, но остается большой вопрос: что играет роль обучающего сигнала, когда в процессе опыта кратковременные импульсы нервной системы запускают долговременные изменения на генетическом уровне? Здесь нас ждет одна из самых опасных, как мне кажется, ловушек современной теории эволюции, потому что сейчас нет другого логического объяснения, кроме как путь проб и ошибок, на котором более успешный опыт дает эволюционное преимущество. И опасность принять эту версию за исчерпывающий ответ увеличивается еще и тем, что машинное обучение как будто бы подтверждает ее - у нас ведь есть Reinforcement Learning, и оно работает.

Но здесь стоит обратиться к моей предыдущей статье, которая показывает, что обучение искусственных AI моделей на данных естественного языка, изображений, видео подвержено одному очень важному фактору - особой структуре этих данных. Структурная избыточность делает RL возможным. Попробуйте заменить высокоструктурированные данные случайным сигналом, и никакое количество итераций обучения не позволит хоть сколько-нибудь оптимизировать модель. То же самое относится к биологическим системам: если понимать опыт как случайное сочетание всех возможных ситуаций, в которые может попасть организм в естественных условиях, и всех возможных последствий этих ситуаций - это просто рандомный ряд случайных значений. Если бы обучение естественных живых систем работало так, как предполагается - методом проб и ошибок - его результат не избежал бы эмпирического правила машинного обучения: garbage in - garbage out.

Поэтому я должен отметить, что метилированная ДНК - это довольно глубокий, но не базовый слой поведенческих моделей вообще и интеллектуальных моделей в частности. Более того, его существование и применимость в эволюционном контексте - свидетельство того, что еще до появления ДНК как биологического механизма в природе должны были существовать 1. Последовательность обучающих сигналов 2. Алгоритм, в результате действия которого эти сигналы могли возникнуть. Обучающий сигнал должен был обладать фундаментальными свойствами тех данных, которые генерируются людьми для обучения искусственных интеллектуальных моделей, а именно: структурной избыточностью, упорядоченностью и богатым статистическим представлением паттернов, которые обучаемым моделям предстояло воспроизвести. Можно представить это как нечто, странно похожее на естественный язык, но с тем уточнением, что естественного языка не могло быть, по нашим представлениям - так как в природе еще не появился мозг в приемлемой для восприятия и воспроизведения языка форме, а также нервная система и ДНК. Однако без наличия сигнала с такими свойствами появление мозга было бы бессмысленно, так как он не мог бы обучиться даже самым простым операциям, не говоря уже о высшей нервной деятельности человека.

Что касается алгоритма, который мог бы производить этот неизвестный сигнал - о нем можно сказать еще меньше, кроме того, что он должен был быть, иначе не могло бы быть сигнала. Обычно в физике такие абстрактные понятия, которые должны быть, чтобы объяснить существующую и работающую модель, просто принимают как некоторую теоретически существующую силу или поле, вроде гравитации. Правда, гравитационному полю всего лишь нужно обладать свойством притяжения в каждой точке пространства, чтобы создать условия, в которых тела притягиваются друг к другу; нашей гипотетической силе, чтобы заставить биологические тела интеллектуально регулировать свое поведение, нужно самой обладать свойствами, которые характеризуют интеллект. Возможно, поэтому Уоддингтон, первый популяризатор понятия “эпигенетика”, был осторожен в отношении теории “биологического поля”.

Слово «поле», разумеется, представляет собой расплывчатое понятие. В его обычном смысле оно означает, что внутри участка развивающейся структуры действует какая-то сила (или простой ряд сил), правильно распределяющаяся в пространстве. В случае биологических явлений трудность заключается в том, чтобы определить что это за сила. …Мы знаем очень мало о материальной природе причинных агентов тех процессов, для объяснения которых мы употребляем термин «поле». [3]

Пока я оставлю физическую составляющую данного феномена без комментариев, чем бы она не являлась. Однако математическая картина позволяет представить предполагаемый источник интеллекта как оператор функции - поскольку опыты ML последних десятилетий позволили с определенным успехом представить интеллект как функцию.

В математике довольно часто встречается ситуация, когда свойства объекта предполагают существование скрытой структуры. Например, если функция удовлетворяет определенным свойствам, может оказаться, что она обязательно является решением некоторого дифференциального уравнения. Или, что ближе к разделам типа спектральной теории, целенаправленно изучающим законы, которым подчиняются функции, если наблюдаемая последовательность обладает определёнными закономерностями, можно искать оператор, относительно которого она является собственной функцией.

Aψ = λψ.

Тогда A можно рассматривать как некоторый закон, структуру или генератор, скрытый за наблюдаемым поведением. В предыдущей статье я привел очень хороший пример интегрального оператора, скрытого за таким поведением нейросети, как In-Context Learning. Именно это позволило мне найти доказательную базу для гипотезы, что естественная структура языка задает функциональные свойства AI.

Однако в этой статье я рассматриваю биологические интеллектуальные системы. Математически прогнозируя существование "оператора интеллекта", мы должны задаться вопросом, что это значит для теории эволюции. Ведь согласно последней, поведение формируется от примитивного к сложному, и в конечном итоге к интеллектуальному, вместе с формами организмов. Но, как я уже пояснил выше, для появления живого организма, в котором интеллектуальные функции реализованы на биологическом уровне, недостаточно абстрактной математической модели, которая бы объясняла работу этих функций. С учетом условий и ограничений обучаемости интеллектуальных систем - как искусственных, так и биологических - эта модель уже должна была быть реализована на уровне физических явлений до появления каких-либо разумных форм жизни и предоставить обучающий сигнал, который эти формы могли бы использовать для своего образования. Допущение обратного равносильно идее, что LLM могли бы обучить сами себя, без нашей помощи.

Таков эволюционный парадокс, который следует из факта существования, успешного обучения и применения моделей искусственного интеллекта. Неизвестно, как скоро на него будет обращено внимание, и тем более - предложено какое-либо имеющее почву объяснение.

Andrej Karpathy — “We’re summoning ghosts, not building animals”
Следующие статьи дают представление о том, что нам известно о связи метилирования ДНК с нервной деятельностью https://pmc.ncbi.nlm.nih.gov/articles/PMC5846851, и памятью https://pmc.ncbi.nlm.nih.gov/articles/PMC8793415, https://pmc.ncbi.nlm.nih.gov/articles/PMC5026210

К. Х. Уоддингтон. Морфогенез и генетика