В рамках гранта «Мозг и информация: от естественного интеллекта к искусственному» в МГУ созданы новые модели нейронных сетей памяти, аналогичные человеческой, рассказал «Газете.Ru» ректор вуза, академик РАН Виктор Садовничий.
«Аналоги на основе рекуррентных сетей и трансформаторов, обученные стандартным образом, не могут эффективно решать эти задачи. Разработанная нами модель памяти позволяет обучать алгоритмы для запуска «долговременной памяти», что ранее было невозможно для программ. Наша модель позволяет находить и сохранять в памяти зависимости между событиями, удаленными во времени. Уровень разработок соответствует мировым достижениям в этой области», — пояснил Садовничий.
Нейронные сети основаны на рекуррентных сетях и обучаются самым стандартным образом, но при этом они могут эффективно запоминать многие вещи на длительное время вперед. Разработанная модель памяти позволяет обучать алгоритмы вплоть до так называемой «долговременной памяти», что ранее вообще не удавалось сделать в течение многих месяцев.
Модель позволяет находить и сохранять в памяти зависимости между событиями, далеко отстоящими друг от друга во времени. По словам ректора, этот проект поможет ученым со всей России более точно понять человеческую память. На основе памяти нейронной сети можно будет изучить, как связаны нейроны в мозге человека.
О светлом будущем заботятся политики, о светлом прошлом – историки, о светлом настоящем – журналисты.