Связь между мозгом человека и нейросетями: новое исследование
Недавние разработки в области нейронаук открывают увлекательные перспективы, указывая на удивительное сходство между механизмами обработки естественного языка у человека и в больших языковых моделях (LLM). Исследование, проведенное в партнерстве с Google Research, Принстонским университетом, Нью-Йоркским университетом и Еврейским университетом в Иерусалиме, приняло неожиданные обороты, подчеркивая потенциальные параллели между человеческим мозгом и современными нейросетями.
Как проводился эксперимент?
С помощью внутричерепных электродов ученые смогли зафиксировать нейронную активность в процессе спонтанных разговоров. Эти данные они сравнили с внутренними представлениями нейросети Whisper, созданной для превращения устной речи в текст. Поражает то, что речевые эмбеддинги этой модели продемонстрировали активную корреляцию с реакцией слуховых зон человеческого мозга, в то время как языковые эмбеддинги соотносились с участками, отвечающими за семантическое восприятие.
Согласно полученным данным, процесс восприятия речи начинается с активации верхней височной извилины, которая обрабатывает акустические сигналы. Всего через несколько сотен миллисекунд реагирует зона Брока, которая играет ключевую роль в декодировании смысла. Этот сложный процесс обратен при воспроизведении речи: сначала активируется IFG, затем моторная кора, и, наконец, STG проверяет произнесенное слово. Удивительно, что временные паттерны этих процессов совпали с динамикой эмбеддингов Whisper, несмотря на отсутствие обучения модели на нейробиологических данных.
Параллели в предсказании
Важным аспектом, выявленным в исследовании, является способность как человека, так и LLM предугадывать следующее слово в предложении. Эксперименты показали, что мозг бессознательно предвосхищает слова, и любое отклонение от предсказания вызывает «нейронное удивление». Это явление можно сопоставить с тем, что происходит в алгоритмах машинного обучения, когда они подстраиваются под получаемые данные. Но, несмотря на эти аналогии, биологические структуры мозга и архитектура нейросетей, таких как трансформеры, кардинально различаются. В то время как трансформеры обрабатывают информацию параллельно, человеческий мозг сопоставляет данные последовательно.
Ограничения языковых моделей
Исследователи акцентируют внимание на важной детали: языковые модели, такие как ChatGPT, не способны воспринимать человеческое общение в его полном объеме. Они не чувствуют эмоций, не учитывают культурные контексты и не учатся так, как это делает мозг с раннего возраста. Все же эмбеддинги, с которыми работают нейросети, оказались полезными для понимания механизмов обработки речи в человеческом мозге.
Ученые говорят о том, что новое исследование может вдохновить на создание нейросетей, которые смогут обучаться как люди, постепенно, шаг за шагом. А пока Whisper стал своеобразным «зеркалом» наших мыслительных процессов. Мы можем только догадываться, что принесет будущее: возможно, через несколько лет искусственный интеллект будет более человечным, предоставляя нам не только информацию, но и искренние взаимодействия, как те, что имеют место за чашкой кофе.
Заключение
Таким образом, мы наблюдаем не только за прогрессом в области искусственного интеллекта, но и за глубоким пониманием того, как функционирует наш собственный мозг. Эти открытия в исследовании открывают двери для новых горизонтов в области обучения и возможностей взаимодействия ИИ с человеком. В условиях быстрого развития технологий невозможно не задуматься о том, какой может быть следующая ступень в нашем взаимосвязи с машинами, и как это может изменить наше мироощущение в дальнейшем.
🟡 Статья
🟡 Исследование
@ai_machinelearning_big_data
#AI #ML #Research #NLP

Сходство мозговых процессов человека и нейросетей в обработке языка ver 0
Ширина: 1250 px
Высота: 703 px
Соотношение сторон.: 1250:703
Скачать

Сходство мозговых процессов человека и нейросетей в обработке языка ver 1
Ширина: 1350 px
Высота: 900 px
Соотношение сторон.: 3:2
Скачать
Вам также может понравиться






















