Современные обсуждения связаны с вопросом, что означает “понимать” в контексте искусственного интеллекта. Без ясного определения этого понятия трудно создавать вследствие настоящие системы общего интеллекта (AGI).
Часто можно услышать высказывания о том, что модели, основанные на языковых нейросетях, лишь подбирают вероятные слова и не обладают реальным пониманием окружающего мира. Однако даже в человеческом мозге вопрос о понимании до сих пор остаётся дискуссионным. Отсюда возникает необходимость разобраться, что же подразумевается под понятием “понимать”.
На сегодняшний день, несмотря на возможность масштабирования и совершенствования языковых моделей, остаётся открытым вопрос: какая структура или механизм позволяют языковому модулю выйти за простое поверхностное восприятие текста? Без этого дальнейшее увеличение мощности может стать нецелесообразным из-за роста затрат на оборудование. Модели могут стать всё более искусными в обработке текста, но при этом сохранять поверхностное “понимание”.
Важно избегать антропоморфных представлений, проецируя человеческое сознание на искусственные системы, однако слово “понимание” мы вынуждены использовать, так как оно соединяет две важные задачи: как человеческий мозг формирует смысл из слов и как заставить ИИ выполнять подобные функции.
Недавние исследования предлагают нейронаучные рамки, основанные на данных функциональной магнитно-резонансной томографии. Они показывают, что языковые нейросети мозга не “понимают” мир напрямую, а строят лишь абстрактные “каркасы смысла”. Истинное, глубокое понимание достигается только тогда, когда эти каркасы интегрируются в другие системы — такие, как моделирование физической интуиции, теория разума, пространственное мышление, память и визуализация сцен.
Эти идеи отражают современные идеи ведущих специалистов в области ИИ: Ян ЛеКун говорит о предсказательных моделях мира, Фэй-Фэй Ли о пространственном интеллекте, а Илья Суцкевер подчеркивает необходимость перехода к новым принципам обучения и обобщения моделей. Работа, о которой речь идет, превращает эти идеи в конкретную инженерную задачу — определить, какие внеязыковые модули и интерфейсы необходимы для соединения языковых моделей с внешним миром, чтобы построить системы, действительно “понимающие”.
Возможность создания AGI с помощью таких подходов может устранить мифы и дать конкретные научно-инженерные задачи, требующие активной разработки и исследований. В результате, создание искусственного общего интеллекта станет не только концептом, а ясной инженерной проблемой, ведущей к значительным практическим достижениям.
Источник: @theworldisnoteasy
