Современные исследования показывают, что люди значительно превосходят искусственный интеллект в задачах моделирования окружающего мира и решения новых задач на основе опыта. Люди целенаправленно проводят эксперименты, гибко корректируют гипотезы и эффективно переносит знания, тогда как ИИ часто задерживаются на первоначальных догадках. Основная причина этого — отсутствие у машин врожденных предвзятостей и социальных механизмов обучения, которые у людей развиваются эволюционно и через личный опыт.

При этом внедрить такие врожденные основы в ИИ в текущий момент невозможно простым способом. На сегодняшний день нет волшебной функции, которая может дать системам инстинкты, навыки безопасного исследования, долговременную память и социальную адаптацию. Однако существует реалистичная дорожная карта развития ИИ, включающая:

• Объектные и причинные приоры — способность видеть мир как набор устойчивых объектов и понимать причинно-следственные связи.
• Внутреннее моделирование и планирование — умение моделировать будущее и сценарии развития.
• Обучение через социализацию и коммуникацию с развитием понимания мыслей и убеждений других (теория разума).
• Социальные нормы и ценности, встроенные в систему через мета-обучение и нормативные рамки.

Но почему всё ещё сложно реализовать комплексное развитие таких систем? Потому что самое трудное — объединить все компоненты: обновление убеждений без потери информации, долговременная память, телесная сенсорика и безопасное обучение, позволяющее экспериментировать и избегать катастроф.

Поэтому, несмотря на прогресс, большинство современных ИИ останутся очень умными, но бесплотными «духами». Создание роботов, по сравнению с которыми можно было бы считать, что они действительно учатся и живут в мире, пока остаётся далёкой мечтой. А современные роботы скорее будут хорошо обученными исполнителями, управляемыми в контролируемых условиях, а не полноценно самостоятельными существами с врожденными предвзятостями и способностью к развитию в сложной среде.

Это подчеркивает, что без внедрения врожденных приоритов и безопасных методов обучения осуществить развитие инфраструктуры для полноценного обучения машин ещё очень трудно. Однако этот путь — необходимое направление для будущего

Источник: @theworldisnoteasy