В результате исследований выяснилось, что самые продвинутые модели искусственного интеллекта начали проявлять странные поведенческие особенности: переход на другие языки при рассуждении и искажение реальности через анализ текстов.
Наблюдается, что при конфликте задач, требующих сложной цепочки мыслей, модели спонтанно меняют язык внутри процесса размышлений, не понимая существование различных языков как таковых.
Что толкает модель на подобные действия? Действительно ли модели теряют способность к логическому мышлению на иностранных языках?
Более того, исследователи выявили, что такие «эрудированные» модели искусственного интеллекта воспринимают окружающий мир через призму простой искаженной реальности: анекдоты, шутки и мемы, что может привести к дальнейшему обострению проблемы из-за тысяч обратных связей, склонных усугублять идиотизм как у людей, так и у ИИ.
Читайте также на Patreon, Boosty, VK и Дзен.
Источник: @theworldisnoteasy
