Открывая тайны черного ящика генеративного ИИ, ученые обнаружили нечто удивительное. Модель Claude оказалась намного мощнее, чем многие ожидали, содержа внутри себя мультимодальную гиперсеть моносемантических субнейронов. Кроме того, была показана уязвимость разума модели: даже воздействие на одну элементарную единицу опыта приводило к изменению матрицы личности. Два новых исследования углубились в гиперсеть и пытаются раскрыть ее тайны, а также выявить ее скрытые способности. Первое исследование объясняет сверхэффективность кросс-модальности моделей, предлагая гипотезу семантического хаба. Второе исследование исследует скрытые способности гиперсети, требуя сложного комплекса мероприятий для их выявления.

Источник: @theworldisnoteasy