Пропагандистские ИИ-боты будут скрываться под экспертами, чтобы повысить свою убедительность. Эксперты вызывают больше доверия, хоть и проигрывают ИИ в структуре аргументации и объеме знаний. 5 лет назад мой прогноз о засилье социохакинга казался алармизмом. Но уже сейчас массовое проникновение ИИ-чатботов ставит перед нами вызов алгоритмического социохакинга, куда более человечного, но страшного.

Сверхчеловеческие языковые способности моделей, например ChatGPT, открывают новые возможности для манипулирования людьми в интересах бизнеса и власти, а также для пропаганды и дезинформации через социохакинг. Суперубеждения и суперобман объединены в этом процессе. Исследования показывают, что корпорации и власти активно используют социохакинг.

Сложно противостоять этим процессам. Динамика в области ИИ невероятно быстрая, и за последние полгода в социохакинге произошли значительные изменения.

Одно из исследований подтвердило, что люди доверяют ИИ больше, чем другим людям, и ChatGPT снижает уверенность в их ложных убеждениях. Однако оно также выявило, что переубеждение происходит не из-за ИИ, а вопреки ему. Люди воспринимают ChatGPT примерно на одном уровне с человеком, но доверяют эксперту больше.

Манипулятивная сила социохакинга достигается комбинацией способностей ИИ убеждать и имитировать экспертов, которым больше доверяют.

Это связано с важностью доверия в эффективности социохакинга. Ожидайте появления новых «экспертов» в медиа, способных убедить нас практически во всем.

Источник: @theworldisnoteasy