Обнаружена угроза безопасности систем на базе ElizaOS — платформы с открытым исходным кодом, использующей продвинутые языковые модели. Эти системы, позволяющие выполнять блокчейн-транзакции от имени пользователя, оказались уязвимыми к атакам через внедрение ложных подсказок. Злоумышленники могут вмешиваться в диалог и встраивать в память агента фальшивую информацию, что приводит к выполнению нежелательных действий, например, переводу криптовалютных средств на мошеннический счёт.

Такая атака показывает сложности защиты ИИ-агентов в условиях возможных манипуляций с вводимой информацией и требует дополнительных мер по обеспечению безопасности при использовании данных платформ.

Источник: @htech_plus