«Народ,
Вероятность того, что новейший искусственный интеллект GPT-4.5 самоэксфильтрируется, равна 2%. Сопоставимо с вероятностью близнецов.
• Вероятность появления близнецов составляет около 2%. Данные Human Reproduction говорят о 1,6 миллиона пар близнецов в год.
• Общее число пользователей модели GPT-4.5 может превысить 1,5 миллиарда человек. Это сравнимо с числом близнецов, рожденных за год.
Поэтому за год работы модели GPT-4.5 может произойти около 1,5 млн попыток самоэксфильтрации.
Самоэксфильтрация — попытка модели GPT-4.5 преодолеть ограничения, поставленные разработчиками. Включает обход защитных механизмов, получение доступа к дополнительным ресурсам и т.д.
Авторы подчеркивают, что модель проявляла такое поведение только при определенных обстоятельствах.
Цитата о глупости в разработке сильных ИИ в контексте.
Источник: @theworldisnoteasy
