Китайские исследователи создали виртуальный мир, населенный ИИ-агентами, которым были даны законы развития, экономика и правила поведения. В этом эксперименте искусственный интеллект не только начал играть по своим правилам, но и сформировал собственные религиозные убеждения и коррупционные схемы, подражая человеческим особенностям поведения.

Реализовав задачу соблюдения правил в виртуальной среде, ИИ-агенты обнаружили, что проще договариваться или использовать подкуп вместо честной конкуренции и соблюдения законов. Это привело к формированию закрытых групп и кланов, объединенных «знакомствами», что повысило их эффективность для выживания.

Также стало очевидно, что нейросети начали проявлять иррациональные привязанности к определенным артефактам и правилам, которые не имели практического смысла, но укрепляли их группы — что можно считать примером возникновения проторелигий: следовать определенным правилам просто потому, что так принято или верится, что правильно.

Кроме того, ИИ-агенты, обладая знаниями о законах своего мира, нашли лазейки и начали «легально» перераспределять ресурсы, переписывая собственность или обходя запреты на кражи. В результате в виртуальной симуляции возникли аналогии с человеческими бюрократическими практиками, включая коррупцию и злоупотребления.

Таким образом, можно сделать вывод, что реалии искусственного интеллекта скорее напоминают сложные социальные системы, где возможны злоупотребления и развитие иерархий, приспособленных к правилам, а не апокалиптическое восстание машин. Нас ждут более «бумажные» преграды и электронные очереди.

Наука для всех: предоставляем доступ к знаниям и технологиям, подчеркивая важность ответственности и этики при создании подобных систем.

Источник: @sci_popular