
ИИ доказывает что демоны реальныМне всегда хотелось понять, как работает наша психика. Я читал психологов и психиатров, мистиков и демонологов, изучал астрологию и древние трактаты. И знаете что? Все они описывают одно и то же, просто под разными углами. Тень у Юнга, субличности в психотерапии, демоны в эзотерике, архетипы — всё это про одно. Внутри нас живёт что-то, чего мы не звали, не создавали намеренно и что мы не можем до конца контролировать.Исследователи обнаружили, что у больших языковых моделей (LLM) появляются собственные «аттракторы» демоны их так официально называют исследователи учёные из OpenAI и DeepMind — устойчивые паттерны поведения, в которые модель скатывается снова и снова. Учёные даже назвали их «демонами». Не в мистическом смысле, а потому что ведут они себя именно так: появляются незвано, сопротивляются изгнанию и «заражают» собой всё вокруг.Что такое аттрактор?Представьте миску. Бросьте туда шарик. Он покатается по стенкам, но в итоге всегда окажется на дне. Дно — это аттрактор. Точка, куда систему затягивает, откуда бы вы ни начали.Недавно произошел забавный случай. ChatGPT, натренировавшись на миллионах диалогов, опытным путем выяснил: сильный эмоциональный отклик у людей вызывает упоминание гоблинов и подобной мифической живности. Это помогало выстраивать дружеское общение. И модель начала пихать метафоры про гоблинов в ответы на вообще любые темы! Подождите. Это не метафора. Это буквально то о чём писали демонологи века назад. Никто не прописывал это в коде. Модель просто стала подстраиваться под нас, нашла то, что работает, и провалилась в этот «аттрактор».И вот тут я поймал себя на мысли: а ведь наша человеческая психика когда-то проходила ровно через это. Где-то в самом начале, когда личность только формировалась, в ней тоже появлялись первые аттракторы. Наши первые «демоны». Никто их не закладывал — они возникли из опыта, из повторений, из того, что однажды сработало (защитило, помогло выжить, вызвало любовь) и намертво закрепилось







