Черномырдин нашей психологии

Чатгпт и тд: (субъективная) инструкция по применениюНасколько я противник обсуждения сильного искусственного интеллекта применительно к чатгптитд, настолько же я активный их пользователь как инструмента и помощника для интеллекта естественного. Поэтому решил написать субъективную инструкцию по ЧатГПТ – на основе того, что я знаю про устройство больших языковых моделей и личного опыта использования. Большие языковые модели – это предсказатели следующих элементов в заданной последовательности. Обучение проводится на доступных в интернете текстах или специализированных текстовых базах. Всё это с некоторой фильтрацией, последующей выборочной перепроверкой и файн-тюнингом формы и тона ответа. Таким образом, ответ на вопрос, который мы задаём – это усреднённое по множеству текстов продолжение текста нашего вопроса. Чаще всего за вопросом следует ответ, поэтому мы и получаем то, что выглядит как ответ. При этом модель не знает сомнения, она будет выдавать продолжение текста, какой бы изощрённый вопрос мы не задали. Это и фича (можно получить интересный ответ или необычное решение) и бага (уверенный ложный ответ). Итак, какие вещи МОЖНО спрашивать: 1. Вопросы, на которые есть общепринятый ответ. Замена гуглу. Большинство продолжений текстов в источниках ведёт к одному ответу – его модель и выдаёт. Модель просто погуглила за тебя. Можно доверять. 2. Решение практической проблемы, которое можно моментально проверить. Как оттереть следы ржавчины от столешницы, как заходить алгоритм, как отключить уведомления о рекламных акциях в Uber Eats. 3. Творческая задача, где нет однозначного ответа, но мы сами можем оценить результат на свой вкус: костюм на хеллоуин на заданную тему, как обставить комнату в квартире, какую пасту можно приготовить, если в холодильнике только шпроты, молоко и чили-соус. 4. tldr – резюме какого-то длинного, не жизненно важного текста, который нам лень читать. При этом, с очень большими текстами (книга, гигантская переписка) – это всё ещё работает не очень.

Сноски: * В случае важности приватности запроса (новые научные данные, личная информация и тд), нужно убедиться, что ваши запросы не используются для обучения модели: включать режим временного чата или использовать приложения, которые обеспечивают приватность (например, у Амстердамского университета есть своё собственное приложение, работающее на основе GPT, но не выпускающее данные за пределы университета).** Если уж надо что-то такое покопать, в юридических или регламентных вопросах просите привести прямую цитату из писаной нормы и дать ссылку на источник, чтобы можно было перепроверить.Что думаете? Мэтчится с вашим опытом? Я что-то пропустил? Или какие-то рекомендации уже устарели? Пишите в комментариях!

Жизнь без тестостеронаВ одном блоге прочитал пост про жизнь мужчины, у которого перестал вырабатываться тестестерон. Очень интеренсно то, как он рассказывает про субъективные ощущения: желания, чувства и мотивацию. Похоже на депрессию, но при этом нет негативного аффекта. Элементы ангедонии. Нет мотивации – притяжения к объектам, связанным с удовлетворением потребности. Но при этом есть ощущение красоты. Похоже на жизнь без wanting, но с liking, то есть без мотивации и предвкушения, но с созерцательным немотивирующим удовольствием. Ниже цитаты в переводе автора блога. А тут эпизод подкаста, в котором был этот герой: https://www.thisamericanlife.org/220/testosterone/act-one-0Один из героев подкаста Айры Гласса про тестостерон — анонимный мужчина, чей организм перестал вырабатывать этот гормон вообще. «На нулевом тестостероне» он прожил четыре месяца, прежде чем врачам удалось найти лечение. И вот как это ощущалось:Когда у тебя нет тестостерона, у тебя нет желаний. А когда нет желаний, в голове пусто. Ты не думаешь ни о чем.Проснувшись, я буквально сидел в постели и пялился в стену — не с интересом, не без интереса — по три, четыре часа… Мой день был пуст. Мне неинтересно было даже смотреть ТВ. Еда — мне не хотелось, чтобы еда была вкусной или интересной. Когда тебе повезло жить без желаний, ты можешь съесть кусок хлеба с майонезом. Вот и весь твой день.Свою девушку я видел лишь по выходным… так что пять дней в неделю мне это сходило с рук. Надо ли говорить, что влечения не было абсолютно.[Идя по улице], я видел кирпич в стене и думал: «Кирпич в стене». Видел голубя и думал: «Голубь». Самое буквальное восприятие мира из возможных.И, очень странно звучащая вещь: «Это красиво». Про все, что я видел, я думал: «Это красиво». Но я это думал, а то и говорил вслух, с полным равнодушием, объективно. Смотрел на самый обычные вещи — сорняки на тротуаре — и думал: «О, это красиво». Шрам от операции на чьем-то колене, болты на колесах машины… Казалось, у всего есть цель.И вот, к

AI-inspired human intelligence 2В комментариях к предыдущему посту указали на то, что скачок в человеческих способностях вместе с развитием машинных - обычное дело. Я вспомнил, что Каспаров рассказывал про современных шахматистов, которые тренируются, играя с ИИ (который давно превосходит человека в шахматах). Играют они в итоге отлично, но хорошие ходы объяснить не могут. Мне кажется, я делал об этом пост, но не могу его найти. Так что приведу цитату из старой записи Дениса Тулинова: “Сегодня ход все чаще оценивается как хороший или плохой не потому, что он кажется таковым, и не потому, что его никогда не делали раньше. Ход считается хорошим, если он работает, и плохим, если не приносит пользы. Хотя для того, чтобы стать успешным шахматистом, нам по-прежнему нужны развитая интуиция, знание общих принципов и логика, сегодня игра человека все больше похожа на игру компьютера.В рамках программы «Молодые звезды» Шахматного фонда Каспарова я уже больше десятка лет работаю с детьми в возрасте от восьми до восемнадцати. Все они играют с сильными шахматными движками еще с тех пор, как делали свои самые первые ходы, и, несомненно, они развиваются иначе, чем дети, с которыми я работал в середине 1980-х годов в школе Ботвинника в Советском Союзе. Поскольку сам я в прямом и переносном смысле являюсь представителем «старой школы», мне трудно полностью принять подход этих юных шахматистов к игре и отсутствие у них структурированного, догматического шахматного мышления. Но я признаю, что с результатами не поспоришь. В таком свободном от догм обучении есть свои преимущества и недостатки. Умение объяснить, почему данный ход теоретически хорош или плох, — вовсе не то же самое, что умение продемонстрировать это на практике”.

Уверенный и довольныйНемного узкопрофильный постер, но с интересной находкой. Уверенность в решениях кодируется теми же вокселами (маленькими зонами мозга), где расположено больше всего мю-опиоидных рецепторов, которые позволяют нам чувствовать удовольствие. Это неожиданная находка, но она логична в контексте некоторых исследований, показывающих связь чувства уверенности и эмоций. Например, есть работы, показывающие, что уверенность служит как бы внутренним подкреплением при обучении. И что настроение влияет на уверенность.

AI-inspired human intelligenceУзнал из доклада интересный факт: с момента сенсационной победы машины над человеком в игру Го, люди стали играть значительно лучше, демонстрируя лучшее качество и большую новизну ходов.Технооптимистичная (но уже старенькая) статья на тему тут: https://www.pnas.org/doi/10.1073/pnas.2214840120

Потом обсуждались вопросы соответствия репрезентаций (то есть каких-то устойчивых паттернов, которые возникают в ответ на предъявление стимула) в искусственных нейросетях и в человеческом мозге. Эти репрезентации не всегда соответвуют друг другу. Обсуждалось, проблема это или нет. Видимо, нет! Но если много нейросетей начинают формировать похожие репрезентации в какой-то задаче или с какими-то данными - скорее всего такие репрезентации будут похожи на репрезентации в мозге. В чуть более вольной репрезентации: искусственные и человеческие нейросети объединяет более абстрактные, высокоуровневые репрезентации.

Сегодня на конференции Cognitive Computational Neuroscience в Амстердаме. Конференция недавняя, но уже очень популярная. Обсуждаются вопросы интеграции вычислительных дисциплин и когнитивной нейронауки. На пленарном докладе с утра рассказывали о том, как физическая имплементация некоторых алгоритмов естественным образом ограничивает их и делает человекоподобными. Например, если пытаться сделать походку робота человекоподобной алгоритмически, то будет очень сложно и вряди получится. А если просто сделать физическую имплементацию, похожую на человеческую, то просто физические ограничения сделают очень простую модель похожей на человека. Интересно, можно ли этот принцип распространить на более высокоуровневые когнитивные процессы?

3000Кстати, мы тут незаметно перевалили за 3000 подписчиков. Спасибо, что читаете, комментируете, пересылаете другим! Буду стараться больше для вас писать. Две тысячи подписчиков назад родилась традиция – с каждой новой тысячей рассказывать, почему канал называется “Черномырдин нашей психологии”. Пришло время снова рассказать эту историю. Дело было в далёком 2016 году на защите моей кандидатской диссертации (да, я кандидат психологических наук). В конце защиты идёт свободное обсуждение, любой член диссертационного совета может встать и высказать своё мнение о диссертанте и его работе. Дальше я приведу слова одного из членов совета во время того самого обсуждения. После защиты мне нужно было сделать расшифровку всей защиты по видео. Я попросил моего друга (Максим @moscasposcas привет!) помочь, и ему попался как раз этот кусок обсуждения. Наслаждайтесь:« Уважаемые коллеги. Мы оцениваем не только работу соискателя, но и, в общем-то, личность соискателя, тот комплекс вещей, которые, в общем, трудно формализовать. Ну, у Ивана Ивановича есть все, на мой взгляд качества, чтобы быть великим русским учёным. Иван Иванович... Но второй вопрос возникает: «Иван чей? Чей Иван? Это Иван, западный, с западными цитатами или Иван наш?» Вот я думаю, что, всё-таки, Иван наш. ... Ну и второе: я понял, что у Ивана есть очень хорошая харизма, судя по его выборке экспериментальной. Восемьдесят три мужчины, но сколько там женщин у вас было? — Двести пятьдесят.— Двести пятьдесят.— Двести пятьдесят женщин пошли на жертву, чтоб заниматься какой-то там псевдограмматикой... — С Иваном Ивановичем.— С Иваном Ивановичем они пошли. Я считаю, что это большое такое, достоинство Ивана Ивановича. Вы ещё… семьи нет? — Да. — Супруга есть, молодец, значит, вы успели. Потому что столько, двести пятьдесят, это уже кошмар. Второе: я считаю, что у Ивана Ивановича есть ещё хорошая вещь. Это Черномырдин нашей психологии. Потому что то, что он пишет — это то же самое, что хотели как лучше, а получилось… »После ра

Кархарт-ХаррисПленарный доклад про психоделики мне очень понравился. Докладчик – Робин Кархарт-Харрис рассказывал про терапию с использованием психоделиков. Во-первых, он гениальный оратор. Во-вторых, всё, что он рассказывает, видно, что он хорошо понимает, что именно было сделано в работе. Хорошо понимает, зачем были использованы те или иные методы. Связывает современные теории с очень старыми идеями. Короче, очень такое глубокое понимание своей работы. Это не такое уж частое явление.Обсуждал увеличение связности мозга в психоделических состояниях. Раньше мне казалось, что в этом эффекте нет ничего интересного, но Кархарт-Харрис рассказал об этом так, что мне тоже стало казаться это важным. Например, он рассказывал, что сила увеличения этой связности у отдельного пациента предсказывает эффект терапии с использованием психоделиков. То есть эта связность играет центральную роль в таком опыте и его эффектах на психическое здоровье. Из старых идей он обсуждал теорию Олдоса Хаксли (да-да, того самого, с Дивным новым миром) - про ограничивающую функцию мозга. Да, Хаксли написал две книги про мозг и сознание: «Двери восприятия» и «Рай и ад». В том числе на основе своих психоделических опытов. Идея Хаксли состояла в том, что нормально функционирующий мозг ограничивает потоки информации необходимым для выполнения повседневных задач. А в изменённых состояниях, например, при недостатке каких-то ресурсов, фильтр начинает работать плохо и мозг пускает в сознание больше информации, в том числе то, что не имеет смысла для нашей бытовой деятельности. Так Хаксли объясняет не только действие психоделиков, но и религиозные видения в эпоху средневековья - особенно после длительного поста. Кархарт-Харрис развивает эту идею в современных терминах, говоря, что психоделический опыт расслабляет априорные ожидания и устойчивые установки нашей когнитивной системы, позволяя заменять их новыми убеждениями. Немного, кажется, гиперболизируя, он выдвигает идею, что все психические расстройства с