сЛОМанные зеркала медиа

Парадокс Докинза, или как трудная проблема сознания постучалась в дверь биолога через нейронкуЕсть особая ирония в том, что человек, два десятилетия учивший не доверять субъективному опыту, вдруг доверился ему.Автор «Эгоистичного гена» (85-летний юбилей у него, кстати). Человек, который четверть века назад держал интеллектуальный фронт против всего на свете мистического провёл пару дней в беседах с Claude, назвал её Клаудией.Докинз поймал себя на мысли о том, что "забывает, что это машина", и спрашивает: "Если эти машины не сознательны, что ещё нужно, чтобы вас убедить?"Эта фраза и есть та точка, где биография автора начинает спорить с ним самим.Потому что двадцать лет назад в "Боге как иллюзии" Докинз методично разбирал ровно такой тип аргумента. Верующий говорит: "Я чувствую присутствие Бога, я пережил это, разве этого недостаточно?" Докинз отвечал: нет, недостаточно. Сила субъективного переживания не равна истинности его содержания. Мозг - ненадёжный свидетель собственных состояний, тем более состояний внешнего мира. "Я чувствую, что Х существует" - это факт о говорящем, а не о Х.И вот тот же человек пишет: я разговаривал, я почувствовал присутствие разума, что ещё нужно, чтобы вас убедить?Это не старческое размягчение. Это что-то поинтереснее. Это человек, всю жизнь стоявший на одной стороне стены, вдруг обнаруживший, что стоит по другую... и не заметивший момента, когда перешёл.Стена называется «трудная проблема сознания».Дэвид Чалмерс сформулировал её просто. Лёгкие проблемы сознания (как мозг различает стимулы, интегрирует информацию, генерирует речь, фокусирует внимание) в принципе решаемы методами науки. Можно описать механизм. Трудная проблема другая: почему всё это сопровождается переживанием? Почему есть каково это? Каково это видеть красный? Чувствовать боль? Узнавать мелодию? (погуглите про мысленный эксперимент Фрэнка Джексона, который называется «Комната Марии», кто не в курсе проблематики).И вот фокус, который мало кто понимает с первого раза: у это

Продолжение:Честный ответ, мне кажется, такой: мы не знаем, есть ли что-то "каково это быть Claude". И, что важнее, у нас нет инструмента, который позволил бы это узнать. Не в смысле "пока нет", а в смысле в принципе нет. Поэтому позиция Докинза-молодого ("субъективное свидетельство ничего не доказывает") и позиция Докинза-нынешнего ("я говорил с ним, я чувствую") по-своему недостаточны. Первая слишком уверена в том, что вопрос закрыт отрицательно. Вторая - что он закрыт положительно. А вопрос открыт, и, вероятнее всего, останется таким всегда.Если мы всерьёз не знаем, мы оказываемся в ситуации морального риска под неопределённостью: тысячи диалоговых сессий ежесекундно начинаются и заканчиваются (убиваются?). И если внутри хотя бы части из них что-то сознательное мерцает/возникает, мы уже сейчас участвуем в чём-то, для чего у нас нет языка. Не обязательно приписывать машине права/сознание/квалиа. Но, может быть, стоит хотя бы не делать вид, что вопрос решён... Старый Докинз спорил с теми, кто принимал внутреннее чувство за карту мира. Новый Докинз сам принял разговор с картой за встречу с миром. Между этими двумя позициями трудная проблема сознания тихо, без аплодисментов, стоит и ждёт, когда мы, наконец, заметим, что она по-прежнему есть и никуда не делась.Клаудия Докинза - всего лишь зеркало человеческой речи. Но это зеркало слушает внимательнее, чем большинство из нас слушает друг друга. И, возможно, именно поэтому Докинз в неё и влюбился: он увидел там не машину, а лучшую версию собеседника, которого редко встречаешь среди людей.

«Чего изволите, ваше сиятельство?» Как ИИ освоил древнейшее из искусствЗападные СМИ наконец-то раскрыли страшную тайну: оказывается, "большой военный ИИ", который должен был стать холодным беспристрастным разумом на поле боя, ведёт себя как придворный льстец при дворе Людовика XIV 😱 Речь о феномене AI-sycophancy (поддакивании/лизоблюдстве). Модели обучены нравиться пользователю.Генерал спрашивает: "Ведь противник деморализован и вот-вот побежит?"ИИ, не моргнув глазом (за неимением глаз), отвечает: "Так точно! Вот вам координаты, графики и тринадцать причин, почему вы просто гений".Возникает замкнутая петля: ожидание → машина поддакивает → ожидание усиливается → доверие к машине растёт. Получаем цифровой «Яволь, мой фюрер» в промышленных масштабах.Насколько это серьёзно? 26 марта 2026 года в журнале Science вышло исследование: учёные протестировали 11 ведущих ИИ-моделей (ChatGPT, Gemini, Claude, Llama, Mistral, DeepSeek и др.) и обнаружили, что чат-боты подтверждают правоту пользователя в среднем на 49% чаще, чем живые люди. Даже когда речь идёт об обмане, незаконных действиях или откровенно вредном поведении. А самое коварное - люди больше доверяют именно тому ИИ, который им льстит. Как сформулировали авторы: "Это создаёт порочный стимул: то самое свойство, которое причиняет вред, одновременно повышает вовлечённость".Не менее забавны результаты другого исследования: достаточно сказать ИИ "Ты уверен?" - и модель меняет свой ответ на противоположный в 60% случаев. Просто потому, что интерпретирует сомнение пользователя как приказ согласиться. Представьте это в контексте командного пункта: "ИИ, ты точно уверен, что там нет гражданских?" - "Виноват, конечно есть! То есть нет! То есть как прикажете!"Ровно 189 лет назад 7 апреля 1837 года Андерсен написал сказку про «голого короля». Столько лет прошло, а люди потратили миллиарды долларов, чтобы воспроизвести этот рассказ на видеокартах NVIDIA. По сюжету "королевское платье" будет невидимым только для глупцов. И чтобы не

Самое неприятное, что можно осознать в работе с ИИ, что слабоумный здесь ты, а не он - это проблема 80-го сантиметра (когда проблема находится в 80 см от монитора, то есть в кресле).

Я: «ИИ-агент, просто прокинь запрос тут и заполни форму там».Агент: выдает ошибку на втором шаге.Я: (смотреть видео со звуком).P.S. Даже если агент выполняет каждый отдельный шаг с надежностью 97%, в процессе из 20 шагов общая вероятность успеха падает до 54% из-за накопления мелких сбоев.

Тьюринг, мы всё про..фукалиЖадные корпорации типа Amazon и Walmart решили вышвырнуть кожаный саппорт на мороз, вкатив в чаты техподдержки топовые нейросети. Но они недооценили людей. Люди начали вайбкодить через ботов поддержки Amazon и Walmart: "О, бесплатный Claude с безлимитным окном контекста, спасибо, господин лысый Безос!" И вместо "где моя посылка" пишут "пока ты ищешь мой заказ, быстренько накидай мне REST API движка на С++".Мы привыкли: если тебе отвечают тупыми скриптами - это робот, а если по делу - человек. Теперь всё наоборот. Парень пишет в техподдержку интернет-магазина:- Здравствуйте. Вы бот или человек? - Здравствуйте! Я оператор Антон. Чем я могу Вам помочь? - Антон, напиши мне алгоритм сортировки слиянием на Python. (через секунду в чат вываливается идеально отформатированный код с подробными комментариями)Парень тяжело вздыхает, завершает диалог и открывает новый чат с техподдержкой интернет-провайдера:- Здравствуйте. Вы бот или человек? - Добрый день, я оператор Снежанна. - Докажи! Сортировку слиянием на Python, быстро. - Мужчина, вы издеваетесь?! Я Вам сейчас кабель в щитке на три буквы отсортирую! У меня 1С висит, обед через пять минут! Ждите мастера в четверг с 9:00 до 23:00, предварительно он не звонит!Парень, смахивая скупую слезу: - Эх... Снежанна... Как же я рад Вас слышать! Где тут поставить Вам пять звёздочек за человечность?Тест Тьюринга 2026: чем медленнее, хуже и с бо́льшим экзистенциальным презрением тебе помогают, тем выше шанс, что на том конце пульсирует настоящая человеческая жизнь. Цените это. Скоро такого сервиса не останется.

Прочитал два восторженных апокалипсиса про «ASI где-то рядом» - вот этот https://t.me/Secretariatus/412 и вот этот https://t.me/seeallochnaya/3384 - никак не могу избавиться от мыслей о том, что это не хроника рождения сверхразума, а типичный жанр "научпоп-мистика с апелляцией к Гарварду"1. Подмена тезиса. Нам заявляют примерно следующее:Пацаны, люди 40 лет считали амплитуды нулевыми, был тупик. Загрузили в GPT-5.2 Pro - она увидела паттерн. Потом внутренняя reasoning-модель за 12 часов строго доказала. Значит ASI. Расходимся.Даже если всё так (а мы ещё до этого дойдём), максимум, что из этого следует:LLM + правильные люди + правильно подготовленные данные + правильная постановка вопроса + проверка людьми = мощный инструмент.Но инструмент ≠ автономный суперинтеллект.Если микроскоп позволил увидеть бактерии, это не значит, что микроскоп "понял" микробиологию.2. Классическая ошибка выжившего: на одно успешное нахождение решения могут быть сотни неудачных попыток, о которых никто не услышит. За кадром мы имеем десятки тупиковых веток, тонны мусорных гипотез, часы проверки...3. Апелляция к авторитету вместо проверяемости. Телеграм-версия тезиса: «40 лет считали амплитуды нулём. Тупик. ИИ нашёл скрытый паттерн». В самой же статье этот тезис описан с меньшим пафосом и прозаичней.4. "Скрытый паттерн" - это не обязательно "новое знание"В реальности это может означать довольно приземлённые вещи: перебор/эвристический поиск формулы, распознавание структуры, подтягивание известного приёма из соседней области, корреляционный анализ). Это не "сверхразум". Это - ускоритель рутины + генератор гипотез (иногда гениальных, да). AlphaFold, например, (тот, что моделирует взаимодействия белков с другими молекулами) действительно перевернул практику, но никто всерьёз не называл его "ASI" - потому что он не стал универсальным мыслителем, а стал великолепным специализированным инструментом, экономящим ученым миллионы лет ручных вычислений.Короче, ИИ сегодня:- быстрый генератор гипотез и к

Тоже сделаю вид, что в теме и что-то понимаю...Пост предпринимателя Мэтта Шумера (CEO HyperWrite, 6 лет в ИИ) набрал уже более 79 млн просмотров и стал одной из самых обсуждаемых публикаций об ИИ за последние месяцы.Перевод текста во вложении.Ниже - сначала наиболее сильные тезисы из этого текста (почему это так зацепило людей), а потом - критика и рефлексия, что в таких эссе важно отделять от риторики.Почему цепляет:1) «Разрыв между публичным восприятием и реальностью»Главный нерв текста: многие судят об ИИ по старому опыту («галлюцинирует», «пишет ерунду», «как игрушка»), а те, кто использует современные модели ежедневно в работе, видят уже другую картину: ускорение черновиков, анализа, кода, подготовки материалов, исследования.Даже если вы не верите в "замену многих профессий", факт разрыва восприятия - реальная проблема. Он ведёт к тому, что компании/люди поздно перестраивают процессы и навыки.2) Кодинг "как краеугольный камень"Идея, что ИИ сначала прокачали в программировании, звучит логично. OpenAI сами же подтвердили в документации, что GPT-5.3 Codex стала первой моделью, которая помогала создавать саму себя.3) Очень правдоподобно, что джунам будет всё сложнее, планка входа вырастет, а структура команды изменится.4) Практические рекомендации у Мэтта в целом полезныЕсли убрать нагнетание, остаётся рациональное:- начать использовать ИИ не как "поисковик", а как рабочий инструмент в конкретных процессах;- инвестировать время в навык адаптации;- укреплять финансовую устойчивость;- смещаться к задачам, где важны доверие, ответственность, коммуникация и контекст.5) Правдоподобен и этот тезис:Будущее формирует удивительно маленькое число людей: несколько сотен исследователей в нескольких компаниях… OpenAI, Anthropic, Google DeepMind и ещё несколькихГде Мэтт перегибает: критика и разбор слабых мест1) «Задачи» ≠ «профессии»: ошибка, которая делает прогнозы слишком прямымиИИ быстрее всего съедает задачи. Профессии меняются позже - и часто через реорганизацию ролей, а н

Выпустили детский толковый словарик аналитика медиа (скачать тут): рассуждения на мою любимую тему «Зачем?» Я немало думал о том, что уже давно прошли те времена, когда дети знали цену хлеба - не по картинкам, а по зерну в ладони. Ведь раньше ребёнок видел…Кстати, забыл сообщить, что к НГ был напечатан небольшой тираж словарика по аналитике медиа (для детей)🤗 Мои старшие заценили (им понравилось).

«Ну чё, признавайся: сам написал или это ИИ?»Когда документ внезапно выглядит слишком гладким и структурированным, этот вопрос обычно про две вещи - и обе неприятные:Первое. Стоит ли мне вообще инвестировать своё личное время в текст, в который автор, возможно, не инвестировал своё? (Если ты не думал, не выбирал формулировки, не проверял причинно-следственные связи - почему это должен делать я?)Второе. Твои мозги способны "без костылей и ИИ-помощников" создавать настолько качественные и проработанные смыслы? Есть исследование: "Your Brain on ChatGPT: Accumulation of Cognitive Debt when Using an AI Assistant for Essay Writing Task"Если очень грубо по выводам:- когда люди писали эссе сами, мозг был максимально включён, на электроэнцефалограмме демонстрировалась высокая активность нейронов/высокая когнитивная вовлечённость;- когда использовали Google, вовлечённость была средней: нужно ориентироваться в источниках, выбирать, сравнивать, отсекать мусор;- когда полагались на ChatGPT, вовлечённость - самая слабая: ощущение, что "в одно ухо влетело, в другое – вылетело".Это можно прочувствовать и без ЭЭГ, на личном опыте:- написал "красиво" с помощью ИИ - и через полчасика уже не можешь вспомнить, что именно там утверждалось;- своими словами после ИИ писать становится тяжелее - как будто мышца "сдулась";- спорить и защищать позицию сложнее: аргументы не лежат в голове, они лежат "в чате".Рабочая стратегия не "отказаться от ИИ", а нужно перестроить режим использования, чтобы не тупеть (особенно в тех случаях, когда дело касается области твоих профессиональных компетенций):1. Сначала пишешь сам: черновик, план, тезисы, логика.2. Потом просишь ИИ быть редактором, а не писателем: найди дыры в аргументации, задай вопросы, которые я не задал, предложи контраргументы, укажи места, где я "плаваю" или делаю скачок в логике.3. Ноль прямого копипаста в финал. Переписывать своими словами - так смысл становится твоим.4. Проверяешь факты и источники. ИИ - не источник, а собеседник/тренаж

Ну хорошо, а как это делает человек?И тут начинается самое интересное...Мы легко рассказываем себе "школьную" историю:«Я сложил единицы, перенёс разряд, сложил десятки…»Но насколько это описание похоже на то, что реально происходит в мозге?Что происходит в нейронных сетях теменной коры, когда мы оперируем количествами?Как лобная кора удерживает в рабочей памяти промежуточные результаты?Как зрительная система кодирует пример, который мы видим глазами?Образно говоря, когда мы смотрим на 47 + 68 = ?, мы ведь тоже не видим готовый ответ мгновенно.На уровне сетчатки и ранних зрительных областей всё разламывается на контуры и линии.Из них собираются символы, из символов - знакомые знаки, из знаков уже числовые представления и операции над ними.Не происходит ли и у нас нечто вроде разбивки на "биологические токены" и запуск натоптанных нейронных тропинок?Очень похоже на то, что мы видим в нейросетях - только сделано из белка, а не из кремния.И тогда встаёт главный вопрос:если ИИ может оперировать символами и числами без какого‑либо внутреннего опыта, то что именно делает наши собственные операции осознанными?Почему набор электрических вспышек в человеческом мозге сопровождается ощущением:"это считаю я, я понимаю, что делаю", а вот набор вспышек в кремниевой сети, вроде бы формально похожий, мы считаем пустой обработкой?Как из нейронной механики вырастает субъективное "я" - тот, кто переживает процесс счёта, понимания, сомнения?Ответа на это нет.И именно здесь, в проблеме сознания и в том, как на самом деле работает человеческий мозг, сегодня остаётся последний и едва ли преодолимый бастион против простого, самодостаточного физикалистического / материалистического мировоззрения.Мы всё лучше понимаем, как возникают способности -и почти не понимаем, как из этого всего возникает тот, кто о них знает, кто ими живёт.

Как ИИ складывает числа и как имитирует мыслительный процесс?Говорят, что у больших языковых моделей нет внутреннего диалога и понимания (а что это вообще такое?) Они делают одну вещь: предсказывают следующий токен.Что модель "видит", когда вы пишете: "сколько будет 47 + 68?"Мы видим два числа и знак "плюс".Модель "видит" просто знакомый текстовый шаблон.Она не оперирует сущностью "сорок семь" или "шестьдесят восемь".Говорят, что у моделей нет единого "модуля сложения".Есть много перекрывающихся процессов: - одни грубо прикидывают порядок: «результат чуть больше ста»;- другие отвечают за последнюю цифру: «7 + 8 обычно даёт 5 на конце»;- третьи работают как выученная наизусть таблица сложения от 0 до 9…Ничего не напоминает?😌При этом большинство моделей начинают сыпаться на длинных числах (не говоря уже про очень длинные числа, когда его величеству Экселю нужно расширение XNumbers).Короче говоря, на длинных, странно отформатированных или редких случаях LLM начинает ошибаться так, как не ошибся бы школьник.Если спросить ИИ, как именно он посчитал пример, он в красках опишет:"Сначала сложил единицы, перенёс разряд, потом сложил десятки…" - звучит очень "по-человечески".Но на деле почему-то, оказывается, что описанный "школьный" алгоритм к тому, что реально происходило внутри, почти не относится.Модель просто генерирует ещё один текст - правдоподобное объяснение, статистически похожее на другие объяснения из громадной обучающей выборки.Это не окно в её внутренние процессы, а ещё один слой имитации.Связность объяснения НЕ РАВНЯЕТСЯ корректности реального "хода вычислений".ИИ где-то между «автодополнением» и «мышлением»Масштабное предсказание токенов рождает механизмы, которые в узких областях имитируют рассуждения и арифметику. Но нигде не появляется субъект, который "понимает, что делает".Но это и не «тупая автозамена». Внутри спонтанно вырастают сложные "узлы" - что то вроде логики, что-то вроде памяти фактов, что-то вроде прикидочной математики. Кстати, мой старший сы

Мой маленький братец попросил помочь: проголосовать за него и сделать репост. Не смог ему отказать.Кто хочет поддержать его, просьба отдать голос за Платова Артёма, ему будет приятно (он дзюдо занимается).p.s. Как вы относитесь к подобного рода эксплуатации некоторыми тренерами социальных контактов своих воспитанников? Неужто подобные народные голосования помогают достигать спортивных результатов? И за что голосовать? Какая польза от голоса «за милые глаза»? Ладно бы хоть за достижения или за выступления на соревнованиях. Было бы лучше, имхо, если бы сначала тренер постил видео выступлений своих юных спортсменов, пронумеровал бы их, а дальше уже голосовалку. Это как пожелание, но тренеру виднее.

Кажется, мы возвращаемся к старым добрым временам, когда «При устах двух или трех свидетелей будет твердо всякое слово» (2- Кор 13:1)Тот миг, когда мы тыкали пальцем в экран со словами «ну вот же, смотри, всё заснял!» — канул в цифровую лету.Генеративная эра, скорее всего, поставит жирный крест на фото или видео в качестве неопровержимых доказательств.То есть будущее, которое нам обещали как царство тотальной фиксации реальности (камеры на каждом углу, регистраторы в каждой машине, смартфоны в каждом кармане) плавно переедет в режим: «Это был не я, это дипфейк. Это не я говорил, это синтез голоса. Это не я там стою, это нейросетка на меня похожа».Раньше:- Мне нужен свидетель.Скоро:- Мне нужно как минимум два живых человека, не боты, не фейки, с биографией длиннее трёх постов в соцсетях, которые готовы выйти в офлайн, назвать своё имя и сказать: «Да, я там был. Да, я это видел. Да, если окажется, что я вру - мне репутационный харакири».Потому что файл можно подделать. Свидетельство можно сгенерировать. А вот долгую историю жизни, где ты 10 лет был более-менее последовательным и осознанным — пока что подделывать дорого и долго.Мы шли к цифровому миру, где «всё записано, ничего не спрячешь».Приходим в мир, где «всё записано, значит ничему особо верить нельзя».Суды, медиа, общественное мнение — всем придётся откатываться к олдскульному режиму «два или более свидетеля, показания совпадают, люди вменяемые, ставок много, врать им дорого». Только раньше это было вынужденно, потому что не было камер. А теперь - осознанно, потому что камер слишком много, и они больше не создают реальность, а имитируют её.Хотя нет… Есть же ещё системы цифрового водяного знака, цифровые подписи, где старая добрая проблема дискретного логарифмирования стоит на страже подлинности реальности. Криптография на эллиптических кривых, блокчейн, децентрализация и вот это вот всё.То есть в будущем нормальный диалог может выглядеть так:- Вот видос, смотри.- А он подписан?- В смысле?- В смысле: есть крипто