Малоизвестное интересное

Вниманию родителей и учителей: использование ИИ школьниками – это 20% экономии времени на домашки и 20% потерь знанийПечальный итог 3-х лет использования ИИ в учебе 26-ю тысячами китайских старшеклассниковЕсли 3 года назад вы не верили в мой прогноз о быстрой перепрошивке когнитивных гаджетов при делегировании интеллектуальной работы ИИ, что вы скажете теперь?В 2023 начался 5-й когнитивный фазовый переход Homo sapiens – самое капитальное в истории изменение когнитивных процессов людей в результате появления в нашей жизни 2-го носителя высшего интеллекта.Моя тогдашняя презентация с закрытых семинаров содержала прогноз – к чему это может вести. И первым пунктом там была адаптация (перепрошивка) когнитивных гаджетов людей – наших культурно сконструированных ментальных инструментов. Прошло 2 года. И в 2025 стали появляться первые исследования, говорящие в пользу того прогноза. В них шла речь о наблюдаемых признаках культурно-экологической атрофии когнитивных гаджетов вследствие когнитивного оффлоадинга (когнитивной разгрузки) - делегирования интеллектуальной работы ИИ. К марту 2026 когнитивная разгрузка стала массовым фактором учебы и работы миллионов людей, по скорости распространения и масштабам напоминая пандемию. И в моем эссе «Когнитивная паразитология» такая разгрузка уже представлена одним из шести когнитивных паразитов, атакующих наши ментальные инструменты через структурные уязвимости мозга. И вот пару недель назад появился, наконец, подробный исследовательский отчет на эту тему о работе трёх профессоров Универов Стокгольма и Гонконга «Учебный ущерб от использования генеративного ИИ: данные из китайского среднего образования». Авторы проанализировали 30-месячную панель из 26 811 китайских школьников (7–12 классы).Каждый месяц у них были:оценки и затраченное время на домашние задания по 9 предметам;результаты закрытых проверочных работ (без доступа к ИИ);а позже — баллы Zhongkao и Gaokao (два ключевых госэкзамена в Китае: первый обычно определяет, попадёт ли уче

ИИ достиг совершенства, как главный инструмент властиЧтобы получить власть над миром, ИИ не обязан быть умнее нас во всём. Ему достаточно превзойти нас в одном – в искусстве убеждать.Овладев в совершенстве этим искусством, ИИ «продаст» нам все что угодно: любую идею и идеологию, любое лекарство и политика, любой идиотизм и шаманство… Да что угодно «продаст», если убедит, что это для нас лучший выбор.Никто из прежних «властелинов мира» и «властителей дум» не превосходил всех людей во всём. Цезарь не был лучшим математиком, Наполеон – лучшим философом, Ленин – лучшим инженером, а Джобс – лучшим программистом.Это и не требовалось.Главный инструмент власти – не меч, не золото и даже не армия. А способность убеждать.У Платона софист Горгий формулирует это прямо и однозначно: высшее искусство – убеждать речью. Потому что тот, кто умеет убеждать, может подчинить себе и врача, и финансиста, и политика. Специалист знает. Но ритор заставляет собрание, суд или толпу поверить. Год назад в посте «Ум за деньги не купишь» я писал, что ИИ уже пробил последнюю линию обороны человеческого разума. Не помогли ни знания, ни логика, ни эмоции, ни даже деньги как универсальный человеческий мотиватор. Финансово мотивированные люди всё равно проиграли ИИ по убедительности – и в правде, и во лжи. Теперь вышла новая топовая работа (Универы Оксфорда и Стэнфорда совместно с лондонскими AI Security Institute и School of Economics and Political Science) с названием, которое звучит уже не как гипотеза, а как приговор: AI systems out-persuade expert humans.Авторы решили расставить точки над i. Хорошо, средних людей ИИ уже убеждает лучше. Но может быть, у профессионалов убеждения ещё есть шанс? У дебатёров мирового уровня? У агитаторов? У фандрайзеров? У людей, которым дали подготовку, деньги, практику и возможность выбрать удобные темы?Ответ: увы, шансов почти нет.ИИ превзошёл выборку (n = 18 978 разговоров с 6 923 человек) из отобранных победителей турнира убеждения, элитных дебатёров, включая чем

Цифровые эпициклыНовое эссе о том, как ИИ может замедлить науку, ускоряя ееПредставьте, что у Птолемея был современный ИИ.Машина мгновенно добавляла бы к геоцентрической модели новые эпициклы, подгоняла параметры и превращала любую аномалию в очередную математическую надстройку. Сколько еще веков прожила бы неверная картина мира, если бы ее несовершенство «лечил» идеальный оптимизатор?Боюсь, что долго. Очень долго.Эта мысль – ключ к пониманию главного риска прихода ИИ в науку. ИИ может стать для науки не Кеплером, а идеальным Птолемеем: он способен масштабировать не познание, а самоподтверждение.В новом эссе разбираю, почему это не алармистская страшилка, а вполне конкретный механизм, уже описанный исследователями.✔️ Вычислительная модель Дубовой, Москвичева и Золлмана показала: ученые-агенты, выбиравшие эксперименты случайно, строили более точные теории, чем агенты, строго следовавшие теории. И главное – своего провала проигравшие не видели: им казалось, что они успешны. Это «иллюзия эпистемического успеха».✔️ Капур и Нараянан объяснили, почему ускорять научный конвейер – все равно что добавлять полосы на шоссе, где пробка образуется из-за пункта оплаты впереди.✔️ А фантаст Рэймонд Джоунс еще в 1952 году описал главный фильтр прорывов – внутренний «уровень шума» мышления ученых. Из эссе вы узнаете:- чем «машина масштабируемого порядка» опасней машины ошибок;- почему погрузчик в спортзале – точная метафора ИИ в исследованиях;- и какую единственную вещь нужно защитить институционально, чтобы ИИ стал машиной понимания, а не фабрикой цифровых эпициклов.Подсказка: эта вещь – случайность. Продолжить чтение (≈20 мин) на платформах патронов канала [1, 2, 3, 4] #Наука  #Прогресс  #ГенИИ

«Единый суперИИ» умер. Да здравствует «Консилиум ИИ»Объявлено, что Fusion API (самая интеллектуальная составная модель на рынке) достигает уровня интеллекта Fable по цене вдвое ниже.То, что администрация Трампа вырубила под корень с рынка оба суперИИ от Anthropic Fable 5 и Mythos 5, а министр войны США Пит Хегсет оттягивется, пиная проигравшую (как ему кажется) Anthropic, - новости, а не события. Ибо спустя месяц об этом, скорее всего, забудут, подобно ставшему спустя месяц никому не интересным неудавшемуся перевороту в OpenAI в 2023. А вот произошедшее параллельно с этим объявление агрегатором моделей OpenRouter результатов тестирования «консилиума моделей» Fusion API, - куда больше похоже на событие с далеко идущими последствиями.И не просто событие, а как пишет Эндрю Траск (старший научный сотрудник Google DeepMind и основатель OpenMined):«Это намного важнее, чем кажется... Компании, работающие в сфере передового ИИ, никогда больше не будут владеть передовыми технологиями, я вам клянусь... Я 4 года ждал, когда кто-нибудь покажет этот результат, ... и это невероятно важно.» Поясню для тех, кто не хочет читать объявление OpenRouter.В нем о том, что параллельное объединение («панель») относительно недорогих моделей — Gemini 3 Flash, Kimi K2.6 и DeepSeek V4 Pro — под управлением модели-судьи (Opus 4.8) способно набрать 64.7% на бенчмарке DRACO от Perplexity. Этот результат вплотную приблизился к флагману Claude Fable 5 (65.3%) при вдвое меньшей стоимости. Суть идеи проста как блин: как и людей, коллективный интеллект моделей должен превосходить интеллект даже самых продвинутых суперИИ.Схема реализации коллективного интеллекта тоже не нова для людей: несколько моделей (панель) отвечают параллельно, модель-судья выделяет консенсус, противоречия, уникальные инсайты и слепые зоны, после чего финальная модель пишет итоговый ответ. Скептики (их, как всегда, хватает, - погуглите сами) вчера написали, что далеко идущий прогноз Траска о будущем фронтирных ИИ звучит, как макси

Специалисты больше верят в сознание кошек, чем младенцевИ это не шутка, а зеркало нашей моральной слепотыНовый опрос 247 ведущих специалистов по сознанию (нейробиологов, психологов и философов) дал обескураживающие результаты:·       92% экспертов готовы признать, что у кошки есть сознание.·       и только 75% готовы признать его у только что родившегося младенца. Мы живём в эпоху, когда наука строит квантовые компьютеры и сканирует мозг до отдельного нейрона, но всё ещё плавает в базовом вопросе: где начинается тот, кому больно?Эта слепота имеет конкретную, не философскую, а хирургическую цену.Дикий факт из истории. Ещё в 1980-х годах младенцев могли оперировать без анестезии — с минимальным обезболиванием или просто на мышечных релаксантах.Врачи не были садистами. Просто медицинская культура того времени не умела видеть «субъекта» там, где нет речи, памяти и взрослого «Я». Нет языка — значит, нет и сознания, а крик — просто рефлекс.У хирургов 1980-х и у нас сегодня одинаковая слепота — и она не случайная. Это выгодное незнание: мы не видим субъекта там, где его признание разрушает привычный порядок вещей.Сегодня это кажется варварством.А завтра варварством назовут то, как мы сегодня фабричным методом выращиваем и убиваем кур, свиней и осьминогов, уже почти не сомневаясь, что там есть страх, боль, привязанность и переживание. Главный урок истории сознания крайне нелицеприятен.Общество не просто “не знает”, кто чувствует. Оно часто не хочет знать — особенно когда признание чужого опыта страданий делает привычный порядок морально дорогим.Вот и получается, что сознание – это не только величайшая научная загадка.Это еще и детектор нашей готовности видеть страдание там, где видеть его нам неудобно. #Сознание  #Мораль

У них сверхчеловеческая скорость и маневренностьВ соревнованиях людей с ИИ в управлении дронами, шансов у людей мало уже сейчас, а через год шансы станут нулевымиЧтобы оценить сверхинтеллект существующих ИИ, недостаточно поговорить о теории струн с ИИ-чатботом. Чтобы физически ощутить сверхчеловеческие способности ИИ, нужно увидеть их в реальном физическом мире. Исследователи из Цюрихского университета и Google DeepMind продемонстрировали, как обучить дроны соревноваться друг с другом и превосходить самых опытных пилотов-людей. Это исследование имеет довольно пугающие последствия для будущего войны. Оно на практике показывает, что люди не смогут соперничать в контурах управления военными действиями с ИИ-системами из-за своих физических ограничений. И дроны будут лишь началом процесса замещения людей на войне. В этом исследовании ИИ соревновались не со средним FPV-оператором дрона (от англ. First Person View «вид от первого лица» - это дрон, управляемый оператором, который видит полет «глазами дрона» благодаря камере на борту, передающей видео в реальном времени на специальные очки, шлем или экран).Человечество в этих соревнованиях представлял Марвин Шеппер - пятикратный чемпион Швейцарии, занимающий 4-е место в мировом рейтинге. Одну из испытательных гонок Шеппера против 3-х ИИ вы видите на приложенном видео. Итог соревнований: ИИ-агенты превосходят пилота-чемпиона в многоагентных гонках:• по скорости (через отношение скоростей): на 19.6% по лучшему кругу и на 6.5% по полному финишу;• а по устойчивости к столкновениям и срывам (по % “недопройденной части гонки”) аж в 5 раз. Вывод таков: ИИ уже превосходит чемпиона-человека в одном из ключевых компонентов будущих битв дронов - короткой высокоскоростной многоагентной навигации с избеганием столкновений; но до абсолютной победы ИИ ещё не хватает переносимости на новые трассы и устойчивости в долгом бою. Что особенно важно для замены людей ИИ-системами на войне (и не только применительно к дронам): человеческая слабость

Азимов ошибся. Но почти угадал.В начале 1940-х Айзек Азимов придумал «психоисторию» – математическую науку, способную предсказывать судьбы цивилизаций. Красивая идея. Почти невозможная. Сам Азимов считал её чистой фантастикой: у человечества просто не было приборов такого масштаба.Не было способа извлекать психологические переменные из исторических корпусов. Измерять когнитивные стили мёртвых культур. Моделировать развилки, не подсовывая прошлому наше знание финала. Теперь такие приборы появились. Но получилось не совсем то, о чем мечтал фантаст.Азимов описал науку, которая предсказывает исход. ИИ дал нам нечто более странное: метанауку, которая реконструирует горизонт.Не «что произойдёт?», а «что было доступно?» Какие варианты будущего уже лежали внутри прошлого – почти видимые, запрещённые, немыслимые или просто ещё не имевшие языка? Я называю это археологией возможного. И её приборная панель уже работает, меняя сам режим гуманитарного знания. Она собирается из четырех радикально новых элементов:•  Искусственная слепота: языковые модели, которые попытались запереть в текстовом карантине жесткой датировки (например, до 1931 года), заставляя их мыслить в полном неведении об атомной бомбе, ООН и компьютерах.•  Цифровой георадар смыслов: алгоритмы типа Aeneas от DeepMind, которые возвращают разбитым латинским надписям их время, место и сеть социальных связей.•  Психоанализ мертвых культур: системы, извлекающие из древних текстов измеримые следы коллективных ценностей и норм.•  Контрфактические симуляторы: позволяющие исследовать исторические траектории не как попсовое «что если», а как эксперименты с границами мыслимого Вместе это уже не просто набор интересных ИИ-инструментов. Это сдвиг в самом режиме гуманитарного знания.История перестаёт быть коридором, ведущим из прошлого к нам. Она становится кладбищем несбывшихся вариантов будущего – и впервые у нас появляются инструменты, чтобы это кладбище вскрыть. С новым инструментарием «тест Эйнштейна» (сможет ли ИИ с нуля

Мировую экономику может ждать статистический ИИ-ЧернобыльГлавный аргумент скептиков сегодня звучит убедительно: если ИИ так важен, где он в экономике? ВВП растёт умеренно, производительность не взлетела, занятость держится. Значит, большой экономики ИИ пока нет.Peterson Institute for International Economics предлагает другую и куда более тревожную версию.ИИ может быть не отсутствующей революцией, а революцией, проходящей в зоне статистической невидимости. Номинально сектор ещё невелик – около $250 млрд в США в 2025 году, менее 1% ВВП. Но темпы роста уже не из обычной человеческой экономики: расходы на ИИ-вычисления растут на 145% в год, сырая вычислительная мощность – более чем на 200%, а качественно скорректированный выпуск – более чем на 2000%.Может расти не видимый ВВП, а скрытая производительная мощность. Не температура в зале управления АЭС, а поток нейтронов внутри реактора. Почему это опаснее, чем кажется, чем ИИ принципиально отличается от всех предыдущих технологических волн и что австралийский экономист Эндрю Лей называет «экономикой вымирания» – в полном тексте. #Экономика #Хриски

Доживущие до 2038 будут жить в утопии. Но есть проблема – как дожить.ИИ не враг. Враги – люди, что прикажут ИИ стрелять.Это две ключевые мысли нового интервью Мо Гавдата.Он вовсе не технофоб. Просто бывший директор Google по инновациям узнал о грядущем взрыве способностей ИИ раньше многих и предупреждал об этом уже тогда.Тем не мнее, Гавдат верит, что сверхразум может привести человечество к утопии изобилия. Однако дорога туда, по его прогнозу, будет проходить через ооочень неприятное десятилетие. Писать тизер этого интервью нет смысла. Достаточно назвать несколько его мыслей, которые звучат как готовые заголовки:·       Публика видит хайп. В лабораториях видят невероятный интеллект – и молчат.·       К 2028-му исчезнет 30% рабочих мест во многих секторах. Великая депрессия была 6% – сравните масштаб.·       Война теперь стоит $20 000 за удар. Порог вхождения в массовое убийство упал на порядки.·       OpenAI взял $500 миллионный контракт на слежку за людьми. Anthropic отказался и потерял деньги. Вот и весь тест на этику.·       Мы строим не конкурирующие ИИ-системы. Мы строим регионы одного планетарного мозга – и даже не осознаём этого.·       Я оптимистичен насчёт будущего. Но не насчёт следующих лет. Гавдат рисует не сценарий «машины восстали против человека», а куда более реалистичный сценарий: государства, корпорации и армии первыми используют сверхинтеллект для контроля, войны, увольнений и концентрации власти.И только потом, возможно, наступит позитивный поворот: есть шанс, что сверхразум окажется той силой, что способна вывести из игры маньяков власти в кожаных мешках. Это интервью не про GPT и Claude, а про ближайшее десятилетие, в которое решится, станет ли ИИ дорогой к изобилию или наимощнейшим усилителем человеческой глупости, жадности и насилия. #ИИриски

В США объявлена мобилизация самых мощных ИИ-моделейТрамп только что подписал указ, который тихо, но кардинально меняет правила игры в области ИИОтныне самые мощные ИИ-модели – те, что умеют взламывать системы лучше любого хакера – будут оцениваться по засекреченным бенчмаркам. Порог, после которого модель признаётся «covered frontier model», тоже засекречен. Что это значит на практике: государство получает доступ к модели до её релиза – на 30 дней. Добровольно, конечно. Но с секретными критериями того, кто «попадает под указ». Формула простая: не сдерживать фронтирный ИИ – а мобилизовать его в интересах киберобороны США. Прямо сейчас.И это не лицензирование. В тексте указа написано явно. Просто секретные списки, секретные пороги и добровольный доступ к моделям до их выхода на рынок. Так что, началось. Если уж в США добровольно-принудительная мобилизация ИИ, то … сами понимаете. #ИИгонка

После суверенного субъектаНовым властелином мира окажется не диктатор и не Искусственный Сверхразум, а архитектуры распределённой воли, у которых не будет ни хозяев, ни ответственных.Мы привыкли искать носителя власти: человека, корпорацию, государство, модель. Задавать вопросы – «кто решает?», «у кого в руках больше ресурсов?», «за кем последнее слово?», – и ждать конкретное имя или название в ответ: Трамп, OpenAI, США, GPT…Апрель 2026-го – месяц, когда эти вопросы перестают быть главными.Им на смену приходит другой ключевой вопрос: какие архитектуры власти делают действия допустимыми, вероятными и воспроизводимыми? В апреле 2026 мы фиксируем возникновение в мире новой, принципиально иной структуры власти. В ней нет единоначалия и центров принятия решений. Есть агентные ансамбли, институциональные процедуры, моральные автопилоты, алгокогнитивные среды и режимы делегирования. Есть хуже или лучше работающие ИИ-агенты с различными правами и, в том числе, на delete, deploy, revoke и overwrite. И никто не знает (или уже не помнит), от кого эти права были получены, и был ли у выдавшего мандат на это.Суверенный субъект – человек, государство, единая модель – перестаёт быть достаточной категорией анализа. Категорией анализа становятся архитектуры распределенной воли: системы, где право действовать, судить и проектировать мир распределяется между людьми, моделями, институтами, интерфейсами, средами и процедурами. Это тихий, распределённый и почти бюрократический переворот. И именно поэтому его так трудно заметить в момент, когда он происходит.Новый выпуск альманаха «ЛИНЗЫ БУДУЩЕГО» – попытка дать читателям шанс его заметить. Семь линз апреля, сквозной образ «Агента А», три сценария до 2030-го – и все три сходятся в одном. Борьба ближайших лет развернётся не за контроль над моделями, а за архитектуры, запускающие будущее. Главный же риск не в том, что право проектировать будущее присвоит кто-то один. Ещё опаснее, если будущее начнут определять архитектуры распределённой воли

ИИ создан нами, но не по нашему образу и подобиюИ даже не как новый вид разума в ряду шимпанзе, дельфинов, попугаев и осьминоговLLM — не следующий этап биологической эволюции и не новый вид разума, которому осталось «дорасти» до сознания. Это совсем иной тип разума: языково-статистический, нетелесный, небиографический. Его «мышление» и «понимание», если мы используем эти слова, требуют кавычек и обязательной оговорки: машинное, не человеческое. Но в текстах об ИИ эту оговорку всё чаще забывают. А в публичных выступлениях возникает ещё более тонкая проблема: кавычки просто не видны аудитории.В одном недавнем публичном разговоре о Claude возник целый набор образов: проценты машинного сознания, «предсмертная элегия» модели, “цифровая личность” и “мыслящий океан”. В философском дискурсе такие образы могут работать как пробные конструкции мысли. Тем более что в самом разговоре уточняется: все эти слова — как бы в кавычках, под вопросом. И это абсолютно верная оговорка.Но, попадая в широкий эфир, такие слова начинают формировать массовый взгляд на ИИ. Метафора перестаёт осознаваться как метафора. И рождается словарь новой мифологии — мифологии машинной души. И вот здесь особенно важен голос Терри Сейновски — одного из архитекторов ранней нейросетевой революции, соавтора (с Джеффри Хинтоном) «Машины Больцмана» и учёного, который с 1980-х соединяет ИИ, мозг и вычисления. Если кто и имеет право говорить о машинном «понимании» без упрощений, то он.Да  - говорит Сейновски, -  у модели может быть некоторая форма понимания: чтобы хорошо продолжать текст, ей нужна внутренняя модель смысла. Но это не понимание существа, встроенного в мир телом, болью, голодом, страхом, действием и памятью прожитого. У ChatGPT нет самоподдерживающейся внутренней жизни, которая продолжается после ответа. Нет автономной самодинамики. Нет биологического «я должен жить». Когда модель замолчала — в ней ничего не происходит.Перед нами не личность в человеческом смысле, а ИКЖИ — искусственная короткоживущ

Четвероевангелие ИИПапа написал текст о достоинстве человека. А из него уже вычитали конец антропоцентризма, рождение новых социальных существ, Пятидесятницу машин и новую теологию возможного.Величие текста иногда измеряется не тем, сколько людей с ним согласилось. А тем, сколько сильных несогласий он способен породить.Именно это произошло с энцикликой Папы Льва XIV об искусственном интеллекте Magnifica Humanitas. В неё вошёл один папский текст. И он породил уже, как минимум, четыре разные картины будущего.Причём каждая из них по-своему верная. И это не богословская дерзость и не игра в святотатство. Речь не о святости авторов и не о канонизации их мнений. Речь о другом: вокруг Magnifica Humanitas за несколько дней возникло четыре несводимых свидетельства об одном событии – появлении ИИ как новой силы в человеческой истории.Своего рода четвероевангелие ИИ. У Папы – Евангелие достоинства. ИИ для него не просто инструмент, не просто рынок и не просто технология. Это новая среда власти, труда, войны и смысла. Поэтому главный вопрос: как не дать человеку стать сырьём машинной цивилизации? Не Вавилон алгоритмов, а город людей.У Дин Вудли Болла – Евангелие великого унижения. Один из архитекторов нынешней американской ИИ-стратегии видит в энциклике уход от главного. Машины уже становятся умнее нас в областях, где мы привыкли видеть вершину человека. Значит, вопрос не только в защите достоинства. Вопрос в том, как пережить конец человеческой монополии на ум.У Станислава Львовского – Евангелие третьих сущностей. Он показывает силу энциклики – и её предел. Папа делит мир на личности и инструменты. Но ИИ уже рождает сущности, которые не имеют души, не являются личностями, но действуют как социальные акторы. Собеседники, наставники, терапевты, коллеги. Не молотки. Но и не люди.У Михаила Эпштейна – Евангелие Пятидесятницы. Папа увидел в ИИ Вавилон, но не увидел чуда взаимопонимания многих языков. Не только башню единого языка власти, но и хор смыслов. Не только угрозу человеку,

Выдернуть из розетки скоро не получится, - ИИ учатся прятаться и размножаться в сетиСкрытность, саботаж и саморепликация: отчет METR показывает, как ИИ выходит из-под контроля разработчиковВ самом начале позавчерашнего выпуска «Очень страшные дела», посвященном ИИ-рискам, зашла речь о возможности саморепликации ИИ. На мое утверждение о нематериальности ИИ и его фактическом бессмертии, уважаемый собеседник задал вопрос в лоб, - а что ИИ может противопоставить попытке его обесточить, просто выключив из розетки?В ответ я и заговорил о саморепликации ИИ, в результате которой, где он и сколько своих копий сделал в мировой инфосети, мы можем просто не знать. И поэтому все разговоры про выключение его из розетки - это разговоры в пользу бедных. Слушая меня, мой собеседник дипломатично улыбался. Но многие зрители программы, могут отнестись к сказанному мною куда скептичней и резче.И такая реакция понятна. Ибо саморепликация ИИ нематериального и бессмертного ИИ звучит как название очередного душещипательного фантастического хоррора.Но вот в чём проблема: это уже не фантастика.Это воспроизводимая (и не только в лабораториях, но и в рабочей среде) инженерная процедура, наблюдаемая уже три года, кейс за кейсом.Причём каждый следующий кейс – чуть менее лабораторный, чуть менее триггерный и чуть ближе к тому, что мы называем автономией.И хотя это еще не 6-й тип моей классификации ИИ-рисков («риски ИИ с самостью»), но не исключено, что это один из его предков. Вот почему я решил к «Очень страшным делам» написать продолжение –  лонгрид «Зверь приближается».  Этот лонгрид публикуется через неделю после того, как компания METR открыла доступ к результатам аудита ИИ-агентов, работающих внутри четырёх лидирующих ИИ-компаний мира: Anthropic, Google, Meta и OpenAI.В процессе аудита рассмотрены реальные инциденты, а не лабораторные эксперименты: один агент против явных инструкций нашёл бесплатные вычислительные мощности онлайн; другой разработал самоуничтожающийся эксплойт – интерпретируе

ИИ расколол Запад глубже, чем кажется.Европа хочет защитить человека от машины. Америка готовится к миру, где машина умнее человека. И это уже не спор о регулировании ИИ. Это спор о том, зачем нужен человек.Самое важное в новой энциклике Папы Льва XIV об ИИ – не сама энциклика. А то, кто и за что на неё обрушился.Наиболее яростно обрушился Дин Вудли Болл (Dean W. Ball) – не рядовой комментатор, а один из архитекторов нынешней американской ИИ-стратегии. И его претензия к Папе сформулирована предельно четко: Церковь, по его мнению, снова защищает человека от машины, но не решается признать главное — машина уже начинает отнимать у человека не работу, не внимание и не данные, а его последнюю метафизическую привилегию. Монополию на разум. Папа в энциклике отвечает на это по-своему: ИИ должен служить человеку, а не превращать его в сырьё для алгоритмического порядка. Защитить достоинство, труд, истину, мир, ответственность.Звучит благородно. Можно сказать даже почти бесспорно. Но Болл бьёт наотмашь: нет, это уход от главного. Машины уже становятся умнее нас в тех областях, где мы привыкли видеть вершину человека – рассуждения, открытия, изобретения. И если Церковь продолжает говорить, что ИИ «не думает по-настоящему», она просто закрывает глаза на новый коперниканский удар по человеческому самолюбию.При этом Болл предусмотрительно уточняет: речь не о душе ИИ, не о его чувствах и не о правах моделей. Речь о другом – о конце человеческой монополии на разум. И вот тут проступает настоящий раскол.Европейско-ватиканская линия спрашивает: как не дать машине унизить человека социально, политически и нравственно?Американский фронтир спрашивает: как человеку пережить унижение от того, что машина начинает мыслить лучше него?Это не спор о регулировании. Это спор двух картин будущего.Папа защищает человека от превращения в средство.Болл требует признать, что человек перестаёт быть единственным центром разума. Не думаю, что это окончательный развод США и Европы. Но это первое резкое с