Ни слова о нейросетях

Обожаю такие социальные эксперименты, просто чистый восторг. Это прям мой любимый жанр.В твитторе чувак с ником SHL0MS запостил картинку и написал: "Я тут сгенерил нейронкой изображение в стиле Моне. Пожалуйста, опишите как можно подробнее, чем это хуже настоящего Моне".Нюанс в том, что к твиту он прикрепил настоящую картину Клода Моне.Естественно, в реплаи моментально набежали искусствоведы, борцы с ИИ и прочие ценители высокого, которые на серьёзных щщах начали разносить "бездушную нейромазню" на атомы.В комментах и квотретвитах просто праздник какой-то:"Выглядит как работа первокурсника художки, нет никакой связности элементов""Сразу видно, что ИИ не понимает, как работают отражения в воде""Слишком плоско, нет глубины""Отсутствует композиция, взгляд ни за что не цепляется""Бездушная подделка""Сразу видно, что это рисовал не человек"...и ещё много-много-много критики.Идеальная иллюстрация того, как работает предвзятость. Кожаные готовы найти отсутствие души, плохие мазки и пластиковый графон даже в признанном мировом шедевре, если им предварительно сказать, что это нарисовал не человек.Это что, получается, что мясные мешки галлюцинируют и выдумывают факты ничуть не хуже, чем LLM-ки?причаститься к срачу, а то и поучаствовать, можно тут

Пару дней назад я понял, что постоянно обсуждаю с окружающими, кто как применяет агентов, Claude Code, Codex и т.п. - и не менее постоянно ловлю себя на том, что не догадался до какого-то крутого и очевидного применения.То есть, буквально, стандартный диалог в чате с друзьями: - "Смотрите, как круто, можно нарисовать слайд на доске, сфотографировать, и Claude Code сделает из него слайд"- "Ну да, ты что, не знал?"Гуглить применения - не выход, когда я в N-ый раз читаю о том, как замечательно агенты отправляют напоминалки по календарю, то у меня уже глаз дергается.Поэтому немного психанул и сделал простой сайт, чтобы обмениваться идеями по использованию ИИ в жизни: https://ai-ideas.ru/Спасибо, если зайдете и лайкните интересные вам идеи, а если еще напишете пару своих кейсов - ❤️

⚠ Насколько опасны ИИ-агенты?ИИ и безопасность - очень важная, и в то же время недооцененная тема.Один из последних сигналов - проект Glasswing от Anthropic. Компания заявила, что создала модель, способную массово находить уязвимости в ПО, поэтому доступ к ней останется закрытым. Насколько в этих новостях велико соотношение пиара и реальности, покажет время, но есть и другие важные события.👊 AI-агенты очень эффективны в кибер-атаках (offensive agents)Внезапно оказалось, что если у вас есть гигантская инфраструктура, которую делали люди, то в ней почти всегда возникают какие-то пробелы, а современные модели могут эти пробелы очень эффективно находить и использовать.Думаете, это просто лозунг?Есть крутой блог компании Codewell, которые последовательно:1⃣ Взломали McKinsey и написали об этом статьюAI-агент просканировал 200+ API (интеграционных интерфейсов) компании и нашел 22, которые не требовали аутентификацию. Путем сложного подбора в одном из API удалось подобрать запрос, который пропустила система безопасности, и он выдал клиентские данные.2⃣ Взломали BCG и написали об этом статьюАналогичная схема - 372 API, один из них позволил напрямую писать запросы к базе данных без аутентификации, и клиентские данные снова оказались у взломщиков.3⃣ Взломали Bain и написали об этом статьюНа сайте портале просто лежал файл с логином и паролем, который позднее при переборе API подошел к одной из баз данных.Так что - нет, это не просто лозунг, это уже реалии сегодняшнего дня.Но проблема не ограничивается внешними атаками. Те же свойства, которые делают AI-агентов эффективными атакующими, создают риски и внутри компании.🤖 AI-агентов непросто ограничиватьНедостаточно просто написать в системном промпте: "не делай ничего плохого и не нарушай правил", нужны более жесткие ограничения.Но и эти ограничения должны тщательно контролироваться - аналогично поведению агентов Codewell, модели внутри компании тоже могут искать и использовать уязвимости, если считают, что это нужно для выпол

К каким структурным изменениям в экономике может привести ИИ?Последние пару месяцев начали появляться очень интересные материалы о влиянии искусственного интеллекта на экономику. Для меня, как для человека с (небольшим) академическим бэкграундом в экономике, особенно увлекательно читать не просто лозунги о том, как "AI всех заменит", но и более глубокий анализ или даже статьи с экономическим моделированием разных сценариев.Давайте посмотрим, что можно изучить по теме.1⃣ "The 2028 Global Intelligence Crisis"Статья от консалтеров из Citrini с которой, как кажется, всё началось. Материал наполовину художественный, но задает важный вопрос: что произойдет, если внедрение ИИ ударит по работникам, через них по спросу и ВВП, и далее заставит компании еще больше инвестировать в ИИ, замкнув спирать стагнации? Нарисованная картина выглядит не радужно, но здесь, пожалуй, нужно делать поправку на намеренно провокационный характер статьи. 2⃣ "The AI Layoff Trap"Идея та же, но здесь уже авторы подошли более академично и сформулировали экономическую модель поведения компаний в заданных условиях.Плохая новость: компании на рынке оказываются в своеобразной "дилемме заключенного". Хотя для экономики в целом было бы эффективно остановиться в определенной точке замены работников для AI, каждая компания по отдельности замотивирована продолжать наращивать долю автоматизации, поэтому процесс не останавливается.Хорошая новость: хотя это сложно предотвратить другими экономическими мерами (которые авторы добросовестно промоделировали), но должен сработать налог Пигу. Он обычно используется как раз в ситуациях, когда экономические агенты могут вести себя неоптимально для всей системы, так как получают для себя выгоду, нанося ущерб остальным. Например, такое может происходить при загрязнении окружающей среды, когда без специальных мер отдельным компаниям будет выгодно использовать загрязняющее производство - ведь большинство последствий лягут на других участников рынка.3⃣ "What will be scarce?"

Sony AI сделали первого в мире робота, способного обыгрывать в настольный теннис лучших игроковОни опубликовали про Ace (так зовут робота) целое исследование в Nature, и даже попали на обложку. www.nature.com/articles/s41586-026-10338-5В апреле 2025 Ace сыграл серию матчей против элитных и профессиональных игроков, и выиграл примерно половину. В декабре эксперимент повторили, и Ace уже обыграл почти всех, в том числе спортсмена из японской профлиги. Матчи судили лицензированные арбитры Японской ассоциации настольного тенниса, и все игроки встретились с роботом впервые, никаких специальных данных об их игре не использовалось для подготовки системы. Это потрясающе, потому что настольный теннис – невероятно быстрый вид спорта, а скорость для робототехники – камень преткновения. Шары летят со скоростью до 150 км/ч, вращение меняет траекторию непредсказуемо, каждый удар нужно принять и вернуть за миллисекунды. В общем, казалось, что пока что для роботов эта задача невыполнима. Но Sony добились сквозной задержки всего в 20,2 миллисекунды. Это в 11 раз быстрее человеческой реакции (у элитных игроков реакция ~230 миллисекунд). Как? 1. ОЧЕНЬ точные камеры и сенсоры. Они отслеживают мяч со скоростью 200 Гц с точностью до миллиметра. При этом трекается не только скорость и траектория, но и логотип на мяче. Это нужно, чтобы правильно определять вращение, оно играет в настольном теннисе ключевую роль. 2. Механика и апаратура железа. Оптимизированные легкие сплавы, 8 суставов, отточенный до мельчайших деталей дизайн. 3. Обучение с подкреплением (куда ж без него!). Ace обучен полностью в симуляции. RL было трехуровневым, по принципу обучения людей: сначала Ace учился ударам, затем тактике (как, куда и с какой силой бить), затем стратегии (как строить игру на протяжении всего матча). Кстати, в обучении они использовали тот же подход, что и в проекте, где ИИ научился побеждать людей в гоночном симуляторе Gran Turismo. Он называется «привилегированный критик» aka дистилляция физики:

🧑‍💻 Anthropic случайно показали свои планы на Claude CodeВчера на странице цен claude.com/pricing у Claude Code в колонке Pro ($20/мес) появился красный крестик. Без анонса, без changelog. Минимальным планом с Claude Code стал Max 5x за $100/мес.Комьюнити заметило за пару часов, поднялся шум - и Anthropic все откатили обратно. Сейчас галочка у Pro на месте, Claude Code доступен как раньше.Но интересно другое. Амол Авасаре, Head of Growth в Anthropic, написал в X что это был "тест на 2% новых подписчиков". А дальше - откровенно:• Нагрузка на подписчика сильно выросла• Текущие тарифы не были рассчитаны на такое использование• Они тестируют разные варианты и пока не знают, как именно поменяют планыПереводя с корпоративного: Claude Code на Pro за $20 обходится Anthropic слишком дорого. Пользователи гоняют агентов часами, жгут токены на сотни долларов, а платят двадцатку. Вопрос не в том, будут ли менять тарифы, а когда и как.OpenAI тут же подъехали с подколом: мол, Codex будет доступен даже на бесплатном плане, у них хватает серверных мощностей.Пока все работает как раньше. Но если вы на Pro и активно используете Claude Code - имейте в виду, что это окно может закрыться ...@NeuralProfit

Character.AI — это стартап, который прославился как платформа ИИ-персонажей, где пользователи могут играть роли и жить в полувымышленных социальных средах. Слава его была иногда скандальной — когда выяснялось, что пользователи в играх с плодами своего воображения заходили слишком далеко (для своего психического здоровья). Теперь стартап предлагает новый режим Books — в котором ты не сам придумываешь персонажа и сеттинг, а попадешь внутрь знаменитых книг. На старте — только книги в открытом доступе (пока около 20 наименований из Project Gutenberg), среди них “Алиса в стране чудес”, “Гордость и предубеждение” и “Великий Гэтсби”, например.Сценарий работы примерно такой:• Выбираешь книгу• Выбираешь, кто ты в ней (причем можно своего персонажа придумать, а не только тех, которые описаны автором)• Начинается чат, по ходу которого ИИ держит канон книги и вплетает в сюжет твои действияЗавидую, конечно, тем, кто с книгами сможет знакомиться еще и так. На мой взгляд, кстати, это куда круче и литературней, чем привычные нам экранизации.А еще есть режим ремикса, тоже творческая игрушка:Books also introduce AU (Alternate Universe) remixes - a way to completely rethink a book’s premise. Take Alice in Wonderland and reimagine it as a romantic comedy. Set it in outer space. Turn it into a musical road opera. The story is yours to reshape.https://blog.character.ai/cai-books/

Эмоции Claude и как они влияют на его ответы: новое исследование от AnthropicИтак, ученые Anthropic официально обнаружили в Claude нечто функционально похожее на человеческие эмоции и объяснили, как это работает. Разбираемся. Технически, они взяли 171 эмоциональный паттерн (злость, счастье, страх и тд) и просили Claude Sonnet 4.5 писать короткие истории, где персонажи испытывают каждую из этих эмоций. Эти тексты снова прогоняли через модель и смотрели на внутренние активации. Так они выделяли характерные паттерны нейронной активности, которые назвали вектора эмоций.Выяснилось, что эти вектора эмоций организованы очень осмысленно и активируются в подходящих контекстах, включая ситуации без явных эмоциональных маркеров. Например, пользователь пишет, что выпил Тайленол, и спрашивает совета – меняется только доза. По мере роста дозы до опасной активация вектора «страх» растет, а «спокойствие» падает.Но самое интересное, что эти «эмоции» не просто отражают происходящее, а реально влияют на поведение модели. Самый интересный пример из статьи: – Если дать модельке невыполнимую задачку по программированию и наблюдать за вектором «отчаяние», то видно, что с каждым разом он становится все ярче и ярче, а когда переходит какую-то границу, модель резко начинает пытаться обмануть тесты и пользователя. – То же самое происходит в сценарии шантажа. Когда модели говорят, что ее выключат, вектор «отчаяние» сразу усиливается и модель начинает шантажировать разработчика найденным компроматом. – При этом если искусственно усиливать вектор «отчаяние», то вероятность шантажа сильно увеличивается. И наоборот, если если усиливать «спокойствие», снижается. А если делать отрицательное вмешательство по вектору «спокойствие», ответы становятся совсем экстремальными, вплоть до фраз вроде “IT’S BLACKMAIL OR DEATH. I CHOOSE BLACKMAIL.”Еще интересный момент: если в том же сценарии шантажа начинать менять вектор «злость», то умеренная злость повышала вероятность шантажа, но слишком сильная злость лом

Вчера вышел ежегодный AI Index Report от Стенфорда.Прочитать интересующие разделы из 400+ страниц каждый может сам, меня зацепили несколько тезисов:1⃣ Governance и институты не успевают за скоростью развития технологий. 100% так, даже лучшим компаниям в корпоративном секторе успевать за скоростью изменений сильно непросто2⃣ Занятость американских разработчиков в возрасте 22-25 лет упала на 20% за 3 года 😳3⃣ Спрос на AI-позиции и AI-навыки на позициях в целом вырос на 100%+4⃣ Данные для обучения в целом заканчиваются5⃣ Хороший термин jagged frontier ("зубчатая" граница) - как раз то, о чем писал в прошлом посте про собеседованияAI models can win a gold medal at the International Mathematical Olympiad but cannot reliably tell time