IsChemist, PhD

Unfortunately, if you’re doing anything of economic / societal value, you must immediately start worrying about cyber security and changing habits.The mental model you should have is that EVERYTHING on the internet can be and will be compromised. https://ischemist.com/writings/fugues/ai-changed-the-math

В понедельник прошла массовая supply chain атака на ветку обожаемых всеми библиотек TanStack. Если вам не посчастливилось установить скомпрометированную версию, у вас моментально крали все ваши API и Github токены и SSH ключи.И если бы вы пошли делать то, что стал бы делать любой здравый человек - отзывать, например, украденный гитхаб токен — вы бы потеряли все свои данные, ибо помимо всего прочего скрипт устанавливал system service, который мониторил валидность токена и прогонял rm -rf ~ в противном случае.А самое главное, что для атаки не нужно было сделать ничего кроме как открыть PR. Его даже не нужно было merge или approve, и не нужно было компрометировать данные ни одного из package maintainers. Достаточно просто открыть PR. В общем, если вы следите за последними новостями в AI, вы могли слышать про Project Glasswing Антропика, но лично я немного относился к этому всему со скепсисом (уж слишком мало у Антропика GPUшек и уж слишком заманчиво альтернативное объяснение, что у них просто мощностей не хватает на Mythos).Но после понедельника я скорее склоняюсь к тому, что в ближайшее время нужно быть особенно бдительным и готовиться к худшему.Поэтому я сел писать статью-предупреждение в блог. Пока я ее писал, атака перешла на питоновские библиотеки и затронула, например, mistral-ai.

Не новость, но хорошая сводкаhttps://reason.com/2026/05/06/how-a-scientific-cartel-protects-fraudsters-and-rakes-in-billions-of-taxpayer-dollars

If you’re curious about the inner workings of financial institutions, you should follow Patrick McKenzie. He also has a podcast in which he reads some of his essays (complex systems)https://www.bitsaboutmoney.com/archive/nonprofit-indicted-bank-fraud/https://www.complexsystemspodcast.com/episodes/splc-financial-infrastructure/The subject matter of this essay is absolutely surreal, straight Alex Jones territory but delivered with the neutrality of a financial advisor.

Хакеры получили доступ к non-sensitive environment variables сайтов размещенных на Vercel (один из крупнейших игроков хостинга сайтов написанных на NextJS).https://vercel.com/kb/bulletin/vercel-april-2026-security-incidentПроизошло это крайне интересным способом - один из сотрудников Vercel авторизовывался со своей рабочей почтой через OAuth в context.ai, и кто-то в прошлом месяце (!!!) получил доступ к OAuth токенам, хранящимся в БД context.ai.https://x.com/GergelyOrosz/status/2046216095258861835?s=20context.ai проходил "аудит" безопасности у стартапа Delve, основанного двумя дропаутами с MIT.Стартап Delve стремился революционизировать комплаенс с помощью AI, сокращая сроки / сложность приведения кодбазы в соответствие с самыми строгими требованиями SOC II. В январе эти идиоты случайно сделали общий доступ на гугл таблицу с ссылками на все репорты, которые они делали своим клиентам, некие неравнодушные аноны внимательно изучили все репорты и обнаружили, что все они - практически идентичны слово в слово, т.е. они просто брали один шаблон, меняли название компаний и все.Чтоб вы понимали, в корректном виде для прохождения аудита, за вашей организацией наблюдают от 3 до 6 месяцев. И, например, если вы увольняете какого-то сотрудника, или он сам уходит, по стандартам должна выполняться определенная процедура своевременного лишения доступа бывшего сотрудника к системам компании, и фактическое поведение компании отражается в отчетах аудитора. Во всех отчетах Delve в строке про handling of employee changes стоит прочерк, мол не было возможности проверить. То есть либо у ~20 компаний за 3 месяца ни разу ни один сотрудник не увольнялся, либо это настолько они делали эти отчеты на абсолютный отъебись.Delve к слову поднимал раунд в 32 ляма при рыночной капитализации в 300 лямов. Просто к слову о том, что сколько вы подняли бабла не несет НИКАКОГО сигнала о качестве продукта.В апреле Delve выкинули из YCombinator (как их вообще изначально взяли), и они выпустили следующий видос

В третьем голосе я возможно сформулировал по истине новое философское наблюдение:> Some disciplines are more fertile for the formalization of best practices, but those practices are domain transcendentПо сути это ответ на сентимент "ок, ЛЛМ хорошо справляются с доменами где есть verifiable rewards, а вот в моей любимой экспериментальной науке такого нет, так что ваши ИИ будут бесполезны"https://ischemist.com/writings/fugues/software-is-a-force-multiplier/progress-is-constrained-by-latency

Второй голос выражает мою позицию почему несмотря на то, что все больше и больше кода будет писаться с помощью ИИ, получать полноценное системное образование в CS может быть чуть ли не самым рациональным решением.https://ischemist.com/writings/fugues/software-is-a-force-multiplier/we-need-swe-minds

Первый голос наиболее приземленный и отвечает на сентимент "а че ЛЛМки могут делать кроме того как код писать?"Моя основная идея - в мире катастрофически не хватает софта. Даже максимально убогий код (в посте есть пример!) может потенциально увеличить чьи-то lifetime earnings на 20 миллионов долларов.https://ischemist.com/writings/fugues/software-is-a-force-multiplier/million-dollar-ugly-nested-for-loop

Новый пост в блоге!Некоторые идеи начали кристаллизоваться еще год назад, сел писать сам пост в конце марта, в процессе внезапно обнаружил, что у меня получился длинный лонгрид, в котором я с разных сторон доношу одну и ту же мысль.Поскольку происходит со мной такое не впервые, я внезапно осмыслил, что это не баг, а фича, и в процессе изобрел новый формат блога: фуга.Первая фуга посвящена идее "software is a force multiplier" и тема развивается в трех голосах.https://ischemist.com/writings/fugues/software-is-a-force-multiplier

A preprint on my review article was just posted on chemRxiv!This is my magnum opus and it's two things at once: first, a comprehensive review of the synthesis planning literature. We argue that the field has been latently undergoing a phase transition from era of navigability to an era of validity. We describe the practices of the former and propose a framework for evolution of the field. The field has been fortunate to have contributions from the wide ML community, but there's been a salient misconception that chemical templates, as is, guarantee chemical validity, which they do only to an extent.We formalize that extent into a hierarchy of chemical validity: Syntactic Validity (Tier-0), Topological Validity (Tier-1, what templates guarantee), Selectivity (Tier-2) and Executability (Tier-3).The second part of the review answers the question - but why should I care about synthesis planning? We argue it's an underexplored path to a true foundation model. We argue chemistry is in its pre-GPT era as the models lack emergence of zero-shot generalization. The key to knowing chemistry is understanding functional groups. We think that multistep synthesis planning provides a unique epistemic environment for a model to learn those FGs: a full plan contains not only information about which groups react and how, but also implicitly which groups can coexist, which are conflicting with each other (and so necessitate protective groups). And crucially, the same quantum mechanical reasons that determine the reactivity of functional groups determine their properties. So we hypothesize molecular property prediction might be an emergent characteristic of a scaled synthesis planner. As such, our argument is a falsifiable scientific conjecture that turns Artificial Chemical Intelligence from a brand term into a concrete research roadmap.Because this is quite a behemoth of a review, while I recommend reading it in full, we also provide an interactive portal: https://ischemist.com/syntax-

Channel name was changed to «IsChemist, PhD»

я знаю я тот еще графоман, но вот две статьиhttps://x.com/WillManidis/status/2023866928608002183https://www.citriniresearch.com/p/2028gicв обоих есть интересные мысли (первую обязательно рекомендую), но написано как такая тягомотина, что просто больно читать, это такое влияние ллмок или люди естественным образом так пишут? (и поэтому ллмки тоже любят в такую тягомотину)

new blogTL;DR Hell is described as eternal boiling because to stabilize cooperation in an infinitely repeated game (life), you need a "grim trigger" strategy with a punishment severe enough to outweigh any possible gain from defection, regardless of the player's discount factor. This post re-derives the Supernatural Punishment Hypothesis from basic game theory concepts.https://ischemist.com/writings/long-form/game-theory-of-hell

Me rn. No I will not elaborate