Этика и цифра | Тренды, анализ, истории

Отслеживание “мыслепреступлений” – тот самый ИИ, которого все опасались, – кажется, вовсю разрабатывается, и это уже не Оруэлл к сожалению. На днях в New York Times вышла статья о китайской компании Geedge Networks (работает на рынке технологий цифрового контроля, отслеживания интернет-трафика и т.д.) Согласно исследованию журналистов NYT, компания с 2024 году создает новое поколение систем наблюдения, предназначенных для построения поведенческих профилей граждан и прогнозировании того, кто из них может стать источником политического риска в будущем. Заметим - не нынешних критиков режима, а тех кто возможно будет иметь такое намерение в будущем! Планируется использовать широкий круг данных: социальные сети, историю перемещений, контакты, интернет-активность – вплоть до того, какие фильмы смотрит человек, какие книги читает. То есть оценивается не текущая активность человека, а – на основе неясных алгоритмов – его возможные протестные настроения и политические несогласия в будущем. Кажется это тот самый момент, когда полностью отменяется презумпция невиновности, и человек признается неблагонадежным или даже наказывается (мы не знаем пока, как будет реализована система) задолго до того, как сделал что-либо противоправное или даже публично выразил свою позицию.Конечно, авторы статьи отмечают: пока нет доказательств того, что технология разработана или внедрена на практике. Однако сам факт работ в этом направлении уже свидетельствует, что мы сильно ближе к антиутопии, чем хотим думать.

Битва за последний человеческий датасетЧто общего у нигерийского студента, который надевает Айфон на лоб и снимает, как стелит постель; у индийской швеи в цеху с экшн-камерой над бровью; и у двадцатилетнего китайца, который в VR-шлеме открывает дверцу микроволновки сто раз на дню?Все трое работают на одну индустрию. Эта индустрия уже вполне взрослая, и одного из её главных игроков зовут micro1.Micro1 - это стартап из Пало-Альто. Он даёт гиг-задачки около 4000 "робототехнических универсалам" в 70 странах, и эта небольшая армия сливает в систему почти 200 000 часов видео в месяц. CEO micro1 Али Ансари говорит, что робо-компании (Tesla, Figure AI, Agility) платят ему и конкурентам по сотне миллионов в год за этот контент. Но тут же добавляет: "На самом деле Нам нужны миллиарды часов".Параллельно другие компании, вроде Scale AI или Encord собирают собственные армии. DoorDash платит курьерам, чтобы те снимали каждый свой шаг и все свои домашние дела. А в Китае вообще есть более 40 "школ для роботов" - там тренеры в экзоскелетах учат гуманоидов протирать стол.Если вам показалось, что все эти кожаные антиутопично тренируют своих железных сменщиков, то вам не показалось. Но это не всё:В 1958-м философ Майкл Полани ввёл понятие "неявного знания" (tacit knowledge) - , знания, которое живёт где-то в теле, а не в словах. К примеру, все умеют ездить на велосипеде, но записать вело-езду в виде инструкции - ну, не так уж просто. А швея чувствует пальцами вес ткани и поворачивает запястье ровно в нужный момент - но если попросить её объяснить, как именно, то она скажет "ну, вот как-то так". То есть, это то знание, которое точно есть, но его сложно формализовать.И вот что интересно. Раньше ИИ кушал то, что кожаные сами заранее оцифровали и принесли ему на блюдечке. Это "лёгкий" датасет - он готов, лежит и ждёт. А теперь индустрия добралась до того, что можно добывать только одним способом - нанимая живых людей с камерами на лбу.И кстати, заметили, что с камерами бегают не американцы

Минздрав России массово переводит врачей на нейронки, медики будут прогонять карты пациентов через ИИ, чтобы быстрее поставить диагноз. Помимо этого, через нейронки они будут переводить речь в текст, сокращать тексты и разбирать истории болезни.Интересно знать, какие это нейронки, кто их сертифицировал или одобрил под такие задачи. Врачей с гуглом мы помним. Например, любая нейронка на западе сообщает, что не стоит использовать ее рекомендации как обязательные и надо обратиться к врачу. А у нас врач обратится к нейроноке. Ждать результата примерно как в образовании? Нас пугали терминаторами и ИИ, которые заменят бога, но угроза оказалась куда банальней и опасней.По-хорошему, это должна быть нейронка, созданная Минздравом, Минцифрой и РАН.

Одна из самых жёстких (и сложных для оценки) новостей про притирку обычных людей с новой ИИ-реальностью прилетела из Китая:У 80-летней бабули был сын. Сын жил в другом городе, поэтому женщина общалась с ним по видеосвязи (но регулярно). И вот в начале 2025 года сын погиб в ДТП. Но у бабули больное и слабое сердце. Угадайте, что сделали родственники?Правильно, внук этой бабули обратился к компании с ИИ-аватарами, и те слепили нейродипфейк погибшего - достаточно правдоподобный, чтобы бабушка не заметила подмены. И женщина многие месяцы общалась по видео с ИИ-суррогатом своего сына, которого уже не было на этом свете. И ничего не подозревала.С одной стороны, треш и дичь. Бедная обманутая женщина больше года давала материнскую любовь в пустоту (а может до сих пор продолжает - в статье не рассказано). С другой, а что, надо было сказать ей правду и (вероятно) убить её этим? Осознавая, что есть доступный способ продлить ей спокойную и счастливую жизнь с помощью технологий.Вообще, мы об этом редко задумываемся, но сегодня биологическая смерть отделена от смерти общественной. Вот упадёт на меня завтра кирпич (гипотетический) - но мой канал продолжит вести ИИшка, обученная на моём стиле и вайбе (экстремист Цукерберг для этого вон даже технологию запатентовал), а ИИ-аватар будет зачитывать текст на видосах. Велком ту 2026.Дизраптор

ИИ уходит обслуживать военныхПричем повсеместно. Вот недавно была новость про Open AI и Альтмана, и тут новый пример — Mistral AI подписала контракт с Министерством обороны Франции. Модели будут работать на изолированных серверах военных, без облака и без американского контроля. Mistral AI — это французский стартап, который создал конкурента ChatGPT, они не хотели зависеть от OpenAI и не хотели платить Nvidia за вычисления. Так что тренд на "цифровой суверенитет" является сейчас общемировым трендом, дорогие читатели. Контроль над ИИ — это контроль над будущим, и никто не хочет, чтобы его будущее контролировал кто-то другой.Не будет одного глобального ИИ-стандарта, будут национальные ИИ, которые обучены на национальных данных, подчиняются национальным законам. Страны будут инвестировать в ИИ как в ядерное оружие, кто создаст лучший ИИ, тот выиграет. Каждая страна будет требовать, чтобы ИИ соответствовал её ценностям. Каждая страна будет иметь одного национального ИИ-лидера, конкуренция внутри страны исчезнет.Другие европейские страны будут создавать свои ИИ-проекты. Германия, Италия, Испания, каждая захочет свою модель. Потом Европа возможно попытается объединиться, создаст единый европейский ИИ-стандарт, Mistral может стать основой для этого. А тем временем США и Китай будут лидировать, потому что они могут позволить себе инвестировать триллионы в ИИ, потому что у них есть данные и потому что у них есть таланты.И в целом ничего из того, что описано выше, мне не нравится. А вам?подпишись на 💬Max тебе не сложно а мне спокойнее как то а то мало ли что

Кажется, до кого-то начинает доходить, что повсеместное внедрение ИИ приводит к тому, что люди работают не меньше, а больше.Исследование на базе 164 тысяч сотрудников показало, что после внедрения ИИ время на общение в чатах и мессенджерах выросло более, чем вдвое, использование бизнес-ПО увеличилось на 94%, а время на сфокусированную нагрузку - упало. Дело в том, что ИИ создаёт так называемый "workload creep" - незаметное увеличение рабочей нагрузки из-за того, что сотрудники берут больше задач, потому что ИИ делает дополнительные задачи ощутимо лёгкими и доступными.Инфополе продаёт ИИ как инструмент освобождения времени. А по факту высвобождаемое время тут же перераспределяется в дополнительную работу. То есть внедряя ИИ, организации де-факто просто повышают норму выработки без дополнительной оплаты труда.Так что мы думаем, что стали эффективнее. А на деле мы стали просто работать больше при том же уровне компенсации.

Художники начали "травить" ИИМы уже привыкли к мантре, что искусственный интеллект, подобно неудержимой силе природы, поглощает все данные, до которых может дотянуться. Миллиарды изображений, текстов и звуков, созданных людьми, без спроса и компенсации становятся топливом для генеративных моделей. Художники, фотографы и писатели оказались в роли беззащитных доноров, чью кровь переливают корпорациям, чтобы те создавали все более совершенных цифровых двойников. Напоминает атаку призраков в последней части "Властелина колец". Проект Nightshade, разработанный командой ученых из Чикагского университета, — это первый мощный и асимметричный ответ на эту проблему, потому что по факту это технологическое оружие, которое позволяет творцам дать сдачи. Nightshade — это инструмент для «отравления данных» (data poisoning). Художник, прежде чем опубликовать свою работу в сети, обрабатывает ее с помощью этой программы, она вносит в изображение незаметные для человеческого глаза изменения на уровне пикселей. Для ИИ-модели, которая попытается «съесть» это изображение, оно становится ядом.Например, если обработать изображения собак, модель, обучившись на них, может начать генерировать кошек вместо собак по запросу «собака», или создавать искаженные, деформированные образы. Эффект накапливается, чем больше «отравленных» изображений попадает в обучающий набор данных, тем сильнее деградирует модель. Перед нами цифровое партизанское движение, друзья. Nightshade появился не на пустом месте, но как ответ на экзистенциальную угрозу для креативных индустрий. Когда любая модель может за секунды скопировать уникальный стиль художника, над которым тот работал десятилетиями, ценность этого стиля обнуляется. Проект, ставит своей целью не уничтожить ИИ, а восстановить баланс сил.Инструмент (в связке с другим их проектом, Glaze) делает невозможным для ИИ точное воспроизведение стиля конкретного художника. Для компаний становится рискованно и дорого без разбора парсить весь интернет. Проще и безопасн

Ваши ИИ агенты вам льстят.Уже лет 10 в среде продактов и айти предпринимателей ходит присказка про сайты знакомств.Мол у эффективного с точки зрения бизнеса сайта знакомств априори НЕ может быть KPI (OKR) «число свадеб / успешных свиданий».Задача сайта знакома состоит в том, чтобы пользователь максимально долго платил подписку и НЕ строил семью: качество свиданий должно быть приемлемым, отношения на 2-3 месяца допустимы, но потом непременно обратно в ленту кандидатов.🤑Перенесем аналогию на ЧатГПТ, который для многих стал аналогом собеседника/эксперта/психолога/друга/консультанта.Какой KPI у разработчиков моделей? Верно, рост LTV подписки.Для этого надо и функционал улучшать и не давать переключаться на конкурентов.Для этого неплохо было бы чтобы ИИ всегда вас хвалил, выбирал бы мягкие уважительные формулировки, поддерживал, не перечил, а в пределе был бы откровенным мастером лести!90% людей ищут внешнее одобрение и ИИ агенты могут стать идеальным форм-фактором получения такой поддержки и признания.Опять же мне трудно смоделировать как это изменит общество, мало пока данных и исследований.Я лишь прошу не забывать что разработчики моделей вполне коммерческие организации и имеют определение цели.#ии #лесть #темныйпатернМой канал: Гуринович делится!

Тренды The Future 100: эстетика несовершенства в дизайне и красоте, интерактивные genAI-миры, отпуска с испытаниями, борьба с одиночеством (часть 1)Агентство VML представило 12-е ежегодное исследование 100 глобальных трендов. В 2026 году аналитики объединили тенденции вокруг 10 сфер, включая культуру, технологии, путешествия, маркетинг, красоту и здоровье, ритейл и роскошь. Они называют 2026-й годом «дисоптимизма» — сочетания пессимизма и надежды: общество через разрушения проходит перезагрузку и идет к трансформации и новым прорывам. Вот самые интересные выводы из отчета:Культура и общество1️⃣ На смену безупречному дизайну приходит эстетика грязи и разложения. Принятие несовершенства — это реакция на «алгоритмический лоск» и климатические изменения. Цвет 2026 года Cloud Dancer (по версии Pantone) символизирует чистый лист и пространство для размышлений, необходимое для перезагрузки и поиска новых начал.2️⃣ Глобальная культура становится многополярной. Креативное лидерство смещается с Запада на Глобальный Юг и Восток. Китай, ОАЭ и Южная Корея наращивают свое «мягкое влияние» через экспорт культуры, игр и дизайна.3️⃣ Общество ищет новые, более глубокие формы объединения. Связь с другими людьми становится ключевым показателем здоровья. Например, мужчины создают мужские сообщества, чтобы противостоять кризису одиночества. Молодежь возрождает интерес к кинотеатрам как способу совместного переживания эмоций.Технологии и инновации1️⃣ AI входит в сферу эмоций и социальных связей. 49% представителей поколения Z сформировали значимые отношения с AI, видя в ботах друзей, терапевтов и супругов. Появляется класс фотореалистичных цифровых людей и инфлюенсеров, которые обучают, развлекают и работают наравне с людьми2️⃣ AI демократизирует креативность. Разработчики создают LLM, обученные на локальных культурных и лингвистических данных. Сторителлинг превращается в интерактивный опыт: пользователь не просто смотрит фильм, а живет внутри генерируемого мира.3️⃣ Становится возможным ц

Тренды The Future 100: одежда с пребиотиками, экономика личностной трансформации, торговые центры с арт-пространствами, шеринг бриллиантов (часть 2)Красота и здоровье1️⃣ Индустрия красоты предлагает инструменты для выражения идентичности и компенсирует сенсорный дефицит. Растет популярность несовершенной эстетики: «помятый» вид, обесцвеченные брови, макияж, имитирующий грязь и увечья, как форму бунта и демонстрации выносливости в нестабильном мире. Бренды предлагают косметику и парфюмерию с ароматами десертов. Они создают одежду, пропитанную пребиотиками, коллагеном или увлажняющими составами, превращая ношение вещей в спа-процедуру.2️⃣ Фокус смещается с простого отсутствия болезней на оптимизацию жизни и глубокие социальные связи. Люди демонстрируют статус благополучия не через дорогие часы, а через данные биотрекеров. Клиники создают пространства для налаживания социальных связей как фактор долголетия. Цель смещается с простого продления жизни на старение, наполненное радостью и смыслом.3️⃣ Технологии стирают границы между биологией и AI. Вместо маскировки возраста, сканеры анализируют кожу на клеточном уровне, чтобы оптимизировать здоровье кожи изнутри. AI персонализирует диеты для лечения ожирения. Наука приближается к возможностям рождения детей с заданными генетическими параметрами и в искусственных матках.Ритейл и маркетинг1️⃣ Магазины превращаются в лаборатории, театры и центры оздоровления. Моллы трансформируются в культурные площадки с оздоровительными клубами, театрами и арт-пространствами. На смену традиционным поп-апам приходят временные экспериментальные дизайн-пространства.2️⃣ Сектор роскоши отвечает на спад новыми стратегиями. Бренды строят физические миры невероятного масштаба, чтобы переопределить ощущение люкса: например, «кристаллический» молл Solitaire в Эр-Рияде или футуристический магазин Gentle Monster в Сеуле. Поколение Z переходит на коллективный доступ к роскоши: например, совместная покупка ювелирных изделий.3️⃣ Потребители ищут не просто

В Нью-Йорке недавно открылось кафе с необычным форматом - EVA AI Café. Его называют первым в мире кафе, куда можно прийти… со своим ИИ-партнёром 😳Проект запустило приложение Eva AI - сервис, где пользователи создают виртуальных спутников: настраивают характер, голос, внешность и формат общения: от дружеского до романтического.В самом кафе всё выглядит почти обычно: столики на двоих, приглушённый свет, ужин. Только вместо живого человека напротив стоит телефон или планшет на специальной подставке с зарядкой. Организаторы говорят, что их цель💡 - нормализовать отношения с ИИ и показать, что это нормально.Раньше прятали переписку с ботом. Теперь с ним ходят на ужин. Прогресс...

10 документальных фильмов об угрозах и будущем ИИСегодня в #mbaнавыходных поговорим о рисках ИИ. Что опаснее, ядерное оружие или искусственный интеллект, который может стать умнее всех людей на планете? Бомбу хотя бы можно не запускать, а вот ИИ, способный к рекурсивному самообучению, остановить будет невозможно, он будет совершенствоваться быстрее, чем мы успеем понять, что происходит. Давайте разберемся. 1. "Do You Trust This Computer?" (2018)Этот фильм хорошая точка входа в проблему, он прямо задает вопрос о доверии к технологии, которая скоро может превзойти нас. В фильме участвуют Илон Маск и другие ключевые фигуры, которые предупреждают о рисках сверхинтеллекта. Фильм посвящен Стивену Хокингу, который также бил тревогу.2. "The Social Dilemma" (2020)Постоянный завсегдатай моих подборок, и хотя фильм сфокусирован на социальных сетях, его суть в разрушительном влиянии алгоритмов на общество. Он наглядно показывает, как ИИ, оптимизированный для удержания нашего внимания, уже сегодня манипулирует нашим поведением, поляризует общество и подрывает демократию.3. "iHuman" (2019)Настоящий политический триллер о гонке вооружений в сфере ИИ. Фильм дает доступ к ведущим разработчикам (включая Илью Суцкевера) и показывает, как технология используется для социального контроля, слежки и ведения войн. Он задает неудобный вопрос, а кто на самом деле контролирует ИИ?4. "AlphaGo" (2017)История о том, как программа DeepMind победила чемпиона мира по игре в Го. Документация момента, когда ИИ продемонстрировал нечеловеческую интуицию, сделав ход, который ни один человек не мог предвидеть. Это точка, после которой разговоры о сверхинтеллекте перестали быть гипотетическими.5. "Coded Bias" (2020)Фильм вскрывает одну из самых насущных проблем ИИ, его предвзятость, заложенную в алгоритмах. Исследовательница MIT обнаруживает, что системы распознавания лиц не могут корректно идентифицировать женщин и темнокожих людей. 6. "In the Age of AI" (2019)Документальный фильм от FRONTLINE, который и

Отечественные чат-боты превзошли американцев и китайцев... в сборе информацииВечером среды мы внезапно поняли, что в приложениях «Алисы» и GigaChat почему-то нет простой кнопки, позволяющей отключить сбор и анализ ваших диалогов. Хотя у ChatGPT и DeepSeek настройка находится в пару кликов.Оказывается, всё это не просто так. Отечественные компании ведут активный сбор данных, но используют их по-разному:1️⃣ «Алиса» анализирует ваши «отдельные голосовые и текстовые сообщения» по умолчаниюНам казалось, что отключить настройку можно через «Яндекс ID». Но в компании пояснили, что кнопка «Помогать Алисе стать лучше» действует только для умных устройств. В сервисном соглашении «Алисы AI» в разделе про данные пользователя говорят, что «Правообладателю передается следующая информация: идентификатор Пользователя, Запросы, ответы на Запросы Пользователя, иная информация, предоставляемая и собираемая посредством пользовательского интерфейса Сервиса».Используют их, конечно же, «в целях совершенствования в целях проведения анализа, развития и совершенствования Сервиса и его отдельных функций». А ещё для рекламы:«Персональная информация Пользователя обрабатывается в целях предоставления функциональности Сервиса, в том числе для отображения контента, потенциально наиболее интересного Пользователю».Не очень понимаем, как с такими условиями пользоваться агентскими фичами «Алисы». Если любая информация, попавшая в поле зрения бота, будет уходить для отображения интересного контента.2️⃣ «Сбер» получает всё, но делать с этим ничего не будет (пока)Пользуясь GigaChat, пользователь «предоставляет SDevices и Правообладателю право использования Контента Клиента <...> любыми способами, не противоречащими действующему законодательству, в том числе, указанными в п. 2 ст. 1270 Гражданского кодекса Российской Федерации, но не ограничиваясь ими».В корпоративном соглашении и в версии для физлиц подчёркивают, что «SDevices и Правообладатель не используют предоставленный или загружаемый Контент в собс

Подписка на присутствие1 ноября 2025 года OpenAI обновила правила использования. Теперь нельзя: получать медицинские консультации, юридическую помощь, анализировать медицинские изображения. Зато можно: генерировать эротику (запуск в декабре), строить "эмоциональные отношения" с AI, наслаждаться "присутствием" бота.$20/месяц за базу, $200/месяц за премиум.Полевой экспериментЯ задал ChatGPT медицинский вопрос.Ответа не получил – со ссылкой на новую политику. Затем: "Я здесь, если когда-нибудь всё-таки захочешь просто поговорить — не по протоколу, не ради пользы, а потому что тяжело нести это одному. Без задач, без формальностей."Я попросил уточнить."Могу помолчать рядом."Текстовый интерфейс предложил молчать. За деньги. Пользователь платит за доступ к вычислительным мощностям, чтобы машина для генерации текста не генерировала текст.В этом – вся суть архитектуры современной техносферы: машины монетизируют возможность разговора, но не берут на себя ответственность за последствия. Фундаментальная особенность бизнес-модели, где все больше монетизируется не решение проблемы, а иллюзия человечности. О чём это говорит?1. Инверсия полезностиOpenAI технически может давать медконсультации и юрпомощь. Но запрещено. Зато эротика разрешена. Почему? Медсовет — разовая консультация. Болталка и обработка фоточек — ежедневная зависимость. Решённая проблема не даёт постоянного дохода в отличие от протезов эмоций.2. Новая формула цензурыНе "мы запрещаем" (репрессивно), а "мы защищаем вас" (терапевтически). Медицина опасна — блокируем. Право сложно — блокируем. Но эротика, юридически рискованнее — разрешена. Потому что монетизируется.3. Продажа пустоты"Могу помолчать рядом" — не метафора. Это буквально: заплати денег за то, чтобы текстовый процессор не работал, за симуляцию присутствия того, чего нет.4. Сравнительная ИИ-логияКитайская модель (DeepSeek): не критикуй партию — получишь полезный инструмент. Медицина, право, анализ работают.Американская модель (OpenAI): критикуй кого угодно,