🤓 Почему нейросети врут с умным «лицом»?И чем это полезно для нашей профессииНа прошлой неделе поделился с вами интервью с Тимуром Каримбаевым. Думаю, многих (и справедливо) посещала неприятная мысль: «Если ИИ уже сам пишет код и собирает платформы, зачем вообще бизнесу нужны мы?»Для себя я нашел ответ:Чтобы защитить бизнес от фатальных ошибок этого самого ИИ.🤔 У нейросетей есть одна фундаментальная проблема, которая делает профессионального технического эксперта незаменимым.В сентябре исследователи из OpenAI опубликовали крутую научную работу: «Why Language Models Hallucinate». Они докопались до математической причины, почему ИИ периодически несет полную чушь.Дело в том, что нейросети натренированы быть «угодниками» 😦При обучении моделей есть «штраф за незнание» 🥴 Алгоритмы поощрения не дают очков за незнание и это фактически заставляет ИИ учиться имитировать правильность, чтобы пройти проверку.И когда модель сталкивается с задачей, где у неё не хватает знаний, она не говорит: «Я не знаю, спроси у кожаных». Она ведет себя как студент, который в глаза не видел учебник, но с железобетонной уверенностью пишет по нему диплом.Она выдумывает несуществующие функции, придумывает фейковые API и генерирует код, который выглядит идеально, но ломает работу.Что это значит для рынка?Представьте бизнесмена, который навайбкодил себе интеграцию сервисов. Он дает задачу нейросети, та выдает ему красивый, умный и ПОХОЖИЙ на рабочий код. Предприниматель внедряет его в бизнес-процесс - и теряет время, деньги и клиентов, пока пытается с той же нейросетью найти и устранить ошибку.ИИ - это мощнейший инструмент. И за его рычагами нужен профессионал, который понимает систему.Эксперт, который отличит реальное решение от уверенной галлюцинации.И выстроит логику так, чтобы она работала как задумано, вместо разбазаривания времени и токенов для выведения ИИ-программиста на чистую воду.Мы с вами не конкурируем с ИИ. Мы - тот самый голос адекватности, который управляет этой мощью.Кто уже сталк
