Сегодня я расскажу, почему нейронки нескоро заменят программистов. Каждый день я использую в своей работе самые разные ЛЛМ. я условно разделил их на 3 категории:
Туповатый, но локальный и упорный (а также "Бро, это 27b")
Достаточно недавно появившиеся ллмки. предназначенные для агентов и локальных запусков, Могут сочинить текст, подсчитать что-то, сгенерировать презентацию, +- в идеале. Требуют пары видеокарт 4090 и могут запускаться по сути локально, если сборка ПК за пару миллионов рублей (потому что на сегодняшний день цены в DNS на видеокарты с 32 гб памяти на 4090/5090
вот такие , а их надо 2 штуки) в нынешних реалиях приемлема для вашего понимания "локально".
Из плюсов - можно 100% делать агентов разной степени сложности, которые будут бодро выполнять общие офисные задачи +-, можно немножко на них даже кодить, генерировать какие-то тексты (как пример, "Лисьи сны мира для гуманитариев" работает именно на таком квене , с 27 миллиардами параметров), но боже упаси давать ей какой-то сложный кодинг - разгребать последствия придется долго... Словом, на работе я с такими работать не очень люблю, но приходится :)
Локальный топ за свои деньги (или пособие о том, как клеить китайских моделей)
К этому классу я отношу модели такие, как Kimi K2.6, которая доступна на NeuralDeep по платной подписке (да-да, плачу за нейронки, которые использую на работе - но без них как-то уже и непривычно) . Справляются очень неплохо, с интерфейсами чуть похуже -но могут довести до результата, сложные задачки более менее щелкают. Жаль, что та же Kimi K2.6 для инференса требует 8 видеокарт по 288 гб (2.3T), а в интернете в РФ компьютер для запуска такой штуки (правда, не только для себя, а на десяток или больше человек)
стоит уже 141 млн (а год назад стоил 43). Модельки почти полноценные, в некоторых случаях конечно тупят, но вполне можно с ними разрабатывать. С другой стороны, за такую цену о решении "у нас есть ChatGPT дома" остается лишь мечтать...
ЧатГПТ, клод, грок, и прочие фронтиры
Закрытые мощные модели, содержащие те же 2.3-2.4T, а то и больше параметров (иногда даже не знаешь, сколько), недоступные для установки дома, а доступные лишь по подписке, или с оплатой за миллионы токенов. Умные, хитрые, постоянно развивающиеся (каждые 1-2 месяца - новый выпуск), бесконечно конкурирующие за ваши деньги. Но, увы, не для моего рабочего кода - он утекает непонятно куда за рубеж, а конкретно для меня это неприемлемо, да и провайдеры этих нейронок могут на этих данных их дообучать. Зато любые пет-проекты и опенсурс- такими допиливать одно удовольствие. Ну или какой-то код, где его содержание на глубоком уровне не так важно - пусть себе утекает, ничего критичного. Но условия доступа и оплаты этих нейросетей меняются быстрее чем , чем температура на Марсе -и тут остается лишь подстраиваться... С другой стороны, радует, что пока конкуренция есть - цены будут держать достаточно низкими при непрерывном развитии. Ну и да, агентов тоже на таком можно (и нужно делать), но самых продвинутых и сложных -и учитывать возможные приличные затраты на оплату токенов (цены вполне могут доходить до 20-30-50-100 долларов за миллион).
И вот, по моему опыту можно сказать, что лишь с последней категорией, и то не всегда, возможен вайбкодинг не приходя в сознании на уровне "напиши тут такой то код лучшим образом". И то я вожусь вот с Клодом, который сам не знает как объединять патчи и что куда переносить - у него нет своей фантазии и желания, и мне приходится думать за него (ха-ха) и мотивировать его в лучшую сторону, объяснять, как сделать лучше, и глубоко вникать в аспекты. А первые 2 категории у меня вообще идут в полуручном режиме, с контролем процесса и изменений. В итоге, если проектные менеджеры сами не сядут за постоянную генерацию кода с учетом всех технических аспектов, то программисты так и останутся востребованы, просто сменят немного направление - и перестанут (да и уже перестают) писать код руками. Будут надсмотрщиками за ИИ :) погонщиками ботов ,так сказать. В итоге, работы скорее всего в этих аспектах станет больше, чем было, но ее характер изменится.
А почему мы просто не можем взять Клод и ЧатГПТ для всего? Помимо аспектов безопасности, на эту тему высказывался
Олег (узнал о нем на одном мероприятии Валеры как о руководителе направления в Сбербанке) - что никаких денег не хватит на то, чтобы непрерывно работать с такими моделями: все подписки идут с дисконтом, а реальная цена использования в корпоративных целях вайбкодинга за рубежом Opus или Fable вполне может достигать нескольких тысяч долларов ,то есть, быть сравнимой с зарплатой среднего программиста. И в таком случае, вложения в нейронку самого топового уровня кажутся не такими уж и выгодными - ведь по сути нам теперь надо содержать и человека, который ими рулит, и за токены платить, притом возможно больше, чем за человека. И не факт, что это окупится. Потому будем работать в рамках бюджета, и наших знаний, никуда программисты не денутся с такими - то затратами :)
