Академия Selectel | Про IT-инфраструктуру

Маршрут построен! 🛸

Пожалуйста, пристегнитесь.

Собрали подборку интерактивных карт Луны, Марса и Солнечной системы. Выбирайте точку назначения и начинайте путешествие ➡️

#хобби@selectel_academy

Qwen, теперь ты живешь у нас 🏠
Без оплаты за токены, лимитов и чужих API.

В новой статье разбираем, как развернуть Qwen3 на своем компьютере через Ollama или на облачном сервере с A100 через vLLM. И заодно — как получить OpenAI-совместимый API, привязать домен и подключить HTTPS через Caddy.

С вас — ❤️, c нас — новые инструкции!

#ML@selectel_academy

Дано: LLM уже в продакшене, инференс работает на NVIDIA A100 📊

Задача: найти более выгодную альтернативу без просадки по скорости.

Решение: сначала зафиксировать текущие метрики — пиковое потребление VRAM, TTFT и скорость генерации, затем сравнить доступные GPU.

Из подходящих вариантов:
💡 RTX PRO 6000 Blackwell 96 ГБ — для 70B+;
💡 RTX 4090 48 ГБ — для 13B–34B и оптимизированных 70B;
💡 NVIDIA L4 24 ГБ — для компактных моделей.

ДЗ: ознакомиться с полным разбором задачи в Академии Selectel ➡️

#железо@selectel_academy

Что мешает LLM сказать лишнее? 🤐

Для ИИ-модели обычный запрос и попытка обойти ограничения могут выглядеть одинаково. Если удачно замаскировать формулировку, LLM может раскрыть внутренние данные, выдать запрещенный контент или выполнить опасную команду. Причем способы маскировки бывают неожиданно простыми — от транслита до ролевого джейлбрейка вроде DAN.

Удерживать модель в заданных рамках помогают гардрейлы. Они контролируют запросы и ответы модели, а также задают границы доступа к инструментам.

В новой статье Академии Selectel разбираем, как работают гардрейлы, какие уровни защиты нужны LLM-системе и почему одного WAF недостаточно ➡️

#ML@selectel_academy

Облачно, возможны осадки в виде железных новинок ☁️

На 2027 год в серверной индустрии запланировано сразу несколько громких премьер. Вычислительные мощности растут, стойки требуют больше энергии, а сети и архитектуру памяти приходится адаптировать под растущие нагрузки. 

Собрали главное, за чем стоит следить:
🔗 NVIDIA Rubin™ Ultra и AMD Instinct™ MI500 получают высокоскоростную память HBM4e,
🔗 HBM4e становится стандартом памяти для флагманских ускорителей,
🔗 AMD расширяет линейку EPYC™, а Intel готовит Diamond Rapids,
🔗 PCIe 6.0, CXL 3.0/3.1 и UALink ускоряют обмен данными между компонентами,
🔗 Co-Packaged Optics переносит оптику ближе к чипу.

Подробнее о ключевых новинках рассказали в новой статье Академии Selectel ➡️

Прямое включение со стенда Академии Selectel 🔥

Для гостей Selectel ТехноДень напечатали уникальный выпуск газеты со свежими новостями. А еще разыгрываем лимитрированных Тирексов в очках 🦖

Тирекс за ребус 🎓
Для офлайн-участников Selectel ТехноДень

Наши редакторы ждут вас на интерактивном стенде Академии Selectel!

Они подготовили игры и квизы, лимитированную газету и розыгрыш Тирексов. А теперь рассказываем, как попытать удачу и выиграть маскота:

1️⃣ Подписаться на каналы @selectel_academy и @Selectel.
2️⃣ Разгадать ребус на картинке и поместить бланк с ответом и вашим контактом в специальный ящик на стенде.
3️⃣ Дождаться 17:00, чтобы узнать имена победителей.

Случайным образом мы вытянем 10 бланков ответов. Их авторы, которые написали верный вариант ответа, получат фирменных Тирексов в очках. Вручим их сразу — на стенде Академии Selectel.

Подробные правила розыгрыша здесь.

P.S. Не попали на ТехноДень? Не расстраивайтесь. Для вас уже готовим новый розыгрыш. Оставайтесь с нами, чтобы не пропустить.

Самая ожидаемая конференция осени уже завтра
🦖🦖🦖🦖 👀👀👀👀👀

Программа обещает быть насыщенной:
⭐️ 4 направления: Infra, Data, ML и Security.
⭐️ 20 интерактивных стендов.
⭐️ 20+ докладов от ведущих экспертов из Selectel и других компаний.
⭐️ Эксклюзивно для офлайн-участников: вечерняя программа с записью эксклюзивного выпуска подкаста «Вселенная плюс» и афтепати.

Не пропустите Selectel ТехноДень в этом году. Успейте зарегистрироваться 👉

Больше 40 курсов для ИТ-специалистов 🦖

Собрали для вас подборку бесплатных курсов Академии Selectel. На некоторых из них вы сможете получить сертификат:
🔸 ИИ для бизнеса;
🔸 Фронтенд-разработка на JavaScript;
🔸 Системный администратор Linux с нуля;
🔸 Погружение в PostgreSQL.

Хотите освоить конкретный навык? Тогда вам пригодятся мини-курсы. Выбирайте один или сразу несколько по ссылке 👉

Больше курсов и новостей про ИТ-инфраструктуру в канале @selectel_academy 

#курсы@selectel_academy

Nginx произносят по-разному, но сегодня задача у него однозначная 🛠️

Когда на одном VDS работает несколько веб-сервисов, быстро появляется набор портов, доменов и HTTPS-настроек, за которыми нужно следить вручную. Reverse proxy берет маршрутизацию на себя — принимает входящие запросы и передает каждый нужному приложению.

Управлять этими правилами без правки конфигурационных файлов позволяет Nginx Proxy Manager. В новой инструкции Академии Selectel разворачиваем его в Docker, подключаем домен и настраиваем проксирование через веб-интерфейс ➡️

#администрирование@selectel_academy

Небольшая разминка перед новой инструкцией 👀

Угадаете, какой инструмент зашифрован на картинке? Делитесь версиями в комментариях 👇

А что, если ИИ-сервер собрать вообще без GPU? 🤓

К нам на обзор попал сервер с 16 PPU Zhenwu 810E от Alibaba и 1,5 ТБ памяти HBM. Одной спецификацией не ограничились: запустили модели и контейнеры, а заодно посмотрели,как привычный ИИ-стек приходится адаптировать под новое железо.

Получился техно-детектив с китайской документацией, портированием библиотек и главной интригой: успевает ли софт за возможностями ускорителя?

#железо@selectel_academy

Знания — ваш фирменный навык 📚

Учиться всегда кстати. В честь праздника собрали для вас подборку бесплатных курсов Академии Selectel.

🔸 https://slc.tl/ui6iv
Освойте работу с API, логами и трафиком на эмуляторах и реальных устройствах.
+ Получите сертификат

🔸 https://slc.tl/l8ee4
Изучите инструменты фронтенд-разработки и напишите свой первый пет-проект.
+ Получите сертификат

🔸 https://slc.tl/oyi4z
Узнайте, как работать с символьными классами, квантификаторами, якорями, всеми видами просмотров вперед и назад.

🔸 https://slc.tl/8d7nv
Разберите ключевые понятия — от основных терминов до моделей OSI.

🔸 https://slc.tl/exifs
Научитесь настраивать базы данных MySQL и управлять ими, создавать ключи и настраивать права доступа.

Сохраняйте и делитесь с коллегами 🦖

Тише! Pandas с данными разбирается 🤫

А если серьезно: Pandas позволяет анализировать данные и структурировать их для машинного обучения в Python. 

Оставляем вам инструкцию по установке библиотеки. Внутри – основные команды и самые распространенные ошибки. Сохраняйте, чтобы https://slc.tl/zl69h.

#разработка@selectel_academy

Вас уже больше 6 000 человек. Шлем вам Тирекса Selectel в знак благодарности 🦖

👆 Запомните простое правило: нужно что-то поменять — Wazuh Server API, нужно что-то посчитать — Wazuh Indexer.

Стандартный дашборд Wazuh не всегда справляется, если нужно быстро проанализировать данные по тысячам агентов. Разбираемся, как решить проблему с помощью Wazuh Indexer напрямую через OpenSearch.

👀 https://slc.tl/sarqq.

#безопасность@selectel_academy

Google: представляет TurboQuant, чтобы сжимать память для языковых моделей.
Samsung, Micron и другие производители памяти: 🤨🤨🤨

TurboQuant помогает решить конкретную проблему — чрезмерное потребление памяти KV-кэшем. Если ваш сценарий упирается в это ограничение, вы по адресу. 

https://slc.tl/tp1zv ➡️

#ML@selectel_academy

Время на созвонах сэкономили — можно и отдохнуть. Ни на что не намекаем (на самом деле, намекаем), но мы как раз выкатили https://slc.tl/8ix5g 😏

🚨 Осторожно: сведет олдскулы. Вспоминаем старые добрые игры и первые модели PlayStation.