Вселенское зло об ИИ, технологиях и людях

Тест разных Harness с DeepSeek.

https://x.com/pawelhuryn/status/2112571119412646370?s=61

Используйте Pi, не ошибетесь.

ByteDance, Alibaba и Tencent заказали более 3 млн видеокарт Nvidia RTX Pro 5500 — остальному миру грозит дефицит

ByteDance, Alibaba и Tencent заказали у Nvidia более 3 млн профессиональных видеокарт RTX Pro 5500 на сумму свыше $35 млрд. По другим оценкам, общий объём китайских заказов может достигать 6 млн устройств — это вдвое больше, чем Nvidia планирует выпустить для всего мира за год. Компания уже предупредила партнёров о возможном дефиците: им могут достаться лишь 5–10% от заказанных объёмов. Для китайских разработчиков ИИ эти карты стали доступной альтернативой более мощным ускорителям, поставки которых ограничены санкциями США. Первые устройства поступят заказчикам в декабре, а массовые поставки начнутся в первом квартале 2027 года.
#rtxpro5500 #nvidia #иичип #китай

📎Подробнее

🔖 3DNews в TG | MAX | VK

Вышел MiniMax M3.1 Flash

Открытые веса будут опубликованы позже.

К сожалению, нет информации о размере модели, но диаграммы в статье обещают очень эффективную по стоимости модель.

Выглядит так, что для нормальной работы достаточно MoE моделей 100B-600B и китайцы будут на них упирать. Любая из них вычислительно дешевле 27B, типа Qwen3.8, главное чтобы хватало памяти.

И это хорошо.

Производительность Radeon AI Pro R9700 в сравнении с RTX PRO 4500/5000/6000. Часть первая — 1 и 2 GPU для LLM, кастомные рантаймы для RDNA, выбор между vLLM/SGLang для Nvidia. Ознакомительный фрагмент

Опубликован ознакомительный фрагмент большой статьи из поста выше.

В наличии сокращенная вводная часть и полное тестирование в FP8.

Подписывайтесь на канал, чтобы не пропустить обновления.

Производительность Radeon AI Pro R9700 в сравнении с RTX PRO 4500/5000/6000. Часть первая — 1 и 2 GPU для LLM, кастомные рантаймы для RDNA, выбор между vLLM/SGLang для Nvidia

Монстр текст готов. 109 графиков и диаграмм. Около 1200 проведенных измерений Qwen3.8-27B в разных сочетаниях. Лонгрид на более чем полтора часа чтения, даже без разглядывания графиков.

Внутри 4 GPU в вариантах по одной и две карты:
- Radeon AI PRO R9700 32GB
- RTX PRO 4500 Blackwell 32GB
- RTX PRO 5000 Blackwell 72GB
- RTX PRO 6000 Blackwell 96GB
- а так же аппроксимация на RTX 5090 и RTX PRO 5000 Blackwell 48GB, где оно интересно

6 движков:
- vLLM
- llama.cpp
- vLLM-Radiance
- Radiance
- Hipfire
- SGLang

5 вида квантов, не считая отдельных специальных измерений:
- FP8
- NVFP4
- MXFP4
- UD-Q8_K_XL
- UD-Q4_K_XL

И для всех возможных и релевантных сочетаний замерено и несколько раз перепроверено (не более +-5% вариантивности):
- Скорость Decode со спекулятивным декодированием и без
- Скорость Prefill
- TTFT
- Максимальная емкость KV-кэша и предельный параллелизм вычислений без offload для всех сочетаний
- Комментарии автора по выявленным аномалиям и неочевидным моментам, с привязкой к актуальной стоимости карт

Как результат - далеко не факт, что чем мех дороже, тем он лучше. Исследование показало крушение части иллюзий и обоснование части других гипотез. Проведено сравнение и в части лучших движков и сочетаний под каждый GPU, и в части абсолютного сравнения карт между собой.

Вероятно это самое глубокое и масштабное сравнительное исследование актуальных workstation GPU в актуальной для локальной разработке LLM на сегодня.

Материал, учитывая масштаб, в полном объеме доступен только подписчикам на Sponsr. Поверьте, оно того стоит. Но в ближайшее время в открытом доступе опубликую около четверти материала в качестве промо/превью, чтобы это утверждение не было голословным.

Skywork AI представила игровой движок, где графику генерирует нейросеть

Китайская компания Skywork AI выложила в открытый доступ экспериментальную систему нейросетевого рендеринга Matrix-Game 4.0, объединяющую игровой движок и генеративный ИИ. Традиционный движок отвечает за физику и геометрию, а гибрид из двух моделей Wan2.2 (по 5 млрд параметров каждая) преобразует каркас сцены в финальную графику. Система требует около 18,5 ГБ VRAM, а задержка ввода составляет 112 мс.

На NVIDIA GeForce RTX 5090 система выдает 83 FPS, но только в разрешении 480p. Из-за специфики диффузионных моделей технология все еще подвержена геометрическим артефактам при быстрых поворотах камеры

Поперхнулся утренним кофе.

Intel представила ускоритель D270 для инференса моделей

Intel представила ускоритель D270 на архитектуре Xe3P, созданный специально под инференс ИИ-моделей. Из кремния полностью убрали блоки для 3D и лучей, отдав освободившуюся площадь под вычисления. Карта потребляет 350 Вт и подключается по PCIe 5.0.

Базовая версия Intel оснащена 160 ГБ памяти с пропускной способностью 1,5 ТБ/с, а партнёры смогут выпускать варианты с объёмом памяти до 480 ГБ. Чип содержит 32 ядра Xe3P, 256 XMX-блоков и выдает 1,3 ПФЛОПС на операциях FP8. По расчетам Intel, одной карты хватит для работы с моделями на 300 млрд параметров, а сервер из восьми ускорителей потянет модели объемом более 1 трлн.. Инженерные образцы уже уходят клиентам.

$7300 за литр ИИ-мощностей: стартовали продажи мини-ПК AMD Ryzen AI Halo на чипе Ryzen AI Max+ Pro 495

AMD начала продавать мини-ПК Ryzen AI Halo за $7299,99 — почти вдвое дороже прошлой версии. Компьютер объёмом чуть больше литра получил Ryzen AI Max+ Pro 495, 192 Гбайт быстрой памяти и SSD на 2 Тбайт. Процессор включает 16 ядер Zen 5, графику Radeon 8065S и NPU производительностью до 55 TOPS. До 160 Гбайт памяти можно выделить под GPU, чтобы запускать локальные ИИ-модели с более чем 300 млрд параметров. Сейчас в США продаётся версия с Linux, позже появятся варианты с Windows 11 и средой Microsoft Project Zenith.
#amd #ии #минипк #ryzenaimax400

📎Подробнее

🔖 3DNews в TG | MAX | VK

И напомню всем, что очно буду выступать 25 сентября на DotNext. Буду рад видеть всех желающих.

https://sponsr.ru/evil_about_tech/179639/Bolshoi_test_13_aktualnyh_lokalnyh_LLM_30300B_klassov_i_bolee_28_ih_variantov_vesnyleta_2026_Issleduem_vliyanie_kvantovaniya_i_glubiny_myshleniya_na_rezultat_v_lesu_variantov

Полная статья доступна на https://sponsr.ru/evil_about_tech/ только платным подписчикам. По ссылке часовой лонгрид с более чем 90 скриншотов результатов тестов по итогам 3-х с лишним недель работы, с интересными выводами, сравнениями и прогнозами. А так же исходный код всех результатов тестов и промпты заданий. Подписывайтесь ;)

Здесь поделюсь небольшой подборкой, демонстрирующей эволюцию моделей за полтора года и краткими выводами:

1) FP8 наше всё для запуска
2) NVFP4 лучше GGUF
3) Свежие модели можно смело запускать на 16ГБ VRAM получая адекватное качество

Детали в статье. Не пропустите.

https://3dnews.ru/1147629?utm_source=nova&utm_medium=tg&utm_campaign=main

Tencent представила новую модель искусственного интеллекта. По данным компании, в её тестах она обошла флагманские решения http://Z.ai/ и Moonshot. Китайский гигант рассчитывает войти в число лидеров местного рынка ИИ.
#tencent #ии #модель

https://3dnews.ru/1147629?utm_source=nova&utm_medium=tg&utm_campaign=main

🔖 3DNews в https://t.me/ru3dnews | https://max.ru/ru_3dnews | https://vk.com/ru_3dnews

Минутка 16 месяцев эволюции Сегодня для нас нет ничего важнее умнеющего ИИ Автор наконец-то закончил физически делать массовый тест различных актуальных моделей, включая различные кванты и пытается оформить это в статью и сделать какие-то выводы. Пока небольшое…

https://huggingface.co/Qwen/Qwen3.8-Flash-Next - Новый 125B-A6B MoE от Qwen и он же превью архитектуры Qwen 4.

По заявленным ТТХ сразу почти во всем хорошо лучше Qwen 3.8 27B.

Китайцы явно хотят испортить IPO Anthropic  и OpenAI

https://sponsr.ru/evil_about_tech/179219/Minutka_16_mesyacev_evolucii

Сегодня для нас нет ничего важнее умнеющего ИИ

Автор наконец-то закончил физически делать массовый тест различных актуальных моделей, включая различные кванты и пытается оформить это в статью и сделать какие-то выводы.

Пока небольшое превью одного из тестов — рисования пейзажа по комплексному детальному промпту средствами HTML Canvas, т. е. картинка динамическая, со сменой времени суток и т. п.

На КДПВ Qwen3-32B от апреля 2025 года и Qwen3.8-27B от августа 2026 года по тому же самому промпту.

Комментировать тут толком нечего. Скачок за 16 месяцев выглядит где-то так. Не говорите, что вас не предупреждали.

На https://sponsr.ru/evil_about_tech/179219/Minutka_16_mesyacev_evolucii скриншоты в полном разрешении.

Apple представила Mac mini на M6 и Mac Studio с процессорами M5 Max и M5 Ultra

Apple https://www.apple.com/newsroom/2026/08/apple-introduces-m6-and-m5-ultra-for-a-big-leap-in-performance-and-ai-compute/ линейку десктопов, анонсировав Mac mini на чипе M6 и Mac Studio на базе M5 Max и M5 Ultra. Базовый Mac mini на 2-нанометровом процессоре M6 поставляется с 16 ГБ объединенной памяти в стартовой комплектации и поддерживает конфигурации до 32 ГБ. Мини-ПК получил 12 ядер CPU, 12 ядер GPU, порты Thunderbolt 4, 2,5 Гбит/с Ethernet, модули Wi-Fi 7 и Bluetooth 6. Цена устройства начинается от $899.

Флагманский Mac Studio на чипе M5 Ultra получил четырехкристальную архитектуру UltraFusion и пропускную способность памяти до 1,2 ТБ/с. В максимальной сборке он предлагает 36 ядер CPU, 80 ядер GPU, накопители PCIe Gen 6 и порты Thunderbolt 5. Стартовая конфигурация Mac Studio на M5 Ultra (30 ядер CPU, 64 ядра GPU, 96 ГБ памяти и SSD на 1 ТБ) обойдется в $5499, а версия на M5 Max (с памятью до 128 ГБ) стоит от $2499. Продажи основных моделей начнутся 22 сентября, а топовые модификации Mac Studio с потолочными 512 ГБ памяти появятся в конце октября.