Серия 6 из 13. Попросил ИИ-агента в оболочке DSH смонтировать ролик. Контекст забился до краёв — 64,8 тысячи токенов из 64, таймкоды уехали, финал сдвинулся на 10 секунд. Файл на 42 КБ не влез в память агента: 83 шага — а файл тот же. Помогло дробление.
📲 Как я тестировал всё с самого начала — подробные статьи, все замеры и чек-листы — в моём Telegram-канале ProAI. Там же анонсы новых статей серии.
👉 Вступайте: https://t.me/+93pvbupewUUyNGRi
Настройка дня: агент правит маленькие куски по готовой таблице, а склеивает и проверяет скрипт.
В следующей серии агент сошёл с ума.
💬 Целиком или кусками? Пишите одним словом в комментариях.
👍 Если было полезно — поставьте лайк.
🔔 Подпишитесь на ProAI, чтобы не пропустить следующую серию.
Серия «ИИ у меня дома»: я отдал свой ПК с видеокартой на 16 ГБ ИИ-агенту и три дня записывал, что из этого вышло. Все цифры — из моих реальных замеров. Полный конфиг будет в длинном видео.
Озвучка создана с помощью ИИ.
#локальныеLLM #ИИагент #нейросети
Серия 5 из 13. Qwen на 27 млрд параметров, сжатая до ~3 бит, на одной видеокарте 16 ГБ: 29 токенов в секунду. Включил MTP — модель угадывает несколько слов наперёд и проверяет их разом — и стало 55. Тест на код тот же: 17 из 17. Видеопамять впритык: 15,8 из 16,3 ГБ.
Настройка дня: MTP-драфт + кэш в 8 бит (-ctk q8_0 -ctv q8_0 в llama.cpp).
В следующей серии даю модели «руки» — оболочку агента.
💬 А у вас сколько токенов в секунду? Пишите цифру в комментариях.
👍 Если было полезно — поставьте лайк.
🔔 Подпишитесь на ProAI, чтобы не пропустить следующую серию.
Серия «ИИ у меня дома»: я отдал свой ПК с видеокартой на 16 ГБ ИИ-агенту и три дня записывал, что из этого вышло. Все цифры — из моих реальных замеров. Полный конфиг будет в длинном видео.
Озвучка создана с помощью ИИ.
#локальныеLLM #ИИагент #нейросети
Серия 4 из 13. Я столкнул три движка для локальной нейросети на одном тесте. Ollama на каждом ходу пересчитывает весь разговор заново. Гиганту Gyro-S на 125 млрд параметров (движок Strata) не хватило памяти: нужно 48 ГБ, а у меня 32, поэтому он читал модель с диска — 81 секунда только на чтение задания. llama.cpp с Qwen на 27 млрд — 15 секунд, повторный ход — полсекунды.
Настройка дня: контрольные точки кэша (--ctx-checkpoints в llama.cpp) — разговор не пересчитывается заново.
В следующей серии — одна настройка, которая удвоила скорость: с 29 до 55 токенов в секунду.
Честно: сравнение неравное. Гиганту не хватало оперативной памяти, на ПК с 64 ГБ результат был бы другим.
💬 Большая модель или быстрая? Пишите одним словом в комментариях.
👍 Если было полезно — поставьте лайк.
🔔 Подпишитесь на ProAI, чтобы не пропустить следующую серию.
Серия «ИИ у меня дома»: я отдал свой ПК с видеокартой на 16 ГБ ИИ-агенту и три дня записывал, что из этого вышло. Все цифры — из моих реальных замеров. Полный конфиг будет в длинном видео.
Озвучка создана с помощью ИИ.
#локальныеLLM #ИИагент #нейросети
Серия 3 из 13. ИИ-агент поставил Ollama и модель Qwen на 9 млрд параметров: 6,5 ГБ, целиком в видеокарте, до 56 токенов в секунду. Но Ollama дала модели всего 8 000 токенов контекста, а агенту нужно минимум 64 000 — и Hermes отказался работать.
Настройка дня: проверьте длину контекста (OLLAMA_CONTEXT_LENGTH). Для ИИ-агента — от 64K.
В следующей серии — битва трёх движков: Ollama, Strata и llama.cpp.
💬 На чём запускаете нейросети дома: Ollama, LM Studio или llama.cpp? Пишите одним словом в комментариях.
👍 Если было полезно — поставьте лайк.
🔔 Подпишитесь на ProAI, чтобы не пропустить следующую серию.
Серия «ИИ у меня дома»: я отдал свой ПК с видеокартой на 16 ГБ ИИ-агенту и три дня записывал, что из этого вышло. Все цифры — из моих реальных замеров. Полный конфиг будет в длинном видео.
Озвучка создана с помощью ИИ.
#локальныеLLM #ИИагент #нейросети
Серия 2 из 13. Агент перебирал ключи к моему серверу, и защита решила, что это взлом, и заблокировала его. Настройка дня: агенту — один ключ и одна попытка. В следующей серии — первая локальная нейросеть за 20 минут.
💬 А вы пускаете нейросеть на свой сервер? Пишите в комментариях.
👍 Если было полезно — поставьте лайк.
🔔 Подпишитесь на ProAI, чтобы не пропустить следующую серию.
Серия «ИИ у меня дома»: я отдал свой ПК с видеокартой на 16 ГБ ИИ-агенту и три дня записывал, что из этого вышло. Все цифры — из моих реальных замеров. Полный конфиг будет в длинном видео.
Озвучка создана с помощью ИИ.
#локальныеLLM #ИИагент #нейросети
Серия 1 из 13. Три дня я отдавал компьютер ИИ-агенту, чтобы поселить нейросеть дома, без облака. Сервер принял агента за взломщика, файл разросся до 120 ГБ, бот 18 минут смотрел на одну фотографию — а одна настройка ускорила модель с 29 до 55 токенов в секунду на одной видеокарте на 16 ГБ.
💬 А вы бы доверили нейросети свой компьютер? Пишите в комментариях.
👍 Если было полезно — поставьте лайк.
🔔 Подпишитесь на ProAI, чтобы не пропустить следующую серию.
Серия «ИИ у меня дома»: я отдал свой ПК с видеокартой на 16 ГБ ИИ-агенту и три дня записывал, что из этого вышло. Все цифры — из моих реальных замеров. Полный конфиг будет в длинном видео.
Озвучка создана с помощью ИИ.
#локальныеLLM #ИИагент #нейросети
AI-агент запускает команды с правами твоего пользователя. В ролике — почему это важно при работе с SuperAgent и как ограничить доступ к личным файлам.
Для первых тестов используй отдельную учётную запись ОС и изолированное окружение. Права агенту — как новому сотруднику.
Подпишись на ProAI — здесь практические разборы ИИ-инструментов.
Озвучка создана с помощью ИИ.
#SuperAgent #БезопасностьИИ #AIагенты
Написал задачу — получил pull request. В ролике разбираю, как устроен SuperAgent от DeepSeek: проверка запроса, отдельная рабочая сессия и предложение изменений.
Pull request — не готовый проверенный результат. Ревью и тесты остаются за человеком. Это пока прототип.
Подпишись на ProAI — здесь практические разборы ИИ-инструментов.
Озвучка создана с помощью ИИ.
#SuperAgent #DeepSeek #AIагенты
Новый Claude — на газовой тяге?
В ролике — Claude Fable 5.2 и Mythos 5.2, энергия для дата-центров и разные цифры вокруг IPO Anthropic.
Смотри короткий разбор и подпишись на ProAI — здесь новости и практические разборы ИИ.
#Claude #Anthropic #ИскусственныйИнтеллект
Почему одна и та же AI-модель в разных агентных средах может давать разную стоимость результата? В ролике — сравнение DeepSeek Harness и Claude Code и оговорки, без которых нельзя делать выводы.
Проверяй модель на своих задачах минимум в двух средах.
Подпишись на ProAI — здесь практические разборы ИИ-инструментов.
Озвучка создана с помощью ИИ.
#DeepSeek #ClaudeCode #AIагенты
Как создать видео с помощью нейросети и не застрять на красивых заготовках? В ролике — пять этапов: идея, сценарий, визуал, озвучка и монтаж.
Разбираю, что можно поручить AI, зачем сначала собирать черновик и где нужна ручная проверка. Без обещаний «готовый ролик одной кнопкой».
Подробная статья с примерами промптов и чек-листом:
https://dzen.ru/a/au6Q95-h3ToRKEar
Больше практических разборов — в Telegram:
https://t.me/pro_ai_biz
#AIвидео #Нейросети #СозданиеВидео #МонтажВидео #Озвучка #ИскусственныйИнтеллект #Видеоконтент #ProAI
⚡ Возьмите обычные и сложные примеры, удалив конфиденциальные данные.
💡 Сравните модели в одинаковых условиях и заранее определите критерии качества.
🔥 Проверьте факты, формат и стабильность ответов.
🎯 Посчитайте стоимость результата с учётом повторов и ручных правок.
Полная статья: https://dzen.ru/a/aur1YaHdriT9ZnrM
Не забывайте подписываться на мой канал "Pro Ai" в Telegram 👉 https://t.me/+RdnSfbBWMt4xYTgy, чтобы не пропустить выход новых видео, а также новости из мира AI.
#нейросети #искусственныйинтеллект #AIмодели #ProAI
