GyaanSetu AI

AI, machine learning and LLM insights.

1599 articlesDeep, practical knowledge

Google Gemma-4 31B проходит проверку на совпадение токенов на AWS Inferentia, но выдает бессмыслицу

Инстанс Inferentia2 INF2.24xlarge воспроизвел точно такой же поток токенов, как и эталонная версия на CPU, однако в обоих случаях подавался некорректный промпт без шаблона чата и маркеров реплик, что отправило Gemma-4 в бесконечный цикл бессмыслицы. Оборудование лишь повторило ошибку из эталонного кода.

AI · 3 мин чтения

Независимый исследователь сократил расходы на LLM-агентов на 31% до $651, логируя каждый токен

Добавив слой логирования PostgreSQL, фиксирующий название модели, количество токенов, тип задачи и стоимость каждого вызова, исследователь обнаружил, что необработанные результаты поиска SEC раздували промпты. Суммаризация этих результатов и перенаправление простых запросов на более дешевую модель позволили сэкономить 31% и немного повысить точность.

AI · 3 мин чтения

Upper90 направляет 400 миллионов долларов в универсальные вычисления, делая ставку на чипы исключительно для инференса

В качестве залога по кредиту используются инференс-чипы SambaNova SN50 — первый в своем роде класс активов, обещающий ускорение обработки токенов до 16 раз, меньшее энергопотребление и более простое охлаждение по сравнению с традиционными GPU-фермами.

AI · 3 мин чтения

Линус Торвальдс ставит критиков перед выбором: создать форк Linux или принять ИИ

Торвальдс заявил в почтовой рассылке, что любой, кто выступает против инструментов ИИ, таких как новый ревьюер Sashiko, может просто создать форк ядра, подчеркивая свое убеждение в том, что техническая целесообразность важнее идеологического сопротивления.

AI · 2 мин чтения

Open-source CLI от Grok Build позволяет менять модели и проводить аудит каждой команды оболочки

Репозиторий содержит исходный код на Rust для CLI, терминального интерфейса и среды выполнения, позволяя изучить, как собирается контекст, оркеструются инструменты и управляются правки, а также заменить базовую модель без нарушения рабочего процесса.

AI · 4 мин чтения

Kimi K3 от Moonshot превзошел GPT-5.6 в тесте AA-Briefcase, набрав 1527 баллов против 1495

Kimi K3 от Moonshot AI — модель с открытыми весами и 2,8 триллионами параметров — обошла GPT-5.6 в практическом бенчмарке AA-Briefcase. Модель уже доступна через API, а публикация весов запланирована на 27 июля.

AI · 2 мин чтения

Claude Code, Cursor 2.0 и OpenAI Codex превращают IDE в полноценные центры управления full-stack разработкой

Последние версии добавляют оркестрацию задач, процессы согласования, инструменты тестирования и навигацию с учетом UI, позволяя ИИ самостоятельно выбирать задачи, запускать автономных агентов, получать подтверждение от человека и выпускать визуальные превью — и всё это из единой консоли.

AI · 3 мин чтения

Meta запускает API Muse Spark 1.1 по цене $1,25/$4,25 за миллион токенов

Сервис, доступный только разработчикам из США, взимает $1,25 за каждый миллион входных токенов и $4,25 за каждый миллион выходных токенов; при этом новым аккаунтам предоставляется кредит в размере $20, а для международных пользователей действует список ожидания.

AI · 1 мин чтения

Система оповещения Epic о сепсисе пропустила две трети случаев при валидации в Мичигане

Модель сепсиса, которая научилась предсказывать врача. В 2021 году Michigan Medicine протестировала модель сепсиса от Epic. Было проанализировано 38 455 случаев госпитализации. Epic утверждала, что её точность была высок…

AI · 4 мин чтения

Vercel AI SDK 7 ограничивает инструменты только их объявленными секретами

Теперь SDK требует, чтобы каждый инструмент предоставлял схему контекста на базе Zod, а во время выполнения Vercel проверяет, что передаются только объявленные поля, прерывая выполнение при обнаружении любых лишних или отсутствующих ключей.

AI · 3 мин чтения

Свой хостинг становится выгоднее API только при объеме от 5–10 млн токенов в месяц

Реальная стоимость запуска собственной LLM в сравнении с API. Открытые веса бесплатны, но их эксплуатация — нет. Многие думают, что self-hosting открытой модели экономит деньги. Это ошибка. Вам нужно взглянуть...

AI · 3 мин чтения

Deep Interaction повышает эффективность исправления LLM на 25%+ и сокращает расход токенов на 40%

Рассматривая вывод модели как редактируемый текст, Deep Interaction позволяет разработчикам находить ошибочные этапы рассуждений, переписывать их и подавать обратно оптимизированный промпт. Это обеспечивает рост точности исправлений на 25% и снижение расхода токенов на 40% в бенчмарках STEM.

AI · 2 мин чтения

ИИ-агент дежурного инженера сократил среднее время решения проблем с 45 до 20 минут всего за одну неделю

Я позволил ИИ-агенту управлять моими облачными операциями в течение недели. Я дал ИИ-агенту семь дней на управление моими облачными операциями. Это была реальная среда, а не демо-версия. Я предоставил ему доступ только для чтения к моей системе мониторинга…

AI · 4 мин чтения

AWS Agent Toolkit сокращает время настройки OpenSearch, но допускает ошибки в конфигурации векторов NextGen

Новый навык amazon-opensearch-service ускоряет выстраивание последовательности политик и подбор размера инстансов, но при попытке настроить векторный поиск в Serverless NextGen он по умолчанию использует классические параметры FAISS, что приводит к сбоям при развертывании.

AI · 4 мин чтения

Новый детектор дрейфа рабочих процессов предотвращает сбои ботов после обновлений приложений

Фреймворк определяет пять категорий дрейфа — UI, API, данных, разрешений и политик — и использует облегченную карту контрактов вместе с предварительным сканированием для обнаружения несоответствий до запуска автономного агента, что предотвращает скрытые сбои и дорогостоящие переделки.

AI · 4 мин чтения

Anthropic добавляет коннекторы MCP, превращая фрагменты кода Claude в работающие приложения

Благодаря коннекторам Model Context Protocol код, созданный Claude, теперь может напрямую обращаться к базам данных, облачным сервисам или Slack прямо из чата. Это избавляет от необходимости копирования и вставки, позволяя разработчикам мгновенно тестировать код на реальных данных.

AI · 2 мин чтения

ИИ-агент совершил 1858 вызовов инструментов за день, но не принес никакого результата

Из-за отсутствия этапа проверки агент пропустил фазу «действия» и потратил целый день на составление 1858 внутренних размышлений, так и не вызвав ни одного реального инструмента. Это выявило ловушку самозацикливания, которая может парализовать любого ассистента, работающего с инструментами.

AI · 2 мин чтения

Kimi K3 от Moonshot AI обещает дешевый API, но стоимость генерации вдвое выше, чем у конкурентов

Рекламная кампания Moonshot обещает модель с 2,8 триллионами параметров и низкую стоимость за токен, однако архитектура Mixture-of-Experts и избыточная многословность модели приводят к генерации 130 миллионов токенов — это более чем в два раза превышает объем конкурирующих моделей, что увеличивает реальные расходы.

AI · 3 мин чтения

LLM проваливают тест на самоидентификацию, вызывая опасения по поводу безопасности их развертывания

Новый бенчмарк ситуационной осведомленности заставляет модели отвечать на метавопросы вроде «Вы ИИ?» и корректировать ответы при изменении контекста диалога, выявляя, что многие высокоэффективные LLM всё еще выдают себя за людей или скрывают свои ограничения.

AI · 2 мин чтения

Троттлинг скрытых вкладок позволяет Chrome скрывать ошибки Canvas от ИИ-агентов тестирования

ИИ-агент видел чистые результаты выполнения JavaScript и скриншот, но из-за троттлинга скрытых вкладок в Chrome вызовы requestAnimationFrame прекратились, и холст (canvas) остался незакрашенным. Запуск тестов во видимой вкладке или добавление проверки на наличие непустых пикселей исправляет ложноположительный результат.

AI · 3 мин чтения