GyaanSetu AI

AI, machine learning and LLM insights.

1599 articlesDeep, practical knowledge

Зміна одного файлу скорочує час завантаження RAG із 33 фрагментів з 50 с до 1,5 с

Прискорення у 31,8 раза завдяки зміні одного файлу. Я протестував конвеєр завантаження RAG і виявив вузьке місце. Обробка одного документа займала 50 секунд. Завантаження процесора було низьким. Додаток не мав труднощів…

AI · 1 min read

Розробники тепер можуть озвучувати завдання з коду для GPT-Live, не перемикаючись між вікнами

GPT-Live, інтегрований у десктопний додаток ChatGPT, дозволяє розробникам віддавати голосові команди, як-от «запустити статичний аналіз» або «додати юніт-тести». Модель підтверджує дії вголос і запускає паралельні робочі процеси — усе це доступно для платних підписників.

AI · 2 min read

Аудит навичок агентів: модель загроз

Аудит навичок агентів: модель загроз. Чи вставили б ви випадковий USB-накопичувач, отриманий від незнайомця? Ймовірно, ні. Більшість людей знають про цей ризик. Проте розробники роблять цифровий еквів…

AI · 3 min read

Mozilla Bets Real-Time AI Content Will Offset Falling Search Revenue

The daily crossword is built by feeding the latest news into a large language model, which generates word-clue pairs that a mathematical solver turns into a printable grid. Mozilla says the extra stickiness could help recoup the higher compute bills and keep users from drifting to external search si

AI · 2 min read

Моделі з відкритими вагами тепер забезпечують 29% AI-токенів Vercel, порівняно з 11% у квітні

Дані шлюзу Vercel за червень показують, що частка дешевих моделей з відкритими вагами за два місяці зросла з трохи більше ніж десятої частини до майже третини всіх токенів, причому лише на DeepSeek припадає понад п'ята частина цього трафіку.

AI · 3 min read

Encord прагне створити набір даних, що в п'ять разів більший за YouTube, для забезпечення роботи роботів людського рівня

Партнерство Encord із німецьким стартапом Zander Labs передбачає використання операторами ЕЕГ-гарнітур та датчиків ЕМГ на передпліччі з метою створення набору даних для навчання, достатньо масштабного, щоб затьмарити відеоархів YouTube і прискорити розвиток вправного маніпулювання роботів.

AI · 6 min read

Слабкі політики DMARC можуть за одну ніч занести до чорних списків цілі флотилії ШІ-агентів

Інфраструктура під вашими ШІ-агентами гниє. Всі кажуть, що ШІ-агентам потрібен лише один виклик API, щоб отримати поштову скриньку. Вони помиляються. Я просканував 671 693 домени, щоб побачити, що насправді...

AI · 3 min read

Повнота RAG зросла з 60% до 90% після виправлення метрики

Автор виявив, що три чверті так званих «пропусків» насправді містили потрібний факт на іншій сторінці, ніж очікував тестовий скрипт. Перехід на метрику повноти на рівні фактів дозволив узгодити її з 90% точністю відповідей.

AI · 2 min read

AgentOps виправляє помилки менш ніж за хвилину завдяки спостережуваності в реальному часі

Створений для хакатону SigNoz, AgentOps відстежує сплески помилок, збирає логи, точно визначає проблемний рядок, створює патч у пісочниці та повторно запускає запит — усе це без втручання людини, завершуючи кожен цикл за 30–60 секунд.

AI · 4 min read

Claude Opus 5 виставляє рахунки у 3 рази більше, ніж Opus 4.8, на простих запитах

Обидві моделі мають однакові тарифи за токени, проте режим адаптивного мислення за замовчуванням у Opus 5 враховує внутрішні міркування як вихідні токени, що збільшує вартість простих запитів на величину до 95%. Вимкнення цієї функції відновлює рівність витрат.

AI · 3 min read

Openship переносить збірки на окрему машину, заощаджуючи оперативну пам'ять на продуктивних серверах

Переносячи панель керування та CI/CD-раннер на робочу станцію або виділений пристрій і передаючи фінальний контейнер через SSH, Openship звільняє пам'ять на робочому сервері, покращує безпеку та прискорює збірки — проте десктопний режим зникає, коли хост вимикається.

AI · 3 min read

Anthropic представляє Claude Opus 5 з контекстом у один мільйон токенів без підвищення ціни

Claude Opus 5 розширює контекстне вікно до мільйона токенів і збільшує обсяг вихідних даних до 128 тисяч токенів, зберігаючи ціну Opus 4.8, проте додає контроль рівня зусиль, обов'язковий етап роздумів, кешування промптів для запитів обсягом 512 токенів та бета-функцію перемикання інструментів під час діалогу.

AI · 2 min read

Fable 5 випереджає Opus 5 за швидкістю, скоротивши затримку на 24% та кількість токенів на 43%

У наборі з семи завдань, що охоплювали перевірку коду, генерацію JSON, фізичні задачі та резюмування, Fable 5 виявився на 24% швидшим і використовував на 43% менше токенів, проте провалив два завдання та зіткнувся з фільтрами контенту, тоді як Opus 5 успішно виконав усі завдання після однієї повторної спроби.

AI · 5 min read

Як розмір чанків, ембедінги та гібридний пошук визначають успіх чи провал RAG у продакшні

Перехід системи Retrieval-Augmented Generation до реальних користувачів залежить від п'яти рішень — стратегії чанкування, моделі ембедінгів, векторного сховища, гібридного пошуку та оцінювання — кожне з яких безпосередньо впливає на точність, повноту, затримку та навіть витрати на підтримку.

AI · 3 min read

Кешування промптів різко скорочує затримку Claude 4.6: відповіді до 5 разів швидші

Кеш зберігає статичний сегмент промпту — щонайменше 1024 токени для Sonnet або 4096 для Opus — у пам'яті GPU протягом п'яти хвилин, що дозволяє повторним запитам пропускати етап «прогріву», зменшуючи як затримку, так і кількість платних токенів.

AI · 3 min read