GyaanSetu AI

AI、機械学習、LLMのインサイト。

1599 articlesDeep, practical knowledge

ファイルの変更一つで、33チャンクのRAGインジェクションを50秒から1.5秒に短縮

ファイルの変更一つで31.8倍の高速化。RAGインジェクション・パイプラインをテストしたところ、ボトルネックが見つかりました。1つのドキュメントの処理に50秒かかっていましたが、CPU使用率は低く、アプリ自体に負荷がかかっている様子もありませんでした…。

AI · 1 分で読めます

開発者はGPT-Liveにコードのタスクを音声で指示可能に、ウィンドウの切り替えの手間を削減

ChatGPTデスクトップアプリに組み込まれたGPT-Liveにより、開発者は「静的解析を実行」や「ユニットテストを追加」といったコマンドを音声で指示できるようになります。モデルは実行内容を音声で確認し、並行してワークフローを生成します。これらはすべて有料サブスクリプションのユーザー向けに提供されます。

AI · 2 分で読めます

エージェントスキルの監査:脅威モデル

エージェントスキルの監査:脅威モデル。見知らぬ人からもらった、出所不明のUSBドライブを差し込みますか?おそらく、しないでしょう。ほとんどの人がそのリスクを知っています。しかし、開発者はデジタル的な同等の行為を……

AI · 3 分で読めます

Mozilla Bets Real-Time AI Content Will Offset Falling Search Revenue

The daily crossword is built by feeding the latest news into a large language model, which generates word-clue pairs that a mathematical solver turns into a printable grid. Mozilla says the extra stickiness could help recoup the higher compute bills and keep users from drifting to external search si

AI · 2 分で読めます

Encord、人間レベルのロボット実現に向け、YouTubeの5倍の規模を持つデータセット構築を目指す

EncordはドイツのスタートアップZander Labsと提携し、オペレーターに脳波(EEG)ヘッドセットと前腕EMGセンサーを装着させることで、YouTubeの動画コーパスを圧倒するほど膨大な学習セットの構築を目指しており、ロボットの器用な操作の実現を加速させる。

AI · 6 分で読めます

地方の学校で数分おきにネット接続が途絶、DepEdによる145億ドル規模のAI推進が難航

教育省が展開する「AGAP.AI」はAIによる個別指導の実現を掲げているが、デジタル成熟度評価の結果、多くの公立学校では頻繁な通信断が発生しており、最新のブラウザすら動作しないコンピュータを使用している実態が明らかになった。これにより、145億ドルという市場予測は、多くの学習者にとって実現不可能な夢物語となっている。

AI · 3 分で読めます

指標の修正により、RAGの再現率が60%から90%へ急上昇

いわゆる「ミス」とされていたものの4分の3には、実際にはテストスクリプトが想定していたのとは別のページに必要な事実が含まれていることが判明しました。指標をファクトレベルの再現率に変更したことで、回答の正確性(90%)と整合性が取れるようになりました。

AI · 2 分で読めます

Claude Opus 5、単純なプロンプトにおいてOpus 4.8の3倍のコストがかかる

両モデルのトークン単価は同一ですが、Opus 5のデフォルト設定である「アダプティブ・シンキング」モードは、内部的な推論を出力トークンとしてカウントするため、単純なクエリでも請求額が最大95%膨れ上がります。この機能を無効にすることで、コストは同等に戻ります。

AI · 3 分で読めます

Openshipがビルドを別マシンへオフロード、本番サーバーのRAMを節約

ダッシュボードとCI/CDランナーをワークステーションや専用マシンに移動し、最終的なコンテナをSSH経由で転送することで、Openshipはライブサーバーのメモリを解放し、セキュリティの向上とビルドの高速化を実現します。ただし、ホストがシャットダウンされるとデスクトップモードは利用できなくなります。

AI · 3 分で読めます

Anthropicが価格据え置きで、100万トークンのコンテキストを備えたClaude Opus 5を発表

Claude Opus 5は、Opus 4.8の価格設定を維持しつつ、コンテキストウィンドウを100万トークンに拡大し、最大128kトークンの出力を可能にします。さらに、エフォートレベルの制御、強制的な思考ステージ、512トークンのプロンプトに対するプロンプトキャッシュ、そして会話の途中でツールを切り替えられるベータ版のツールスイッチング機能も導入されています。

AI · 2 分で読めます

高速タイピングがボットの重複回答を誘発:新しいリース・メカニズムによる解決

このバグは、AIが思考を開始する前にユーザーが送信を連打し、複数のリクエストが送られた場合にのみ発生しました。数ミリ秒間のDBロックが消失したことで、複数のプロセスが同じプロンプトに回答してしまう状態が生じていましたが、エンジニアがバージョンカウンター、分離されたタイマー、およびCompare-and-Swap(CAS)リースを導入したことで解決しました。

AI · 4 分で読めます

チャンクサイズ、エンベディング、ハイブリッド検索がRAGの実用化の成否を分ける理由

RAG(検索拡張生成)システムを実際のユーザーに展開するには、チャンキング戦略、エンベディングモデル、ベクトルストア、ハイブリッド検索、評価という5つの決定事項が鍵となります。これらはそれぞれ、適合率、再現率、レイテンシ、さらにはサポートコストに直接的な影響を与えます。

AI · 3 分で読めます

プロンプト・キャッシングによりClaude 4.6のレイテンシを大幅削減、レスポンス速度が最大5倍に向上

キャッシュは、静的なプロンプトセグメント(Sonnetでは最低1,024トークン、Opusでは4,096トークン)を5分間GPUメモリに保存します。これにより、繰り返しの呼び出し時にウォームアップ段階をスキップできるため、レイテンシの低減と課金対象トークンの削減を同時に実現します。

AI · 3 分で読めます

Mowito、デトロイトの工場にロボットアームの「脳」を導入するため300万ドルを調達

Mowitoのプレシード資金は、デトロイトの開発拠点および多品種少量生産メーカーとのパイロットプロジェクトに充てられます。同社のビジョンと強化学習を活用したソフトウェアが、ロボットの再プログラミングにかかる時間とコストを削減できることを証明することを目指しています。

AI · 2 分で読めます