Topic

実装知見のAIニュース

実装知見に関するAIニュースをカテゴリ横断でまとめます。

CohereのApache 2.0コーディングMoE、North Mini Codeを解説
Zenn LLM
  • Cohereと聞いて思い浮かべるのは、たいてい埋め込みベクトルやエンタープライズ向けRAGの会社だ。
  • その会社が出してきた最初の「開発者向け」モデルが、自社のAPIに閉じ込めた巨大モデルではなく、Apache 2.0で重みを丸ごと公開したコーディング特化モデルだった。
  • これは少し意外で、そして実務的には面白い。
HoloDesktop CLI、既存アプリを画面操作するAIエージェント連携を提供
GIGAZINE
  • AI企業のH Companyが、人間向けに作られたデスクトップ画面をAIエージェントに操作させるためのクライアント「HoloDesktop CLI」を発表しました。
  • HoloDesktop CLIによってAIエージェントに「画面を見る能力」と「PCを操作する能力」を追加できると述べられています。
  • 開発フロー、評価方法、運用時の制約に関わる。
SPECTER2とBERTopicで作る個人用arXiv推薦
Zenn LLM
  • arXiv新着を個人の関心に合わせて並べ替える推薦システムの実装記事。
  • SPECTER2で論文要旨をベクトル化し、BERTopicで月次のトピックマップを作る。
  • 興味プロファイルと星付き論文を使い、クラスタ単位で推薦順位を調整している。
インデックスを作らないagentic searchをRAGと比較
Zenn RAG
  • ベクトルRAGは検索の定番として定着しましたが、その代償として「embeddingモデル・ベクトルDB・再インデックスのパイプライン」という常時稼働インフラを抱えることになります。
  • 検索方式、評価データ、運用負荷の設計に関わる。
  • インデックスを作らないagentic searchをRAGと比較。
動画RAGでRerankを実装し、定量評価する実践記事
Zenn RAG
  • はじめに 前回、TiDB Cloud を使って小さな動画RAG基盤を作りました。
  • 5秒ごとに動画をセグメント化し、映像説明文や文字起こしを TiDB に入れて、自然言語で検索できるようにしたところまで進めました。
  • そこまでやってみて、次に気になったのが Rerank です。
freee、Langfuse基盤でLLM品質観測を実践
@IT
  • クラウド会計ソフトウェア「freee」を提供するフリーは、LLMの品質を管理、改善するために「Langfuse」を使ったLLMオブザーバビリティーを実践している。
  • 高速OLAPデータベースを手掛けるClickHouseが開催したイベントで、その取り組みを紹介した。
  • 開発フロー、評価方法、運用時の制約に関わる。