Category

セキュリティ・規制のAIニュース

AIセキュリティ、規制・政策、著作権、医療AI、ロボティクス、働き方など、AIの社会実装に関わるリスクと制度のニュースをまとめます。

バイブコーディング時代のセキュリティ急所を整理
CodeZine
  • 生成AIコードでSQLインジェクションや無認証APIなどのリスクが蓄積する問題を整理している。
  • AIで開発速度が上がる一方、レビューとセキュリティ設計の重要性が増している。
  • プロンプトインジェクションなど、AI時代の開発チームが見るべき急所が並ぶ。
中国のClaude APIプロキシ市場、低価格利用とリスクを報告
GIGAZINE
  • Anthropicは中国をClaudeの提供地域から除外していますが、中国では海外のAPIプロキシ「中转站」を介し。
  • 利用者は個人開発者や学生、企業、再販業者に及び、この市場は単なるアクセス回避策にとどまらず、データ収集や不正取引とも結び付く供給網を形成しています。
  • 安全性、権限、制度対応の設計に関わる。
日立と九州大学病院、血液疾患診断を支援するAI技術を開発
MONOist
  • 日立製作所と九州大学病院は、血液悪性腫瘍の診断に用いるフローサイトメトリー検査において、医師の鑑別診断を支援する機械学習型のAI技術を開発した。
  • 複数疾患の同時分類において、識別性能を示す指標AUCで0.9以上の性能を確認した。
  • 実社会での利用範囲と人間側の役割に関わる。
Microsoft、Windows脆弱性探索に100超のAIエージェントを活用
@IT
  • Microsoftはマルチモデルエージェント型セキュリティシステム「MDASH」の取り組みについて解説した。
  • Microsoftのセキュリティエンジニアリングチームが活用しており、Windowsの未知の重大な脆弱性発見に貢献しているという。
  • 安全性、権限、制度対応の設計に関わる。
Microsoft、AIブラウジングエージェントをRCEに至らせるAutoJackを解説
Microsoft Security Blog
  • MicrosoftがAutoJackというAIブラウジングエージェントの攻撃連鎖を解説した。
  • 悪意あるWebページがホスト側のリモートコード実行につながる可能性を示す。
  • ブラウザ操作エージェントを作る開発者は権限分離とサンドボックス設計を確認すべき。