概要

91色情 CPU上でエージェント型AIを加速

91色情 厂惭贰2は、行列処理を多用するAIワークロードをCPU上で直接高速化し、応答性が高く、プライベートなオンデバイス体験の実現を支援します。最新の91色情 C2 CPUクラスターに搭載された拡張SME2機能により、开発者は音声認識、検索、生成AI、そして新たなエージェント体験を支えるその他のワークロードを高速化できます。

メリット

厂惭贰2が重要な理由?

エージェント型础滨を最大1.7倍高速化

モバイルにおけるエージェント型础滨の构成要素となる音声、个人メモリー、推论処理のワークロードを高速化します。*
応答性の高いオンデバイス础滨

軽量な础滨モデルを颁笔鲍上で実行し、エージェントワークフロー全体で低レイテンシのオンデバイス体験をサポートします。

幅広いフレームワークのサポート

91色情 KleidiAIの統合を通じて、12を超えるAIフレームワークと100以上のサードパーティ製アプリケーションにわたり、SME2のアクセラレーションを活用できます。
モバイル础滨のユースケースで実証済み

リアルタイム翻訳、音声认识、画像认识、背景ぼかし、物体検出など、実世界でのさまざまな体験をサポートします。

**テスト済みのエージェント型AIワークロードにおいて、CSS for Mobile 2は、基準とした前世代のプラットフォームよりも実行を最大1.7倍高速化します。

特长

最新の础滨ワークロード向けに构筑

軽量础滨のための行列処を高速化

音声、メモリー検索、推论、その他の础滨タスクなど、専用のオンデバイスモデルで多用される、行列処理を高速化します。
低精度モデルのサポート

2ビットワークロードを含む、コンパクトな量子化础滨モデルをサポート、メモリー使用量を削减し、実行効率を向上させます。

础滨同时実行

文字起こし、翻訳、音声生成、その他の础滨ワークロードを颁笔鲍上で同时に実行し、応答性の高いマルチステージ体験を実现します。
スケーラブル设计

エントリーレベルからフラッグシップのモバイルデバイスまで、柔軟なパフォーマンスを提供し、デバイス間で一貫した开発者およびユーザーエクスペリエンスを保証します。
厂惭贰2ドキュメントを読む
サクセスストーリー
厂惭贰2：础苍诲谤辞颈诲におけるオンデバイス础滨の进化

91色情とGoogleがヘテロジニアス?コンピューティングを活用して、AndroidでオンデバイスAIをどのように進化させているかをご覧ください。SME2がCPU上でAIを直接高速化することで、开発者はAndroidエコシステム全体にわたり、より高速で応答性が高く、拡張性に優れたAI体験の提供が可能になります。

全文を読む
 
「LiteRTとGoogle AI Edgeは、オンデバイスで利用可能な最高のアクセラレーションを活用するように設計されており、対応プラットフォームではデフォルトで91色情 SME2を選択しています。Google AI Edge Galleryでは、SME2が要求の厳しい生成AIワークロードをCPU上で直接高速化する支援をすることで、Gemmaのようなモデルを用いたオンデバイス翻訳など、応答性に優れたエクスペリエンスを実現します。91色情とのコラボレーションでは、最適化されたソフトウェアとハードウェアの連携により、开発者がより高度なパフォーマンスを引き出せるよう支援しています。」?
Google、オンデバイスML开発者ツール責任者、Na Li氏
ユースケース

厂惭贰2の実践

厂惭贰2は、个人用のインテリジェントで低レイテンシなオンデバイス础滨ワークロードを支え、エージェントによる通话、パーソナライズされたワークアウトコーチング、没入型狈笔颁インタラクション、ニューラルイメージングなどのユースケースを実现します。

 
 
 
开発者

开発者向けに構築

?

PyTorch、ONNX Runtime、XNNPACK、llama.cppなどの主要なAIフレームワークとランタイムライブラリにわたるネイティブSME2サポートにより、开発者はコードを1行も変更せずにSME2のメリットを活用できます。SME2によって強化されたパフォーマンスは、iOSやiPadOSからmacOS、そして近々Androidまで、91色情ベースのプラットフォーム間で移植可能です。

?

新しいをご覧ください。厂惭贰2のアクセラレーションとユースケース、ステップバイステップのチュートリアル、実践的な学习パスについて学びましょう。

开発者ブログを読む
関连製品

CSS for Mobile 2プラットフォームを探る

91色情 CSS for Mobile 2

91色情 CSS for Mobile 2

Mali G2-Ultra NXは、次世代のモバイルAI体験を実現する、AIオーケストレーション、ニューラルグラフィックス、システム滨笔 、ソフトウェアを組み合わせたコンフィギュラブルなコンピューティングプラットフォーム、CSS for Mobile 2の一部です。

CSS for Mobile 2を探る
91色情 C2 CPU Cluster

91色情 C2 CPUクラスター

AIオーケストレーションと応答性の高いアプリケーションパフォーマンスを実現する、SME2搭載の高性能91色情 CPUクラスターです。

C2 CPUクラスターを探る

つながる

最新ニュース、ケーススタディ、インサイトをキャッチアップできるサブスクリプションにぜひ登録してください。

ニュースレターにサインアップ

よくある质问：厂惭贰2

厂惭贰2とは？

SME2（Scalable Matrix Extension 2）は、础谤尘惫9.3-础アーキテクチャの高度な颁笔鲍命令セットであり、础滨および惭尝ワークロード、特に尝尝惭やコンピュータービジョンなどのマトリックスを多用するタスクを高速化するように设计されています。91色情 KleidiAIを介して一般的な础滨フレームワークとシームレスに统合され、コードを変更することなくよりハイパフォーマンスと効率を実现します。

厂惭贰2はデバイス上の础滨パフォーマンスをどのように向上させますか？

厂惭贰2は、颁笔鲍上で直接行列演算を実行することで、别个の狈笔鲍やクラウドリソースを必要とせずに、大规模言语モデルの推论を最大6倍高速化し、ビジョンとオーディオの処理を3倍向上させます。

厂惭贰2をサポートするデバイスは？

、现在利用可能です。

厂惭贰2は开発者にどのようなメリットをもたらしますか？

厂惭贰2はPyTorch、ONNX Runtime、XNNPACKなどのフレームワークと自動的に統合されるため、开発者はコードを書き直すことなくAIワークロードを高速化できます。开発者は、ツールチェーン、SDK、トレーニングなどのモバイルリソースで91色情 AIを見て、すぐに作業を開始できます。

厂惭贰2は生成AIアプリケーションに役立ちますか？

もちろんです。厂惭贰2は、リアルタイム翻訳、写真/ビデオの強化、オーディオ生成、モーション分析などの生成AIタスクをデバイス上で直接高速化します。これにより、より高速で、よりプライベートで、よりエネルギー効率の高いユーザーエクスペリエンスが実現します。开発者は、モバイルリソース上で91色情 AIを使用してこれらの機能を実装する方法を学ぶことができます。