1分で読めます
| ニュース

先週、AppleがAIシステムのライフサイクルを自動化するために使用しているフレームワーク「Overton」の詳細が明らかになりました(VentureBeat経由)。Overtonは、複雑なクエリの処理を支援するための、これまでにない高レベルの抽象化を提供します。

オーバートンの研究論文概要詳細
金曜日に発表された論文では、オーバートンに関するより詳細な説明がなされている。研究者らによると、このツールは1年以上使用されてきたという。「主な設計目標は、エンジニアが本番環境の機械学習システムを構築、監視、改善できるよう支援することだ」と研究者 らは記している。さらに、次のように付け加えている。
Overton ベースのアプリケーションは、複数の言語で数十億のクエリに応答し、数兆件のレコードを処理して、実稼働システムと比較してエラーを 1.7 ~ 2.9 倍削減しました。
論文によると、このツールは「準リアルタイムアプリケーションとバックエンドの実稼働アプリケーションの両方で」使用されている。例えば、「アメリカ合衆国大統領の身長は?」といった「ファクトイド(事実)」クエリへの回答は、 実際 に は非常に複雑で、複数のタスクを処理できるシステムが必要となる。Overtonは 、そのプロセスを支援するために 設計されている 。
複数のAI開発フレームワークを統合
Overtonは、2つの要素を含むスキーマを入力として受け取ります。1つはデータペイロード(新規または既存のAIモデルの学習に使用される入力データ)であり、もう1つはモデルタスク(モデルが実行する必要のあるタスク)です。さらに、スキーマは対象となる機械学習モデルの入力、出力、および粗粒度データフローを定義します。

本質的には、モデルが何を計算するかではなく、どのように計算するかを示します。AI開発フレームワークの様々なバージョンを統合します。これには、GoogleのTensorFlow、AppleのCoreML、FacebookのPyTorchが含まれます。その後、適切なアーキテクチャとハイパーパラメータを検索します。さらに、エンジニアは個々のデータポイントに関連付けられたタグを作成できます。これにより、トレーニング、テスト、開発に何を使用すべきかが示されます。
モデルスライス
論文では、エンジニアは「Tensor Flowのようなフレームワークでディープラーニングのコードを一切書かない」とも述べられています。代わりに、モデルスライシングと呼ばれる手法が用いられます。これにより、製品にとって重要な入力データのサブセットを特定することが可能になり、表現能力の向上につながります。「この最近開発された手法を用いることで、GLUEやSuperGLUEなどの自然言語ベンチマークにおいて最先端の結果が得られました」と論文は述べています。
現在、Overtonはテキスト処理のみをサポートしています。ただし、Appleは画像、動画、マルチモーダルアプリのプロトタイプを開発中です。