1分以内に読めます
| リンク
Appleの研究チームは10月に、教師あり学習と自己教師あり学習のアルゴリズムを検証した研究を発表しました。タイトルは「自己教師あり学習と教師あり学習は類似した視覚表現を学習するのか？」です。概要は以下のとおりです。
両手法は、異なる方法で類似した中間表現を学習し、最終層の数層で表現が急速に分岐することがわかりました。この分岐を調査した結果、これらの層が異なる学習目標に強く適合していることが原因であることが分かりました。また、SimCLRの学習目標は中間層において教師あり学習目標に暗黙的に適合しますが、その逆は当てはまらないことも分かりました。
要チェック： Appleの機械学習研究で教師あり学習と自己教師あり学習を比較
