Az Örnekle Öğrenme Problemleri Için Metrik Öğrenme Tabanlı Yeni Bir Meta-Öğrenme Algoritması

Abstract

Bu projede az örnekle öğrenme problemleri için literatürdeki en popüler meta-öğrenme algoritması olan MAML baz alındığı ve üçlü görevlerin tanımıyla genişletildiği yeni bir yöntem önerilmektedir. MAML'ın optimizasyon süreçlerinin takip edildiği bu yeni yöntemde yapay sinir ağı yapısı üçüz ağlar ile değiştirilmiş ve bu nedenle bu yeni algoritma TripletMAML olarak isimlendirilmiştir. MAML'ın Gradyan İniş kullanımı aynı şekilde TripletMAML ile devam etmektedir ancak bu öğrenme üçüz ağlar sayesinde metrik öğrenme ile desteklenmiştir. Meta-model parametreleri bu şekilde hem metrik-kayıp hem de sınıflandırma kayıp fonksiyonları ile eğitilmiştir. Ancak metrik öğrenmenin kullanılabilmesi için hem 1-örnekli hem de 2-örnekli ayarlar için üçüz görevler oluşturulmuştur. Bu görevlerin oluşturulmasında, meta-öğrenme kavramı, destek kümesi üzerinde geçici eğitilen meta-öğrenicinin sorgu kümesindeki hatasına göre kalıcı olarak güncellenmesi, korunmuştur. Bildiğimiz kadarıyla, TripletMAML az örnekle öğrenme problemleri için önerilen ilk optimizasyon ve aynı zamanda metrik öğrenme tabanlı bir algoritmadır. TripletMAML performansı dört katmanlı çok sığ bir omurga ile dört farklı görüntü sınıflandırma veri kümesi üzerinde test edilmiştir. Her bir veri kümesi için önerilen yöntemin performansı literatürde aynı veri kümesini ve aynı omurga yapısını kullanan meta-öğrenme algoritmaları ile kıyaslanmıştır. Seçilen üç farklı meta-öğrenme algoritmasıyla yapılan kıyaslama sonuçlarına göre TripletMAML diğer metodlardan daha iyi sonuç vermektedir. Hem 1-örnekli hem de 5-örnekli problem ayarı için geçerli bu durum, TripletMAML'ın hiç bir veri artırma tekniği uygulanmadan elde edilen performansını göstermektedir. Yapılan deneyler, TripletMAML'ın sımıflandırma performansının hiper-parametre optimizasyonu ile çok daha artırılabildiğini, hatta literatürde çok daha karmaşık omurga kullanan meta-öğrenme algoritmalarından bile daha iyi performans gösterdiğini ortaya koymuştur. İki veri kümesi üzerinde doğruluk değerinin %7' ye kadar artırılabildiği gösterilmiştir. Bu da verimli bir eğitim sürecinin karmaşık bir mimari kullanımından daha önemli olduğunu doğrulamıştır. TripletMAML yönteminin sadece görüntü sınıflandırma değil görüntü erişim problemleri için de kullanılabileceği görülmüştür. Görsel erişim problemleri için meta-öğrenme algoritmaları ileride çalışılması düşünülen konulardandır.