DERİN ÖĞRENMEDE KULLANILAN OPTİMİZASYON ALGORİTMALARININ UYGULANMASI VE KIYASLANMASI

Authors : Ebubekir SEYYARER, Faruk AYATA, Taner UÇKAN, Ali KARCİ

Pages : 90-98

View : 11 | Download : 6

Publication Date : 2020-12-01

Article Type : Research Paper

Abstract :Derin Öğrenme insert ignore into journalissuearticles values(çok katmanlı yapay sinir ağı);, katmanlı mimarisiyle büyük veri setlerinden öğrenme geçekleştiren makine öğreniminin bir alt dalıdır. İşlemci hızları ve depolamadaki artış, ucuz bilgisayar donanımı ve makine öğreniminin kazanımları, derin öğrenme gelişimini yükselten faktörlerdir. Derin öğrenmede hatayı minimuma düşürmek için kullanılan Dik İniş insert ignore into journalissuearticles values(Gradient Descent); tabanlı optimizasyon algoritmaları da insert ignore into journalissuearticles values(Stochastic gradient descent insert ignore into journalissuearticles values(SGD);, Momentum, Adam, Adagrad, RMSProp ve Adadelta);, bu başarının bir parçası olmaktadır. Bu çalışmada uluslararası bir veri seti olan Caltech 101 veri setine derin öğrenme ve optimizasyon algoritmaları uygulanmıştır. Aktivasyon fonksiyonu olarak Relu, hata fonksiyonu olarak da Cross Entropi işlemleri tercih edilmiştir. Veri setindeki imgeler 64x64’e göre yeniden boyutlandırılmıştır. Programın her çalıştırılmasında rasgele altı kategori imge alınmaktadır ve 100 iterasyon çalıştırılmaktadır. Optimizasyon algoritmaları ile farklı sonuçlar elde edilmiş ve bu sonuçlar analiz edilmiştir. Sınıflamadaki başarı oranları SGD:%64.5, Momentum:%85.56, Adam:%92.31, Adagrad:%71.25, RMSProp:%40.26 ve Adadelta:%86.88 olarak gözlemlenmiştir.
Keywords : Optimizasyon Algoritmaları, Derin Öğrenme, Yapay Sinir Ağları