Integer Quantization**: Sayısal veri tipi, tam sayıya (integer) dönüştürülür.

Fixed Point Quantization**: Sayısal veri tipi, sabit noktalı sayıya (fixed point) dönüştürülür.

Örnek olarak, bir ML modelinin girdi ve çıktıları, 32 bitlik floating-point sayıdan 8 bitlik integer sayıya dönüştürülmüştür. Bu, modelin bellek ve işlemci gereksinimlerini %75 oranında azaltır.

Pruning

Pruning, modele gerekli olmayan katman ve ağırlıkları silerek modelin boyutunu azaltır. Pruning, iki temel türü vardır:

• Structural Pruning: Modelin yapısı değiştirilir, gereksiz katman ve ağırlıklar silinir.
• Magnitude-Based Pruning: Modelin ağırlıkları, belli bir seviyeden küçük olanları silinir.

Örnek olarak, bir ML modelinin 50 katmanından 10'u, gereksiz olduğu tespit edilerek silinir. Bu, modelin boyutunu %20 oranında azaltır.

TensorFlow Lite

TensorFlow Lite, Android cihazları için optimize edilen ML modellerini destekleyen bir framework'tir. TensorFlow Lite, quantization ve pruning tekniklerini destekleyerek, ML modellerini optimize etmek için kullanılır.

Senaryo

Bir Android uygulaması, yüz tanıma fonksiyonuna sahip bir kamera uygulamasıdır. Uygulama, yüz tanıma modelini kullanır ve yüz tanıma performansı artırmak için quantization ve pruning tekniklerini kullanır.

• Quantization: Uygulama, yüz tanıma modelinin girdi ve çıktılarını 8 bitlik integer sayıya dönüştürür.
• Pruning: Uygulama, yüz tanıma modelinin 50 katmanından 10'unu gereksiz olarak siler.

Bu senaryoda, uygulamanın yüz tanıma performansı %30 oranında artar ve enerji verimliliği %20 oranında artar.

Dikkat Edilmesi Gerekenler

• Modelin Performansı: Modelin performansı, optimize etme tekniklerinin seçimi ile direkt olarak ilgilidir. Performansın artması için, doğru optimize etme tekniklerinin seçimi önemlidir.
• Modelin Boyutu: Modelin boyutu, optimize etme tekniklerinin seçimi ile direkt olarak ilgilidir. Boyutun azaltılması için, doğru optimize etme tekniklerinin seçimi önemlidir.
• Enerji Verimliliği: Enerji verimliliği, optimize etme tekniklerinin seçimi ile direkt olarak ilgilidir. Enerji verimliliğinin artması için, doğru optimize etme tekniklerinin seçimi önemlidir.

Pratik Tavsiyeler

• Modelin Performansı Araştırmak: Modelin performansını, optimize etme tekniklerinin seçimi ile direkt olarak ilgilidir. Performansın artması için, doğru optimize etme tekniklerinin seçimi önemlidir.
• Modelin Boyutunu Araştırmak: Modelin boyutunu, optimize etme tekniklerinin seçimi ile direkt olarak ilgilidir. Boyutun azaltılması için, doğru optimize etme tekniklerinin seçimi önemlidir.
• Enerji Verimliliği Araştırmak: Enerji verimliliğini, optimize etme tekniklerinin seçimi ile direkt olarak ilgilidir. Enerji verimliliğinin artması için, doğru optimize etme tekniklerinin seçimi önemlidir.

Bu makalede, TensorFlow Lite'i Android cihazları için optimize eden ML modelinin quantization ve pruning etkisini inceledik