Dies weicht etwas von dem ab, was in den Büchern steht.
Optimierer sind ein wesentlicher Bestandteil aller, die im Bereich maschinelles Lernen arbeiten.
Wir alle wissen, dass Optimierer bestimmen, wie das Modell die Verlustfunktion während des Gradientenabstiegs konvergiert. Daher kann die Verwendung des richtigen Optimierers die Leistung und Effizienz des Modelltrainings steigern.
Neben klassischen Artikeln erklären viele Bücher die Prinzipien hinter Optimierern in einfachen Worten.
Ich habe jedoch kürzlich festgestellt, dass die Leistung der Keras 3-Optimierer nicht ganz mit den in diesen Büchern beschriebenen mathematischen Algorithmen übereinstimmt, was mich etwas beunruhigte. Ich hatte Angst, etwas missverstanden zu haben oder dass Updates in der neuesten Model von Keras die Optimierer beeinträchtigen könnten.
Ich habe mir additionally den Quellcode mehrerer gängiger Optimierer in Keras 3 angesehen und ihre Anwendungsfälle noch einmal betrachtet. Jetzt möchte ich dieses Wissen mit Ihnen teilen, um Ihnen Zeit zu sparen und Ihnen zu helfen, Keras 3-Optimierer schneller zu beherrschen.
Wenn Sie mit den neuesten Änderungen in Keras 3 nicht sehr vertraut sind, hier ein kurzer Überblick: Keras 3 integriert TensorFlow, PyTorch und JAX, sodass wir über Keras-APIs problemlos hochmoderne Deep-Studying-Frameworks verwenden können.