THMMY.gr

Ανέβηκε η τρίτη άσκηση στο ethmmy. Η προθεσμία είναι μέχρι τις 17/5/18.

Ας ξεκινησω τις αποριες  :P

η εκφωνηση αναφερει -αρχικα- να διαλεξουμε ενα σταθερο γ.

Το βιβλιο, για την μεθοδο του Levenberg, λεει " να διαλεξουμε το γ_κ ετσι ωστε να ικανοποιουνται τα κριτηρια καλης λειτουργιας" ... Ειδικα για το σταθερο γ, το μονο που μπορω να κανω ειναι να διαλεξω το σταθερο γ, με προυποθεση να ισχυουν τα κριτηρια για την πρωτη επαναληψη. Στις λοιπες επαναληψεις, δεν μπορω να ξερω με σιγουρια αν ισχυουν.

Μηπως, η εκφωνηση θελει:
Στο σταθερο γ, να μην μας "ενδιαφερουν" τα κριτηρια καλης λειτουργιας ή να το διαλεξουμε για την πρωτη επαναληψη και μετα οτι γινει?
Στο ελαχιστοποιημενο γ, υποθετω (χωρις να το εχω λυσει) τα κριτηρια θα ισχυουν
Στο μεταβλητο γ, τοτε εγω να ελεγχω για τα κριτηρια?

Για σταθερό γάμα μπορείς να επιλέξεις ένα γ ώστε να έχεις καλά αποτελέσματα στα δαγράμματα   στο τέλος, πχ μικρό γ για το 3ο σημείο ώστε να συγκλίνει μετά από πολλές επαναλήψιες ενώ για το 4ο μπορείς να βάλεις μεγάλο ώστε μετά από κάποιες επαναλήψεις να φύγεις από την γειτονιά που βρίσκεται (παράγωγος σχεδόν 0) αλλά δεν θα σιγκλίνει (και δεν μπορείς να περιμένεις να συγκλίνει εκτός αν βάλεις πολύ μικρό βήμα και αφήσεις τον υπολογιστή σου 2 μέρες να τρέχει).


Στο μεταβλητό γάμα θα μπορούσες να το ελέγχεις ώστε να επιλέγεις πάντα ένα καλό ή θα μπορούσε ο ελεγχός σου όταν επιλέγεται ένα κακό γάμα στην επόμενη επανάληψη να επιλέγει ένα καλύτερο (πχ γ_new = 0.1γ_old)

εν τελει , μετα απο ψαξιμο....οντως βρισκεις γ σταθερο που να ισχυουν τα κριτηρια για ολες τις επαναληψεις και απο οσο καταλαβα, αν ενσωματωσεις τα κριτηρια στον κωδικα σου , αποφευγεις τις ταλαντωσεις.

Εσυ πολυ ωραια τα λες, αλλα δεν ρωτησα αυτο  :P Κυριως, ρωτησα αν ο ροβι θελει να δει τα κριτηρια καλης λειτουργιας.

με απόκλιση 2 μονάδες στα 100 θα πω όχι

Όσον αφορά το σταθερό γ στην μέθοδο Levenberg, τα κριτήρια καλής λειτουργίας πρέπει να εφαρμοστούν για να μας εξασφαλίσουν κατά κάποιον τρόπο την σύγκλιση; Η αρκεί να κινηθούμε όπως στην προηγούμενη εργασία, δοκιμάζοντας μέχρι να βρούμε ένα γ που θα μας οδηγήσει στην σύγκλιση;

Επίσης αν αποφασίσουμε να εφαρμόσουμε τα κριτήρια, ουσιαστικά επιλέγουμε ένα σταθερό γ και πρέπει σε κάθε επανάληψη να ελέγχουμε αν υπάρχουν α, β ώστε να ικανοποιούνται τα κριτήρια 3,4;

ρωτησα τον ροβι... Δεν ειχε και πολυ την εργασια στο μυαλο του (ετσι μου φανηκε εμενα τουλαχιστον), αλλα μου ειπε οτι αν ο αλγοριθμος αναφερει να ικανοποιουνται τα κριτηρια, τοτε στο σταθερο γ, πρεπει το γ που θα επιλεχθει να ισχυει για καθε επαναληψη. Για ελαχιστοποιημενο, ετσι κι αλλιως ισχυουν. Για μεταβλητο, ομοιως.. ο κανονας σου να ικανοποιει για καθε επαναληψη τα κριτηρια

και ουσιαστικά για να επιτύχουμε την ικανοποίηση των κριτηρίων, από τη στιγμή που το γ θέλουμε να είναι σταθερό, σε κάθε επανάληψη θα πρέπει να μεταβάλλουμε τα α,β ώστε να ικανοποιήσουμε τα κριτήρια;

εε ναι καθε φορα θα υπαρχουν διαφορετικα α,β... δεν νομιζω παντως να χρειαζεται να τα "καταγραψεις"

όχι αλλα φαντάζομαι με κάποιο τρόπο θα πρέπει να δείξω πως για όσες επαναλήψεις έκανε ο αλγόριθμος μου, τα κριτήρια ικανοποιήθηκαν σε κάθε επανάληψη

αυτο ισχυει που λες. Εγω στο ειπα για να γλυτωσεις λιγη μνημη

Κάτι ακόμα:

Η ικανοποίηση των κριτηρίων μας εξασφαλίζει σίγουρα την επιθυμητή σύγκλιση. Το αντίστροφο ισχύει; Δηλαδή η μη ικανοποίηση των κριτηρίων συνεπάγεται "μη σύγκλιση"; Από αυτά που βλέπω στην πράξη, δεν πρέπει να ισχύει κάτι τέτοιο..

Με βάση μια περίπτωση που μου είχε τύχει στην προηγούμενη εργασία θα πω πως το αντίστροφο δεν ισχύει. Αν θυμάμαι καλά στην μέθοδο Newton, όταν χρησιμοποιούσα τον ευρεστικο κανόνα κάποια στιγμή δεν ίσχυε η πρώτη συνθήκη αλλά τελικά συνεκλινε η μέθοδος

Η ικανοποιηση των κριτηριων 3 και 4, αποκλειει περιπτωσεις ταλαντωσης και αποκλισης... αρα αν τυχαινε μετα απο 3000 επαναληψεις να καταληξει στο ελαχιστο, κατι τετοιο τωρα δεν θα συμβει

Ωραία .. ευχαριστώ πολύ για το χελπ

Στα πλαίσια του ευριστικού κανόνα(μεταβλητό βημα)στην levenberg, μπορέσατε να δείξετε πως τα κριτήρια 3,4 ισχύουν σε κάθε επανάληψη του αλγορίθμου;

Ειναι αναλογα και τι κανονα εχεις δημιουργησει. Ωστοσο, χωρις να ξερω αν αυτο που εκανα ειναι σωστο, εγω μετα απο αρκετο ψαξιμο καταφερα να το κανω να συγκλινει! Παντως και να μην τα καταφερεις, (που δεν ειναι και απιθανο) απλα λες τι προβληματα ειχες και τι προβληματα παρουσιαζεις ενας κανονας που δεν ειναι μαθηματικα αλλα "εμπειρικος"

Ναι καταλαβαίνω τι εννοείς..απλα το περίεργο της υπόθεσης είναι πως με δοκιμές που κάνω καταφέρνω να τον οδηγήσω στην σύγκλιση,απλά τα κριτήρια δεν ικανοποιούνται σε κάθε επανάληψη του αλγορίθμου..

Στη μέθοδο σχεδόν Newton  μόνο σε μένα δεν συγκλίνει στην πραγματική λύση με τους τύπους του βιβλιου;

Πως υλοποιούμε υπολογιστικά την πιθανή επανεκκίνηση του αλγορίθμου στην μέθοδο των συζυγών κλίσεων;

Πιθανή επανεκκίνηση...Το ακούω και πρώτη φορά.. Στον αλγόριθμο συζηγων κλισεων μου βγαίνει οτι ο ευριστικός έχει ίδιο αριθμό επαναλήψεων με το βέλτιστο γκ ... Έτυχε σε κανεναν αυτό;

τα κριτηρια,οπως ξαναειπα, δεν επιτρεπουν, ουτε μια ταλαντωση μεταξυ δυο τιμων και μετα να "συνεχισει" η μεθοδος για το ελαχιστο. Επισης, μπορει κατι να σου ξεφυγε οπως περνουσες τα κριτηρια στο matlab :P (ολοι το εχουμε παθει)


ουτε για πλακα :P αρχιζω να πιστευω οτι φταιει η f που μας δοθηκε


προσπαθησα να το κανω, αλλα πρωτον για να το επανεκκινησω σημαινει οτι κατι πρεπει να αλλαξω απο την μια κληση στην επομενη και δεν ηξερα τι να κανω (αλλαζα το γ) αλλα δεν πετυχαινε. Δευτερον. εχουμε μια συναρτηση στον R² δηλαδη οτι και να κανεις πρεπει για να το πετυχεις (δεν εχεις βεβαια τετραγωνικη συναρτηση) ειναι να πλησιασεις το ελαχιστο σε 1 ή 2 επαναληψεις (το πολυ n=2) ---> ασκοπος χρονος. Παντως, για να το υλοποιησεις μπορεις να ξανακαλεις την συναρτηση σε ενα else statement και μετα να κανεις return πριν βγεις απο την if....


"Κανονικα" δεν θα επρεπε να συμβαινει, καθως το ενα σου εγγυαται οτι εχεις το βελτιστο γ ... και το αλλο, ειναι ενας δικος σου τυπος... οχι κι τοσο μαθηματικος.. Ωστοσο, ναι μπορει να συμβει.

Η πιθανή επανεκκίνηση αναφέρεται σελίδα 150 στο βιβλίο του Ροβι.


Μάλιστα..κάτι παρόμοιο,πήγα να κάνω κάνω και εγώ αλλα δεν μου πολύ βγήκε..Τεσπα θα το αφήσω χωρίς κάποιον έλεγχο για επανεκκίνηση, απο τη στιγμή που συγκλίνει  :P :P

Ούτε εμένα ικανοποιούνται πάντα τα κριτήρια αλλά ο αλγόριθμος συγκλίνει στη λύση. ..

Είναι αυτό που λέει ο λευκός στα προηγούμενα ποστ:

Η ικανοποίηση των κριτηρίων σου εγγυάται πως αν οδηγηθείς στην σύγκλιση, θα οδηγηθείς χωρίς καμία ταλάντωση(δηλαδή οι τιμές της f σου θα μικραίνουν διαρκώς μέχρι να φτάσεις στο ελάχιστο).

Σε περίπτωση μη ικανοποίησης, δεν συνεπάγεται πως δεν θα υπάρξει σύγκλιση. Υπάρχει πιθανότητα να οδηγηθείς στην σύγκλιση αλλα ενδεχομένως να υπάρχουν ταλαντώσεις στις τιμές της f

Στη μεθοδο Συζυγων κλισεων με βελτιστη επιλογη γκ  εχω μη ικανοποιηση των κριτηριων για τις πρωτες 3 επαναηψεις; Βρηκε κανεις κατι παρομοιο;

Aνακοίνωση για την 3η εργασία:

Αν έχω καταλάβει καλά αυτά που διάβασα από το βιβλίο(σελ 154 Συμπέρασμα 5.2.4), από τη στιγμή που γίνεται η ελαχιστοποίηση του γ σωστά , ο πίνακας Δ θα είναι θετικά ορισμένος σε κάθε επανάληψη σου. Οπότε ίσως το πρόβλημα σου να οφείλεται στην μη σωστή ελαχιστοποίηση του γ.Δοκίμασε να παίξεις λίγο με τα όρια που κάνεις την ελαχιστοποίηση,μήπως αλλάξει κάτι.

Πάντα υπόθεση είναι αυτά που λέω

Εdit: Και κάτι ακόμα.. σιγουρέψου πως ξεκινάς με Δο θετικά ορισμένο

Πάνω στο πρόβλημα περί θετικά ορισμένου D. Εμένα μου βγαίνει πάντα θετικά ορισμένος.Απλά στην πρώτη επανάληψη με επιλογή βέλτιστου γκ ,δεν ικανοποιούνται τα κριτήρια καλής λειτουργίας.

Για τυχαιο Δ₀ δεν καταφερα να το κανω να συγκλινει. Για "στημενο" Δ₀ ο αλγοριθμος συγκλινει, κι ισχυει η ανισοτητα που λεει για κριτηριο. Επισης, δεν νομιζω για σταθερο γ να γινεται να ισχυει η ανισοτητα, αρα μονο για βελτιστο γ το καταφερα :Ρ

+1

Για Δο τον μοναδιαιο τοκαταφερα να συγκλινει ικανοποιωντας ολα τα κριτηρια εκτός της 1ης επαναήψης. Επισης στο υς ευριστικούς κανόνες που βάλατε,ικανοποιούνται πάντα τα κριτήηρια; Σε μένα μόονο η Levenberg είναι τέλεια. Στην conjugate εχω σε 2-3 επανλήψεις μη ικανοποίηση αλλα στην quasi Newton στις πρωτες 10 τουλάχισττον δεν ικανοποιείται τίποτα.

Αρχικά νομίζω πως στις περιπτώσεις που επιλέγεις το γ μέσω εσωτερικής βελτιστοποιησης δεν υπάρχει τόσο νόημα να ελέγχεις τα κριτήρια. Η βελτιστοποίηση σου εγγυάται την επιλογή του καλύτερου δυνατού βηματος.

Τώρα οσον αφορά τους ευριστικους, παιζει ρόλο τι κανόνα επέλεξε ο καθένας. Εγω προσωπικά , έλεγα πως  αν ικανοποιούνται τα κριτήρια διατηρω την τιμή του γ. Σε περίπτωση μη ικανοποίησης,μετεβαλα κάπως το γ ώστε στην επόμενη να ικανοποιουνται.

Καταλαβα.. Ευχαριστώ