THMMY.gr

Topic που αφορά την 3η εργαστηριακή άσκηση του μαθήματος, με απορίες/ερωτήσεις/κλπ σχετικά με αυτήν. Stay on topic!
Ημερομηνία παράδοσης 20/4/2016. Η αναφορά να έχει τη μορφή Epitheto_Onoma_Work3_AEM.xxx.

updated

Ανεβηκε.
Ωστοσο δε λεει καπου ημ. παραδοσης

Καλό αυτό, ας ελπίσουμε σε 2 βδομάδες γιατί φαίνεται μεγάλη.

χθες μας ειπε οτι επειδη ειναι μεγαλη, λογικα θα ηταν δυο βδομαδες. αλλα επειδη γραφουμε και αλγοριθμους την αλλη βδομαδα του ζητησαμε και λιγο παραπανω, οποτε ειπε θα το συζητησει με τον Ροβιθακη και θα μας το ανακοινωσει

edit:
 δηλαδη για να καταλαβω θελει για καθε μεθοδο, για καθε διαφορετικο αρχικο σημειο, να εφαρμοσουμε καθε μια επιλογη για το γ_κ ?

Τι διαγράμματα χρειάζεται να παρουσιάσουμε εδώ πέρα ;; Δε λέει κάτι .

edit :
έστειλα mail και μου απάντησε :
Στείλε ότι διάγραμμα θεωρείς εσύ οτι πρέπει να υπάρχει στην αναφορά σου ώστε να είναι πλήρης και να υποστηρίζει τα όσα λες.

μπορεί κανείς να πει για levenburger τι ακριβώς πρέπει να γίνει ;
έχω χρησιμοποιήσει armijo που στην ουσία είναι το κριτήριο 4 στο διάστημα αε(10^-5,10^-1) κ βε(0.1,0.5) αλλά πάει τέρμα αργά και μου βρίσκει βήμα της τάξης του 10^-16 το οποίο δεν έχει κανένα αντίκτυπο στο xk+1 .
επίσης το κριτήριο 3 δεν δεν ξέρω πώς μπορεί να επηρεάσει την τιμή του γ.
κανείς βοήθεια ;

Για τον armijo  εγω τον χρησιμοποιησα μόνο σε ένα ερώτημα για ποικιλία δεν νομίζω να τον ζητάει συγκεκριμένα. 
Η levenberg-Marquardt θα σου λύσει το πρόβλημα της Newton που έχει για αρνητικό hessian μπορείς να την κάνεις ακριβώς όπως την Newton ( με τους μεθόδους τερματισμού και καθορισμού βήματος).
Το κριτήριο 3 δεν το υλοποίησα οπότε αν θες να στο περιγράψω πως σκέφτομαι να το κάνω πες.

[quote ]
Για τον armijo  εγω τον χρησιμοποιησα μόνο σε ένα ερώτημα για ποικιλία δεν νομίζω να τον ζητάει συγκεκριμένα. 
Η levenberg-Marquardt θα σου λύσει το πρόβλημα της Newton που έχει για αρνητικό hessian μπορείς να την κάνεις ακριβώς όπως την Newton ( με τους μεθόδους τερματισμού και καθορισμού βήματος).
Το κριτήριο 3 δεν το υλοποίησα οπότε αν θες να στο περιγράψω πως σκέφτομαι να το κάνω πες.
[/quote]

ααα. άρα για τον καθορισμό του βήματος χρησιμοποιούμαι κανονικά ότι κάναμε και στις προηγούμενες μεθόδους ; Δεν βρίσκουμε δλδ το γκ έτσι ώστε να επαληθεύονται τα κριτήρια 3,4 ;

Εξαρτάται πως ξεκινάς εγώ διάλεξα ένα ε μετά είδα ανάλογα με την μέθοδο επιλογής γk τι γίνεται πχ με σταθερό με μεταβαλλομενο κλπ, πέρσι είχε ζητήσει και μια δική σου μέθοδο... Αν είναι σταθερό το γk προφανώς πρέπει να είναι τέτοιο ώστε να μην ταλαντώνεται. Αυτό δεν πρέπει να ισχύει για μεταβαλλομενο γκ με την μέθοδο της ελαχιστοποιησης της φ_κ(γ) σελ 123 που μπορεί να την εφαρμόσεις σε όλες για να δεις πως συμπεριφερται με κόστος της ελαχιστοποιησης μονοδιαστατης συνάρτησης (προηγούμενη εργασία)
/εδιτ τα κριτήρια 3-4 μπορείς να κάνεις μπορεί και όχι. Δεν νομίζω να έβαλε κάποια συνάρτηση που να συγκλίνει μόνο με αυτά τα κριτήρια. Κανε τα είναι ενδιαφέρων να δεις την συμπεριφορά τους  :)

Αυτό προσπαθώ, να τα κάνω !! αλλά μου βγαίνουν αυτά που περιέγραψα πιο πάνω ! εσύ πώς το σκέφτεσαι δηλαδή που έλεγες ;

Στην μέθοδο Newton για το (-2,-1) δεν μπορεί να τρέξει επειδή το dk < 0 , ή κάνω κάτι λάθος?

δεν τρέχει επειδή δεν μπορούμε να είμαστε σίγουροι αν ο αντίστροφος εσσιανός είναι θετικά ορισμένος

Και στην quasi newton το ίδιο σε μένα (μόνο? )

στην quasi newton εμένα μου συγκλίνει μόνο με την ελαχιστοποίηση του βήματος (β' ερώτημα) .δεν ξέρω αν θα πρέπει να σγκλίνει και με τις άλλες μεθόδους..

Με τη άκρα κάνετε τις ελαχιστοποιήσεις?

Με σταθερό βήμα δεν συγκλίνει από θεωρία.. Γενικά νομίζω ότι για να δουλέψει θέλει ελαχιστοποίηση της φ(γ).

Εμένα η σχεδόν newton δουλεύει σαν τη newton...

Εκτός αν αφήσω το βήμα να πάρει αρνητικές τιμές, αλλά αυτό δεν έχει νόημα...

Το γk σύμφωνα με το Συμπέρασμα 5.2.4 σελ 154 πρέπει να ελαχιστοποιεί την gradf και αυτό δεν μπορεί να ικανοποιείται (για μια f που δεν είναι περίεργη περίπτωση) εάν είναι σταθερό. Τώρα αν το έχεις σταθερό τι να πω ; ::)

Προκειμένου να ελαχιστοποιήσει την f(γ) στην πρώτη επανάληψη, θέλει μεγάλο βήμα γ. Και αν βάλω μεγάλο άνω όριο για το γ τότε στη δεύτερη επανάληψη αποκλίνει.

Βασικά αντ'αυτού μεγάλωσα τον Δ0 και δουλεύει  ;D

Και αυτό λέγεται tunning του αλγόριθμου... ;D

η μέθοδος newton με σταθερο βημα μου βγαζει ακριβως ιδια αποτελεσματα με την μεθοδο μεγιστης καθοδου για το ιδιο βημα.
ειναι λογικο;
edit: αμα κανεις copy paste και δεν αλλαζεις το ονομα της συναρτησης αυτα παθαινεις και ψαχνεις σαν μλκς μετα  :-[

στο [-2, 2] το πηρα, εντελως τυχαια  :P

Πρέπει γ>=0

στην μεθοδο levenberg-marquardt δεν ειναι λιγο ατοπο να βαλουμε γ σταθερο ή  απο ελαχιστοποιηση, αφου θελει γ να ικανοποιει τα κριτηρια 3,4 ;

Όπως έχουμε γράψει παραπάνω πρέπει να ικανοποιεί το γk ένα συμπέρασμα. Εγώ σαν αναφορά το έχω συμπεριλάβει γράφοντας ότι με σταθερό γk περιμένω να μην συγκλίνει...

Απ'ότι κατάλαβα παραβλέπουμε τα κριτήρια. Ο ροβιθάκης είχε πει ότι με ελαχιστοποίηση τα κριτήρια ικανοποιούνται, ενώ ο ευριστικός είναι αποδεκτό να αποκλίνει διότι δεν είναι "αλγόριθμος" αλλα "παπατζιά". Προφανώς και το σταθερό βήμα δεν είναι απαραίτητο να συγκλίνει...

Ουσιαστικά αυτά τα 3,4 είναι κριτήρια σύγκλισης.

το (-3 ,3 ) σας συγκλίνει σε κάποια μέθοδο με κάποιον τρόπο ;; εμένα δε μου συγκλίνει πουθενά

Υπαρχουν περιπτώσεις όπου ένας αλγόριθμος μπορεί να μη συγκλίνει,απλά προφανώς πρέπει στην αναφορά να εξηγήσετε γιατί συμβαίνει αυτό.

γενικά χρησιμοποιείται σαν dk το dk ή το dk/norm(dk)   ??

Φαντάζομαι όπως το προτιμάς εσύ με την προϋπόθεση ότι θα εξηγήσεις τι κάνεις και γιατί το κάνεις.