|
Title: [Αναγνώριση Προτύπων] Εργασίες 2009 Post by: anonymous-root on March 21, 2009, 15:19:07 pm Με τις εργασίες τι παίζει; Θα γίνουν σε ματλαμπ από ότι ξέρω. Για τον αλγόριθμο perceptron μόνο στο νετ θα ψάξουμε; ή έχει δώσει τπτ σημειώσεις στο μάθημα;
Title: Re: [Αναγνώριση Προτύπων] Εργασίες 2009 Post by: CyberCaesar on March 21, 2009, 15:53:51 pm στο δευτερο μαθημα δεν εδωσε σιγουρα σημειωσεις κ αποσο ξερω ουτε στο πρωτο.
Title: Re: [Αναγνώριση Προτύπων] Εργασίες 2009 Post by: MonteCristo on March 27, 2009, 16:04:50 pm Ρε παιδιά έχει κανείς κάποια ιδέα πως θα ξεκινήσουμε την υλοποίηση του αλγορίθμου;
Δηλάδη έχουμε κάποια δεδομένα στα οπια πρέπει να εφαρμόσυμε τον αλγόριθμο, αλλά τι θα χρησιμοποιήσουμε για το διάνυσμα των βαρών; Γενικά, επειδή δεν έχω και πολύ επαφή με το μάθημα, όποια βοήθεια θα είναι χρήσιμη... Title: Re: [Αναγνώριση Προτύπων] Εργασίες 2009 Post by: igna on March 29, 2009, 16:38:54 pm Ρε παιδιά έχει κανείς κάποια ιδέα πως θα ξεκινήσουμε την υλοποίηση του αλγορίθμου; Δηλάδη έχουμε κάποια δεδομένα στα οπια πρέπει να εφαρμόσυμε τον αλγόριθμο, αλλά τι θα χρησιμοποιήσουμε για το διάνυσμα των βαρών; Eγώ αρχικά χρησιμοποίησα ένα τυχαίο διάνυσμα w. Η απορία μου είναι σε άλλο σημείο. Εκπαίδευσα τον αλγόριθμο έτσι ώστε να γίνεται η διάγνωση σωστά για όλα τα δείγματα. Στο ερώτημα 2 όμως επειδή έχουμε λιγότερες συνιστώσες ο αλγόριθμος δεν καταλήγει σε ένα διάνυσμα w, αλλά τρέχει συνεχώς. Αν τον σταματήσω σε κάποιο σημείο μετά απο αρκετές επαναλήψεις θα είναι λάθος? Title: Re: [Αναγνώριση Προτύπων] Εργασίες 2009 Post by: UK on March 29, 2009, 18:09:05 pm Όχι δε θα είναι λάθος αν το κάνεις αυτό. Ορίζεις έναν αριθμό "εποχών" εκπαίδευσης (πχ 5000, 10000 ότι θες) και αν οι εποχές αυτές σου τελειώσουν πριν να εκπαιδευτεί τέλεια ο αλγόριθμος, η εκπαίδευση σταματάει. Καταλήγεις να έχεις ένα διάνυσμα βαρών το οποίο όταν θα εφαρμόζεται σε μια δεδομένη είσοδο θα σου δίνει αποτελέσματα με ένα συντελεστή σφάλματος (θεωρείται ότι είναι καλός αυτός ο συντελεστής όταν έχεις μια επιτυχία κατάταξης των δειγμάτων 90% και πάνω).
Η ανεπαρκής εκπαίδευση ίσως είναι και λογικό να συμβεί απο τη στιγμή που θα εκπαιδεύεις το δίκτυο με τόσα λίγα δείγματα. Μάλλον κάτι τέτοιο θα θέλει και στα σχόλια φαντάζομαι. Για το διάνυσμα βαρών τώρα, όποια αρχικοποίηση και να επιλέξεις, δε θα έχει διαφορά (εγώ πχ ξεκινάω με όλα τα βάρη 0). Ίσως καταλήξεις με λίγο διαφορετικά βάρη που όμως μετά το τέλος κάποιου αριθμού εποχών θα έχουν διαμορφωθεί έτσι ώστε να είναι ικανά να σου δίνουν καλή κατάταξη όταν εφαρμοστούν σε κάποια είσοδο. Πάντως εγώ μέχρι στιγμής έχω ασχοληθεί μόνο με το πρώτο ερώτημα(δε με βλέπω να την προλαβαίνω ολόκληρη :P). Όταν κάνω εκπαίδευση με όλες τις γυναίκες (150 δείγματα) καταλήγω να έχω τέλεια κατάταξη (0% σφάλμα). Κάτι που με ψιλοπροβληματίζει γιατί ο διδακτορικός που έκανε ασκήσεις την προηγούμενη Τρίτη, νομίζω ότι είπε πως τα δείγματα δε θα είναι γραμμικά διαχωρίσιμα (θα πρέπει δηλ να βγάζουμε ποσοστό σφάλματος). Είναι κανείς που επίσης να κατάλαβε κάτι τέτοιο; Μήπως το εννοούσε κάτι για κάποιο άλλο ερώτημα; Και κάτι ακόμη. Αφού κάνουμε την εκπαίδευση με όλα τα δείγματα, μετά θέλει λέει να κάνουμε εκπαίδευση στα 105 δείγματα (το 70%) και να εφαρμόσουμε τα βάρη που θα βρούμε στα υπόλοιπα 45 που θα απομείνουν και να σχολιάσουμε ποσοστά επιτυχίας κτλ. Αυτά τα 105 δείγματα τα διαλέγουμε τυχαία μέσα απο τα 150, έτσι δεν είναι; Δε παίρνουμε δηλ τα πρώτα 105. Αλλά και πάλι έτσι κάθε φορά που θα διαλέγουμε ένα καινούργιο 70%, θα έχουμε λογικά άλλα ποσοστά επιτυχίας κ σφάλματος...τι να πω. Για αποτελέσματα απο τα παρακάτω ερωτήματα μάλλον θα επανέλθω. Είναι κάποιος άλλος που να συμφωνεί μέχρι αυτό το σημείο; Title: Re: [Αναγνώριση Προτύπων] Εργασίες 2009 Post by: igna on March 29, 2009, 19:44:12 pm Λέει ότι παίρνουμε το 70% από κάθε κατηγορία. Το εκπαίδευσα δλδ για 75 υγιή και 30 άρρωστα δείγματα και στο τέλος βρήκα το σφάλμα για τα υπόλοιπα δείγματα.
Title: Re: [Αναγνώριση Προτύπων] Εργασίες 2009 Post by: (Stalin)^2 on March 29, 2009, 20:02:44 pm Πάντως εγώ μέχρι στιγμής έχω ασχοληθεί μόνο με το πρώτο ερώτημα(δε με βλέπω να την προλαβαίνω ολόκληρη :P). Όταν κάνω εκπαίδευση με όλες τις γυναίκες (150 δείγματα) καταλήγω να έχω τέλεια κατάταξη (0% σφάλμα). Κάτι που με ψιλοπροβληματίζει γιατί ο διδακτορικός που έκανε ασκήσεις την προηγούμενη Τρίτη, νομίζω ότι είπε πως τα δείγματα δε θα είναι γραμμικά διαχωρίσιμα (θα πρέπει δηλ να βγάζουμε ποσοστό σφάλματος). Είναι κανείς που επίσης να κατάλαβε κάτι τέτοιο; Μήπως το εννοούσε κάτι για κάποιο άλλο ερώτημα; Νομίζω πως ακόμη κι αν κάνεις εκπαίδευση με όλα τα δείγματα δεν πρόκειται να βγάλεις μηδενικό σφάλμα, γιατί ακριβώς τα δείγματα δεν είναι γραμμικά διαχωρίσιμα. Μηδενικό σφάλμα βγάζεις μόνο σε διαχωρίσιμο πρόβλημα. Αν θες στήσε ένα δικό σου παράδειγμα με γραμ. διαχωρίσιμα δείγματα και δες αν δουλεύει ο αλγόριθμος (πρέπει να βγάλει σφάλμα μηδεν). Γενικά σε πραγματικά προβλήματα πολύ δύσκολα βγάζεις μηδενικό σφάλμα. Κι αυτό είναι ένα πραγματικό πρόβλημα.. Title: Re: [Αναγνώριση Προτύπων] Εργασίες 2009 Post by: [x:y:z] on March 29, 2009, 20:33:33 pm Στο ίδιο μηδενικό σφάλμα καταλήγω κι εγώ για το πρώτο ερώτημα , εξετάζοντας όλα τα δεδομένα. 88.89% εκπαιδεύοντας το 70% των δεδομένων και εξετάζοντας το 30% Και πολύ μικρό ποσοστό για το 2ο ερώτημα (28.6667% , συγκεκριμένα βγαίνουν όλες με καρκίνο ) , και 47.333% για το 3ο ερώτημα.
Μελισσοκόμε με λίγα λόγια , τί σφάλμα έβγαλες στο πρώτο ερώτημα ? Title: Re: [Αναγνώριση Προτύπων] Εργασίες 2009 Post by: [x:y:z] on March 29, 2009, 21:08:04 pm Εντάξει δε θέλει και πολύ κόπο οπότε μην κάνω τζάμπα ερωτήσεις :Ρ Επίσης έχω να παρατηρήσω ότι δε συγκλίνει όταν τα δεδομένα δεν είναι κανονικοποιημένα (όπως και στα ερωτήματα 2 κ 3). Αυτό ίσως είναι χαρακτηριστικό του πραγματικού προβλήματος της μη γραμμικής διαχωρισιμότητας (μελισοκόμος (c) ) μιας και η απόκλιση ανάμεσα στις συνιστώσες είναι πολύ μεγάλη. Ή ίσως εδώ να παίζει και σημαντικότερο ρόλο η αρχικοποίηση του c ? Δεν ξέρω δεν ξέρω ... Title: Re: [Αναγνώριση Προτύπων] Εργασίες 2009 Post by: akenatwn on March 29, 2009, 21:38:45 pm Και εγώ μηδενικό σφάλμα βγάζω στο 1ο ερώτημα για όλα τα δεδομένα,4.44% στο 70% και 26% στο 2ο ερώτημα.
Πόσο παίρνετε το c;Γιατί λογικά αυτό αλλάζει τα αποτελέσματα. Επίσης σας συγκλίνει για το 70%;Γιατι εμένα συγκλίνει. Επισης μια απορία: πως βρισκουμε την ευθεία διαχωρισμού; Title: Re: [Αναγνώριση Προτύπων] Εργασίες 2009 Post by: (Stalin)^2 on March 30, 2009, 04:30:33 am Στο ίδιο μηδενικό σφάλμα καταλήγω κι εγώ για το πρώτο ερώτημα , εξετάζοντας όλα τα δεδομένα. 88.89% εκπαιδεύοντας το 70% των δεδομένων και εξετάζοντας το 30% Και πολύ μικρό ποσοστό για το 2ο ερώτημα (28.6667% , συγκεκριμένα βγαίνουν όλες με καρκίνο ) , και 47.333% για το 3ο ερώτημα. Μελισσοκόμε με λίγα λόγια , τί σφάλμα έβγαλες στο πρώτο ερώτημα ? Η ευθεία στην οποία θα καταλήξεις, άρα και το αφάλμα, εξαρτόνται από την αρχικοποίηση του w (το σετάρισμα του αλγορίθμου δηλαδή). Άλλο σφάλμα βγάζεις αν σετάρεις σε άσσους, άλλο αν σετάρεις σε 100 κλπ.. Εγώ έβγαλα σφάλμα 2% για w(1)=[100;100;...;100]... Στο έδωσα μια τυπική τιμή c=0.7 (την έχω δει και αλλού, επίσης το είχε αναφέρει και ο Στρίντζης). Παιδιά δεν παίζει να είναι μηδενικό το σφάλμα... Δηλαδή μου φαίνεται πολύ δύσκολο... Στις 2D, 3D περιπτώσεις σίγουρα δεν είναι μηδέν. Μπορείς να το δεις και από τα γραφήματα, αλλά και στην περίπτωση 30D(!), δηλαδή στο 1ο ερώτημα, δεν νομίζω να βγαίνει σφάλμα μηδέν.. Title: Re: [Αναγνώριση Προτύπων] Εργασίες 2009 Post by: (Stalin)^2 on March 30, 2009, 04:37:27 am Λοιπόν, τώρα που το ξαναβλέπω, ίσως να έχετε κάνει λάθος σε ένα συγκεκριμένο σημείο και γι' αυτό να βγάζετε σφάλμα μηδέν.
Λοιπόν, εγώ στο m-file που έγραψα για να υπολογίζει το σφάλμα, υπολογίζω τρία σφάλματα: α. Σφάλμα δειγμάτων του Τ1 που κατατάχθηκαν στο Ω0 β. Σφάλμα δειγμάτων του Τ0 που κατατάχθηκαν στο Ω1 γ. Συνολικό Σφάλμα=συνολικός αριθμός δειγμάτων που κατατάχθηκαν λανθασμένα προς τον συνολικό αριθμό των δειγμάτων Αυτό που ζητείται είναι το γ. Στο 1ο ερώτημα, έχοντας αρχικοποιήσει το w σε 100άρια μου βγαίνουν: α=0% β=2.8% γ=2% Μήπως υπολογίζετε μόνο το σφάλμα δειγμάτων του Τ1 που κατατάχθηκαν στο Ω0?? Τσεκάρετε τον αντίστοιχο έλεγχο στο σημείο που βρίσκετε το σφάλμα, μήπως και δεν περιλαμβάνετε όλα τα λανθασμάνα δείγματα... Δεν ξέρω αν ισχύουν αυτά που γράφω, αλλά μου φαίνονται λογικά... :???: Title: Re: [Αναγνώριση Προτύπων] Εργασίες 2009 Post by: [x:y:z] on March 30, 2009, 04:45:28 am Η ευθεία στην οποία θα καταλήξεις, άρα και το αφάλμα, εξαρτόνται από την αρχικοποίηση του w (το σετάρισμα του αλγορίθμου δηλαδή). Άλλο σφάλμα βγάζεις αν σετάρεις σε άσσους, άλλο αν σετάρεις σε 100 κλπ.. Εγώ έβγαλα σφάλμα 2% για w(1)=[100;100;...;100]... Στο έδωσα μια τυπική τιμή c=0.7 (την έχω δει και αλλού, επίσης το είχε αναφέρει και ο Στρίντζης). Παιδιά δεν παίζει να είναι μηδενικό το σφάλμα... Δηλαδή μου φαίνεται πολύ δύσκολο... Στις 2D, 3D περιπτώσεις σίγουρα δεν είναι μηδέν. Μπορείς να το δεις και από τα γραφήματα, αλλά και στην περίπτωση 30D(!), δηλαδή στο 1ο ερώτημα, δεν νομίζω να βγαίνει σφάλμα μηδέν.. Δε νομίζω ότι η αρχικοποίηση του w επηρεάζει το σφάλμα . Απλά με τη μεταβολή του αρχικού w θα μεταβληθούν με ανάλογο τρόπο και οι συνιστώσες του τελικού w, ώστε τελικά το γινόμενο wT*x να δίνει σωστά αποτελέσματα. Διαφορετικά νούμερα μεν αλλά το αν θα είναι θετικά ή αρνητικά δε θα αλλάξει οπότε δε θα αλλάξει και η κατάταξη στα αντίστοιχα πρότυπα (είτε το γινόμενο βγάλει 500 είτε βγάλει 0.0005 είναι το ίδιο για μας). Όντως εφαρμόζοντας τα νούμερα σου , (100άρια στο w(1) και c=0.7) δεν άλλαξε ούτε το 100% για την εξέταση όλων των δεδομένων ούτε το 86.6667% για την εξέταση του 30% των δεδομένων εκπαιδεύοντας το για το 70%, που είχα βρει για πολλές άλλες διαφορετικές τιμές του w(1) και c. Κι εγώ θα περίμενα να μη βγαίνει 100% για όλα τα δεδομένα αλλά μάλλον βγαίνει. Στο μεταξύ ο k-means για την εξέταση όλων των δεδομένων ομαδοποιεί με ποσοστό επιτυχίας 92%, που φαίνεται πιο φυσιολογικό. Title: Re: [Αναγνώριση Προτύπων] Εργασίες 2009 Post by: (Stalin)^2 on March 30, 2009, 04:49:58 am Η ευθεία στην οποία θα καταλήξεις, άρα και το αφάλμα, εξαρτόνται από την αρχικοποίηση του w (το σετάρισμα του αλγορίθμου δηλαδή). Άλλο σφάλμα βγάζεις αν σετάρεις σε άσσους, άλλο αν σετάρεις σε 100 κλπ.. Εγώ έβγαλα σφάλμα 2% για w(1)=[100;100;...;100]... Στο έδωσα μια τυπική τιμή c=0.7 (την έχω δει και αλλού, επίσης το είχε αναφέρει και ο Στρίντζης). Παιδιά δεν παίζει να είναι μηδενικό το σφάλμα... Δηλαδή μου φαίνεται πολύ δύσκολο... Στις 2D, 3D περιπτώσεις σίγουρα δεν είναι μηδέν. Μπορείς να το δεις και από τα γραφήματα, αλλά και στην περίπτωση 30D(!), δηλαδή στο 1ο ερώτημα, δεν νομίζω να βγαίνει σφάλμα μηδέν.. Δε νομίζω ότι η αρχικοποίηση του w επηρεάζει το σφάλμα . Απλά με τη μεταβολή του αρχικού w θα μεταβληθούν με ανάλογο τρόπο και οι συνιστώσες του τελικού w, ώστε τελικά το γινόμενο wT*x να δίνει σωστά αποτελέσματα. Διαφορετικά νούμερα μεν αλλά το αν θα είναι θετικά ή αρνητικά δε θα αλλάξει οπότε δε θα αλλάξει και η κατάταξη στα αντίστοιχα πρότυπα (είτε το γινόμενο βγάλει 500 είτε βγάλει 0.0005 είναι το ίδιο για μας). Όντως εφαρμόζοντας τα νούμερα σου , (100άρια στο w(1) και c=0.7) δεν άλλαξε ούτε το 100% για την εξέταση όλων των δεδομένων ούτε το 86.6667% για την εξέταση του 30% των δεδομένων εκπαιδεύοντας το για το 70%, που είχα βρει για πολλές άλλες διαφορετικές τιμές του w(1) και c. Κι εγώ θα περίμενα να μη βγαίνει 100% για όλα τα δεδομένα αλλά μάλλον βγαίνει. Στο μεταξύ ο k-means για την εξέταση όλων των δεδομένων ομαδοποιεί με ποσοστό επιτυχίας 92%, που φαίνεται πιο φυσιολογικό. Νομίζω πως το σετάρισμα επηρεάζει το τελικό w, λόγω μη γραμμικής διαχωρισιμότητας. Αν ήταν διαχωρίσιμα τα δεδομένα ό,τι σετάρισμα κι αν έκανες θα έπρεπε να σου βγάλει το ίδιο τελικό w. Αλλά εδώ δεν είναι... Αυτό φαίνεται πολύ έντονα στην 2D περίπτωση... Διαφοερτικά σεταρίσματα δίνουν, εν γένει, διαφορετικές ευθείες... Επίσης για το σφάλμα δες λίγο το παραπάνω μου ποστ μήπως συμβαίνει αυτό... Έδιτ: Ο Κmeans μου δίνει σφάλμα 8.66% (Εδώ μάλλον συμφωνούμε!) Title: Re: [Αναγνώριση Προτύπων] Εργασίες 2009 Post by: [x:y:z] on March 30, 2009, 04:52:34 am Αυτό που ζητείται είναι το γ. Ναι αυτό υπολογίζω. o έλεγχος που γίνεται για το i δείγμα είναι κάπως έτσι if (data(i,31)==0 & result(1,i)>0) | (data(i,31)==1 & result(1,i)<0) correct=correct+1 φφφφφ δεν ξέρω , δεν απαντάει και ο διδακτορικός στο mail Title: Re: [Αναγνώριση Προτύπων] Εργασίες 2009 Post by: [x:y:z] on March 30, 2009, 04:59:16 am Νομίζω πως το σετάρισμα επηρεάζει το τελικό w, λόγω μη γραμμικής διαχωρισιμότητας. Αν ήταν διαχωρίσιμα τα δεδομένα ό,τι σετάρισμα κι αν έκανες θα έπρεπε να σου βγάλει το ίδιο τελικό w. Αλλά εδώ δεν είναι... Λογικό μου φαίνεται όντως. Αυτό φαίνεται πολύ έντονα στην 2D περίπτωση... Διαφοερτικά σεταρίσματα δίνουν, εν γένει, διαφορετικές ευθείες... Μπορείς να εξηγήσεις λίγο πως βγαίνει η ευθεία? Στο 2D έχουμε μία εξίσωση της μορφής w1x1+w2x2 + w3= 0. Tί τιμή δίνεται στο w3? Title: Re: [Αναγνώριση Προτύπων] Εργασίες 2009 Post by: (Stalin)^2 on March 30, 2009, 05:02:44 am Αυτό που ζητείται είναι το γ. Ναι αυτό υπολογίζω. o έλεγχος που γίνεται για το i δείγμα είναι κάπως έτσι if (data(i,31)==0 & result(1,i)>0) | (data(i,31)==1 & result(1,i)<0) correct=correct+1 φφφφφ δεν ξέρω , δεν απαντάει και ο διδακτορικός στο mail Νομίζω πως κι εγώ το είχα ξεκινήσει έτσι, αλλα το άφησα γιατί υπήρχε κάποιο λογικό λάθος (σε μένα)... Μήπως αν τα υπολογίσεις ξεχωριστά; Title: Re: [Αναγνώριση Προτύπων] Εργασίες 2009 Post by: (Stalin)^2 on March 30, 2009, 05:03:02 am Tί τιμή δίνεται στο w3? Ο αλγόριθμος επιστρέφει ένα διάνυσμα 3 συνιστωσών... Η μία (όποια αποφασίσεις εξαρχής εσύ) είναι για το offset (για να επιτρέψεις στην ευθεία να μην περνάει μόνο από την αρχή των αξόνων). Αν χ=[1;χ1;χ2], τότε w=[w0;w1;w2] και το w0 είναι για το offset/// Title: Re: [Αναγνώριση Προτύπων] Εργασίες 2009 Post by: [x:y:z] on March 30, 2009, 05:08:14 am Νομίζω πως κι εγώ το είχα ξεκινήσει έτσι, αλλα το άφησα γιατί υπήρχε κάποιο λογικό λάθος (σε μένα)... Μήπως αν τα υπολογίσεις ξεχωριστά; Μισό... επιστρέφω σε 5 λεπτά, πάω να κάνω έναν γαλλικό. Θες μήπως; Το δοκίμασα ξεχωριστά. Παααααλι τα ίδια ποσοστά. Τι γαλλικό ρε? Δε θα κοιμηθώ ούτε μεθαύριο αν πιω τώρα :P Title: Re: [Αναγνώριση Προτύπων] Εργασίες 2009 Post by: akenatwn on March 30, 2009, 05:24:42 am Και μένα το συνολικό σφάλμα βγαίνει 0.Για όλες τις αρχικές τιμές του w.Ακόμα και αν τα υπολογίσω χωριστά.
Το w όμως βγαίνει εντελώς διαφορετικό κάθε φορά. Title: Re: [Αναγνώριση Προτύπων] Εργασίες 2009 Post by: [x:y:z] on March 30, 2009, 05:27:14 am όχι ok το είδα thanx
Title: Re: [Αναγνώριση Προτύπων] Εργασίες 2009 Post by: (Stalin)^2 on March 30, 2009, 05:27:55 am Με προβληματίζετε ρε παιδιά... Πολλοί το βγάλατε μηδέν... Αλλα δεν ξέρω... Επιμένω ότι δεν είναι μηδέν. Δηλαδή ότι δεν μπορεί να είναι μηδέν (δεν υπάρχει γραμμικός διαχωρισμός)...
Να ρωτήσω κάτι: Στην 2D περίπτωση βγάζετε πάλι σφάλμα μηδέν?? Title: Re: [Αναγνώριση Προτύπων] Εργασίες 2009 Post by: [x:y:z] on March 30, 2009, 05:32:49 am Όχι στο 2D σφάλμα 71.333% ( μου βγαίνει ότι όλα τα δείγματα έχουν καρκίνο ) και στο 3D σφάλμα 52.66%
Τί λες γι αυτά? Title: Re: [Αναγνώριση Προτύπων] Εργασίες 2009 Post by: (Stalin)^2 on March 30, 2009, 05:38:20 am Όχι στο 2D σφάλμα 71.333% ( μου βγαίνει ότι όλα τα δείγματα έχουν καρκίνο ) και στο 3D σφάλμα 52.66% Τί λες γι αυτά? 2D - Για w(1)=[100;100;100] μου βγαίνει σφάλμα 11.33 % 3D - Για w(1)=[100;100;100;100] μου βγαίνει σφάλμα 6.66 % Για μικρότερα αρχικά w τα σφάλματα βγαίνουν αρκετά μεγαλύτερα σε μένα.. Με το 1ο ερώτημα δεν ξέρω τί παίζει...Μηδέν? Title: Re: [Αναγνώριση Προτύπων] Εργασίες 2009 Post by: [x:y:z] on March 30, 2009, 05:48:11 am βασικά κάτσε γιατί αρχίζουν και αναθεωρούνται όλα αυτή τη δύσκολη ώρα.
Το w που θα δημιουργήσουμε θα έχει 31 ή 30 συνιστώσες? Δλδ την τελευταία (31η) συνιστώσα των δειγμάτων που είναι 0 ή 1 , θα τη συμπεριλάβουμε στο wT*x ή θα τη λάβουμε μόνο υπόψη μόνο στους ελέγχους , οπότε το w και τα χ θα χουν 30 συνιστώσες? Αυτό ίσως διαφοροποιεί τα αποτελέσματα. Title: Re: [Αναγνώριση Προτύπων] Εργασίες 2009 Post by: (Stalin)^2 on March 30, 2009, 05:54:44 am βασικά κάτσε γιατί αρχίζουν και αναθεωρούνται όλα αυτή τη δύσκολη ώρα. Το w που θα δημιουργήσουμε θα έχει 31 ή 30 συνιστώσες? Δλδ την τελευταία (31η) συνιστώσα των δειγμάτων που είναι 0 ή 1 , θα τη συμπεριλάβουμε στο wT*x ή θα τη λάβουμε μόνο υπόψη μόνο στους ελέγχους , οπότε το w και τα χ θα χουν 30 συνιστώσες? Αυτό ίσως διαφοροποιεί τα αποτελέσματα. Λοιπόν: Όταν έχεις Ν διαστάσεις (πχ Ν=2 συνιστώσες-->2D), τότε τα χ, w θα έχουν Ν+1 συνιστώσεις. Για το μεν χ: Βάζεις κάπου την μονάδα για το offset που λέγαμε, πχ για το 2D x=[1;x1;x2], οπότε w=[w0;w1;w2] Για το 1ο ερώτημα πχ, κρατάς τις 30 πρώτες συνιστώσες που είναι οι μετρήσεις και τις βάζεις στο χ, απλά στο χ βάζεις και μία μονάδα στην αρχή (συνήθως) για το offset. Άρα 31 συνιστώσες. Τα χ δεν έχουν μέσα τους το 31ο στοιχείο (το target του δείγματος). Αυτό το χρησιμοποιείς μόνο στους ελέγχους στον perceptron.. Κατάλαβες τί εννοώ? Title: Re: [Αναγνώριση Προτύπων] Εργασίες 2009 Post by: [x:y:z] on March 30, 2009, 06:20:00 am ναι οκ το target δεν το χα βάλει στους υπολογισμούς, δεν είναι λογικό . Τη συνιστώσα του offset όμως επίσης δεν την είχα βάλει , γι αυτό η ευθεία στο 2D έβγαινε μετατοπισμένη πολύ μακριά. Με την προσθήκη , άλλαξαν ήδη τα αποτελέσματα του 2D . Θα κοιτάξω και για τις 30 συνιστώσες , ίσως αυτό να ταν το πρόβλημα ..
Title: Re: [Αναγνώριση Προτύπων] Εργασίες 2009 Post by: (Stalin)^2 on March 30, 2009, 06:29:06 am ναι οκ το target δεν το χα βάλει στους υπολογισμούς, δεν είναι λογικό . Τη συνιστώσα του offset όμως επίσης δεν την είχα βάλει , γι αυτό η ευθεία στο 2D έβγαινε μετατοπισμένη πολύ μακριά. Με την προσθήκη , άλλαξαν ήδη τα αποτελέσματα του 2D . Θα κοιτάξω και για τις 30 συνιστώσες , ίσως αυτό να ταν το πρόβλημα .. Αν δεν βάλεις την μονάδα στο χ (και άρα και το w0 στο w) η ευθεία σου θα περνάει από το μηδέν αναγκαστικά (θα είναι, δηλαδή, της μορφής w1x1+w2x2=0), που προφανώς δεν το θέλεις.. Παίζει να είναι και αυτό το πρόβλημα (αν μιλάμε για πρόβλημα.. αν, δηλαδή, το σφάλμα δεν βγαίνει μηδέν - εγώ πιστεύω πως δεν βγαίνει). Πάντως σίγουρα αν δεν βάλεις προσαυξημένο χ, είνα λάθος... Αποκλείεις τεράστιο ποσοστό ευθειών υποψήφιων για ευθείες διαχωρισμού... Title: Re: [Αναγνώριση Προτύπων] Εργασίες 2009 Post by: (Stalin)^2 on March 30, 2009, 06:35:55 am Μπορείς να εξηγήσεις λίγο πως βγαίνει η ευθεία? Στο 2D έχουμε μία εξίσωση της μορφής w1x1+w2x2 + w3= 0. Tί τιμή δίνεται στο w3? Η τιμή που δίνεται στο w3, δίνεται από τον αλγόριθμο Perceptron (αλλάζει σε κάθε βήμα όπως και οι άλλες 2 τιμές του w). Title: Re: [Αναγνώριση Προτύπων] Εργασίες 2009 Post by: [x:y:z] on March 30, 2009, 06:45:03 am Μπορείς να εξηγήσεις λίγο πως βγαίνει η ευθεία? Στο 2D έχουμε μία εξίσωση της μορφής w1x1+w2x2 + w3= 0. Tί τιμή δίνεται στο w3? Η τιμή που δίνεται στο w3, δίνεται από τον αλγόριθμο Perceptron (αλλάζει σε κάθε βήμα όπως και οι άλλες 2 τιμές του w). ναι οκ , τώρα όντως βγήκε νορμαλ η ευθεία. Παρ όλα αυτά η 100% επιτυχία στην εξέταση όλων των δεδομένων στο 1ο ερώτημα παρέμεινε, παρά την προσθήκη της offset συνιστώσας. Στα άλλα ερωτήματα τα νούμερα άλλαξαν. Τέσπα thanx , βλέπουμε και αύριο Title: Re: [Αναγνώριση Προτύπων] Εργασίες 2009 Post by: (Stalin)^2 on March 30, 2009, 06:49:02 am Μπορείς να εξηγήσεις λίγο πως βγαίνει η ευθεία? Στο 2D έχουμε μία εξίσωση της μορφής w1x1+w2x2 + w3= 0. Tί τιμή δίνεται στο w3? Η τιμή που δίνεται στο w3, δίνεται από τον αλγόριθμο Perceptron (αλλάζει σε κάθε βήμα όπως και οι άλλες 2 τιμές του w). ναι οκ , τώρα όντως βγήκε νορμαλ η ευθεία. Παρ όλα αυτά η 100% επιτυχία στην εξέταση όλων των δεδομένων στο 1ο ερώτημα παρέμεινε, παρά την προσθήκη της offset συνιστώσας. Στα άλλα ερωτήματα τα νούμερα άλλαξαν. Τέσπα thanx , βλέπουμε και αύριο τπτ. Δεν ξέρω γιατί συνεχίζει να βγαίνει μηδέν... Μπορεί να κάνω και λάθος.. καλημέρα! Title: Re: [Αναγνώριση Προτύπων] Εργασίες 2009 Post by: [x:y:z] on March 30, 2009, 07:15:04 am Λοιπόν για το 2D , δοκιμάζοντας πολύ μεγαλύτερα νούμερα για την αρχικοποίηση του w (αρχικά 1 , μετά -->100-->500-->1000-->10000-->100000) η διαφορά στο ποσοστό επιτυχίας είναι τεράστια. Από 28% έφτασε 80% και σίγουρα θα ανέβει κι άλλο με περισσότερες δοκιμές (όταν λέω δοκιμές εννοώ τον αριθμό των επαναλήψεων στον οποίο το έχω βάλει να σταματάει μιας και φαίνεται να μη συγκλίνει σε ένα διάνυσμα). Οπότε προφανώς , όπως είπες, το αποτέλεσμα μεταβάλλεται ανάλογα με την αρχικοποίηση του w. Αυτή τη στιγμή εξακολουθεί να μη μου φαίνεται λογικό . Αύριο ίσως μου φανεί. φφφφ άντε καλημέρα
Title: Re: [Αναγνώριση Προτύπων] Εργασίες 2009 Post by: (Stalin)^2 on March 30, 2009, 07:33:21 am Λοιπόν για το 2D , δοκιμάζοντας πολύ μεγαλύτερα νούμερα για την αρχικοποίηση του w (αρχικά 1 , μετά -->100-->500-->1000-->10000-->100000) η διαφορά στο ποσοστό επιτυχίας είναι τεράστια. Από 28% έφτασε 80% και σίγουρα θα ανέβει κι άλλο με περισσότερες δοκιμές (όταν λέω δοκιμές εννοώ τον αριθμό των επαναλήψεων στον οποίο το έχω βάλει να σταματάει μιας και φαίνεται να μη συγκλίνει σε ένα διάνυσμα). Οπότε προφανώς , όπως είπες, το αποτέλεσμα μεταβάλλεται ανάλογα με την αρχικοποίηση του w. Αυτή τη στιγμή εξακολουθεί να μη μου φαίνεται λογικό . Αύριο ίσως μου φανεί. φφφφ άντε καλημέρα Αύριο θα σου φανεί! Είναι βάρβαση αυτή η ώρα.. Πάντως κι εμένα το σφάλμα στο 2D συρρικνώθηκε από ~60% σε ~10% αλλάζοντας την αρχικοποίηση του w από μονάδες σε 100άρια.. Αυτά. Αύριο (σήμερα) πάλι.. Title: Re: [Αναγνώριση Προτύπων] Εργασίες 2009 Post by: MonteCristo on March 30, 2009, 12:50:45 pm Αυτό που ζητείται είναι το γ. Ναι αυτό υπολογίζω. o έλεγχος που γίνεται για το i δείγμα είναι κάπως έτσι if (data(i,31)==0 & result(1,i)>0) | (data(i,31)==1 & result(1,i)<0) correct=correct+1 φφφφφ δεν ξέρω , δεν απαντάει και ο διδακτορικός στο mail Νομίζω πως κι εγώ το είχα ξεκινήσει έτσι, αλλα το άφησα γιατί υπήρχε κάποιο λογικό λάθος (σε μένα)... Μήπως αν τα υπολογίσεις ξεχωριστά; Ρε παιδιά, λέτε ότι θα διορθωθεί το διάνυσμα των βαρών αν το αποτέλεσμα είναι στη μεν πρώτη περίπτωση (για επιθυμητό 0) 1 και στη δεύτερη (για επιθυμητό 1) 0... Το βάρος κατωφλίου πόσο το παίρνεται; Title: Re: [Αναγνώριση Προτύπων] Εργασίες 2009 Post by: [x:y:z] on March 31, 2009, 19:30:07 pm Aν πήγε κανείς μάθημα και ειπώθηκε τπτ σημαντικό για την εργασία ας κάνει το καλό παρακαλώ :Ρ
Title: Re: [Αναγνώριση Προτύπων] Εργασίες 2009 Post by: pierrekif on March 31, 2009, 19:32:41 pm Είπε ότι θα δοθεί παράταση στην εργασία νομίζω.
Title: Re: [Αναγνώριση Προτύπων] Εργασίες 2009 Post by: igna on March 31, 2009, 20:29:42 pm Μέχρι πότε?
Title: Re: [Αναγνώριση Προτύπων] Εργασίες 2009 Post by: [x:y:z] on March 31, 2009, 20:48:07 pm Μέχρι 7/4 , το βγαλε eTHMMY.
Για την υλοποίηση/σφάλματα κλπ είπε τπτ? Title: Re: [Αναγνώριση Προτύπων] Εργασίες 2009 Post by: (Stalin)^2 on March 31, 2009, 21:18:40 pm Γενικά μπορεί κάποιος να μας πει με τί ασχολήθηκε σήμερα (είχε ΓΣ και δεν ήμουν)..
Title: Re: [Αναγνώριση Προτύπων] Εργασίες 2009 Post by: [x:y:z] on April 20, 2009, 16:25:42 pm Χρόνια πολλά σε όλους
Τον Ho-Kashyap πώς θα τον εφαρμόσουμε για να διαχωρίσουμε 3 σύνολα και όχι 2 ? Title: Re: [Αναγνώριση Προτύπων] Εργασίες 2009 Post by: (Stalin)^2 on April 20, 2009, 16:39:14 pm Χρόνια πολλά σε όλους Τον Ho-Kashyap πώς θα τον εφαρμόσουμε για να διαχωρίσουμε 3 σύνολα και όχι 2 ? Αν θυμάμαι καλά, θα χωρίσεις πρώτα το Ω1 από το Ω2ένωσηΩ3 και μετά το Ω2 από το Ω3. Δηλαδή θα εφαρμόσεις αρχικά τον αλγόριθμο σε ολόκληρο το σύνολο των δειγμάτων, όπου θα προκύψουν δύο νέα σύνολα, ένα για το Ω1 και ένα για τα Ω2,Ω3(θα περιέχει δέιγματα δηλαδή που ανήκουν και στο πρότυπο Ω2 και στο Ω3). Μετά θα εφαρμόσεις τον αλγόριθμο σο 2ο σύνολο που προέκυψε πιο πάνω για τον διαχωρισμό των Ω2, Ω3. Σε γενικές γραμμές αυτό νομίζω πως κάνεις, αλλά δεν έχω ασχοληθεί ακόμη... Title: Re: [Αναγνώριση Προτύπων] Εργασίες 2009 Post by: road_runner on April 28, 2009, 12:14:23 pm στην δευτερη εργασία κανονικοποιήσατε πάλι τα δεδομένα;
Title: Re: [Αναγνώριση Προτύπων] Εργασίες 2009 Post by: kafjim on April 28, 2009, 13:13:19 pm στην δευτερη εργασία κανονικοποιήσατε πάλι τα δεδομένα; νομιζω ειχε πει σε ενα μαθημα οτι παλι κανονικοποιουμε τα παντα, οπως στην πρωτη εργασια, εξαλλου αν δεν κανεις κανονικοποιηση λογικα τα αποτελεσματα θα ειναι αρκετα χειροτερα Title: Re: [Αναγνώριση Προτύπων] Εργασίες 2009 Post by: KorkoLyk on April 28, 2009, 13:16:33 pm Ναι τα κανονικοποιούμε, το έχω ρωτήσει.
Title: Re: [Αναγνώριση Προτύπων] Εργασίες 2009 Post by: (Stalin)^2 on April 29, 2009, 22:46:12 pm Παιδιά να κάνω μια ερώτηση...
Στην 2η εργασία στο ερώτημα 4.Ζητάει υπολογισμό των πρωτευουσών συνιστωσών και μετασχηματισμό των δειγμάτων στον χώρο των συνιστωσών... Εγώ βρίσκω αρχικά 9 ιδιοδιανύσματα και 9 ιδιοτιμές... Ποιές είναι οι πρωτεύουσες συνιστώσες?? Αν έχει ιδέα κάποιος ας μας βοηθήσει γιατί ο χρόνος πιέζει... θενξ. :) Title: Re: [Αναγνώριση Προτύπων] Εργασίες 2009 Post by: MonteCristo on April 29, 2009, 22:51:52 pm Θεωρητικά όλες είναι οι πρωτεύουσες συνιστώσες... Αυτός όμως σου λέει να χρησιμοποιήσεις μόνο αυτήν με τη μεγαλύτερη ιδιοτιμή... Δλδ έχεις τα 9 διανύσματα, βλέπεις σε πιο αντιστοιχεί η μεγαλύτερη ιδιοτιμή (λογικά το τελευταίο αν το κάνεις με το ματλαμπ) και αυτή είναι η πρωτεύουσα συνιστώσα. Στη συνέχεια, με έναν απλό πολλαπλασιασμό του κάθε δείγματος με την πρωτεύουσα συνιστώσα, έχεις τον μετασχηματισμό στον χώρο της συνιστώσας...
Title: Re: [Αναγνώριση Προτύπων] Εργασίες 2009 Post by: (Stalin)^2 on April 29, 2009, 22:55:17 pm Σ' ευχαριστώ πολύ.
Επομένως μετά τον πολλαπλασιασμό κάθε δείγματος με το ιδιοδιάνυσμα που αντιστοιχεί στην μεγαλύτερη ιδιοτιμή θα έχουμε για κάθε δείγμα 1 συνιστώσα, σωστά; Δηλαδή, θα έχουμε και πάλι 127 δείγματα που όμως θα έχουν μία συνιστώσα το καθένα... Μαλακίες λέω? Title: Re: [Αναγνώριση Προτύπων] Εργασίες 2009 Post by: MonteCristo on April 29, 2009, 22:58:43 pm Έτσι ακριβώς. Και προφανώς στο επόμενο ερώτημα θα έχει 3 συνιστώσες.
Title: Re: [Αναγνώριση Προτύπων] Εργασίες 2009 Post by: (Stalin)^2 on April 29, 2009, 23:05:31 pm Έτσι ακριβώς. Και προφανώς στο επόμενο ερώτημα θα έχει 3 συνιστώσες. Θενξ και πάλι. Title: Re: [Αναγνώριση Προτύπων] Εργασίες 2009 Post by: (Stalin)^2 on April 29, 2009, 23:45:33 pm Και κάτι άλλο...
Η μέθοδοι Κmeans γενικά λαμβάνουν τα δείγματα X, π.χ. σαν πίνακες 9χ127 και όχι 127χ9, ε? Έχω ξεχάσει πως δούλευαν... Γενικά τί σφάλματα βγάζετε? Π.χ. στο 1ο ερώτημα; Στο 4ο? με max, min?? Title: Re: [Αναγνώριση Προτύπων] Εργασίες 2009 Post by: [x:y:z] on April 30, 2009, 03:59:37 am Η μέθοδοι Κmeans γενικά λαμβάνουν τα δείγματα X, π.χ. σαν πίνακες 9χ127 και όχι 127χ9, ε? Μπα απ όσο θυμάμαι όπως τα χουμε , 127x9 . Τουλάχιστον αυτός του matlab, τον άλλον όπως τον υλοποίησες. Τα σφάλματα όλα γύρω στο 20% 1ο ερώτημα : 18.1102% (το μικρότερο που παρατηρήθηκε - ανάλογα τα κέντρα) 6ο ερώτημα ο έτοιμος kmeans του matlab : 21.2598% (το μικρότερο) 3ο ερώτημα : 18.1102% 4ο ερώτημα: max: kmeans --> 22.8346% , Hokashyap --> 48.0315% min: kmeans --> 78.7402% , Hokashyap --> 38.5827% (εδώ δεν κατάφερα να βρω τί λάθος έχει γίνει) 5o ερώτημα: kmeans -->22.0472% hokashyap -->22.8346% Title: Re: [Αναγνώριση Προτύπων] Εργασίες 2009 Post by: (Stalin)^2 on April 30, 2009, 04:05:58 am Η μέθοδοι Κmeans γενικά λαμβάνουν τα δείγματα X, π.χ. σαν πίνακες 9χ127 και όχι 127χ9, ε? Μπα απ όσο θυμάμαι όπως τα χουμε , 127x9 . Τουλάχιστον αυτός του matlab, τον άλλον όπως τον υλοποίησες. Τα σφάλματα όλα γύρω στο 20% 1ο ερώτημα : 18.1102% (το μικρότερο που παρατηρήθηκε - ανάλογα τα κέντρα) 6ο ερώτημα ο έτοιμος kmeans του matlab : 21.2598% (το μικρότερο) 3ο ερώτημα : 18.1102% 4ο ερώτημα: max: kmeans --> 22.8346% , Hokashyap --> 48.0315% min: kmeans --> 78.7402% , Hokashyap --> 38.5827% (εδώ δεν κατάφερα να βρω τί λάθος έχει γίνει) 5o ερώτημα: kmeans -->22.0472% hokashyap -->22.8346% Ρε συ με τον Ho-Kashyap δεν βγάζω άκρη... Έχει κανείς τις σημείωσεις του Στρίντζη για αυτόν? Μία σελίδα είναι όπου τον περιγράφει συνοπτικά... Αν υπάρχει και υπάρχει και σκάννερ, θα ήμουν ευγνώμων... Title: Re: [Αναγνώριση Προτύπων] Εργασίες 2009 Post by: [x:y:z] on April 30, 2009, 05:04:04 am μοιάζει πολύ με τον Perceptron βασικά , από την άποψη ότι πρέπει παλι να βρεις τα διανύσματα βαρών , τα οποία και θα καθορίσουν την κλάση στην οποία κατατάσσεται κάθε δείγμα (ανάλογα με το αν ο πολλαπλασιασμός θα βγει θετικό ή αρνητικός). Από κει κ πέρα αλλάζει ο αρχικός πίνακας με τα δείγματα (θετικά της κλάσης 1 αρνητικά της κλάσης 2), βρίσκεις ψευδοαντίστροφο και αλλάζει η συνθήκη σύγκλισης (e(k)>0). Kαι η διορθωτική κίνηση μετά από κάθε έλεγχο γίνεται στο διάνυσμα b , ανάλογα με το πόσο αποκλίνει το γινόμενο Xw από το b.
Απλά διαχωρίζει 2 πρότυπα , οπότε πρέπει να γίνουν 3 διαχωρισμοί. Γίνεται και με 2 όπως είχες γράψει παραπάνω (διαχωρισμός 1 από ένωση 2-3 και μετά διαχωρισμός 2 από 3) αλλά έτσι παίζει καθοριστικό ρόλο το ποιο δείγμα θα διαχωρίσεις πρώτα από την ένωση των άλλων δύο. Ενώ με τρεις (πρώτα διαχωρισμός 1 από 2-3, μετά 2 από 1-3 , μετά 3 από 1-2, και στο τέλος έλεγχος για κάθε δείγμα αν διαχωρίστηκε σωστά και στους τρεις διαχωρισμούς) , το αποτέλεσμα είναι αντικειμενικότερο. Title: Re: [Αναγνώριση Προτύπων] Εργασίες 2009 Post by: road_runner on April 30, 2009, 12:24:35 pm Στο πρώτο kmeans τι κέντρα βάλατε και σας βγήκε τόσο μικρό σφάλμα γιατί εγώ δοκίμασα με κέντρα άσσους ή μηδενικά αλλά το σφάλμα δν άλλαξε. Επίσης ποια είναι η έτοιμη συνάρτηση που έχει το μάτλαμπ...λιγο χελπ πλιζ....
Title: Re: [Αναγνώριση Προτύπων] Εργασίες 2009 Post by: MonteCristo on April 30, 2009, 12:30:51 pm Γενικά αν για κέντρα πάρεις κάποια από τα δείγματα θα σου βγει σε κάποια φάση.. Αν και ποτέ δεν έπεσε κάτω από 20% σε μένα...
Η συνάρτηση τώρα είναι η kmeans... Για περισσότερες πληροφορίες υπάρχει το help του ματλαμπ Title: Re: [Αναγνώριση Προτύπων] Εργασίες 2009 Post by: road_runner on May 12, 2009, 12:46:28 pm Έχει κοιτάξει κανείς την καινούρια εργασία; Έχω κάτι αποριούλες στην αρχή...
Title: Re: [Αναγνώριση Προτύπων] Εργασίες 2009 Post by: igna on May 14, 2009, 22:06:22 pm Κι εγώ την διαβάζω και έχω κάποιες απορίες...
Τι εννοεί "θεωρητικό βέλτιστο αλγόριθμο"? Title: Re: [Αναγνώριση Προτύπων] Εργασίες 2009 Post by: igna on June 01, 2009, 21:26:45 pm Μια απορία για την 4 εργασία...
Στο πρώτο ερώτημα, ο νευρώνας εξόδου πρέπει να έχει τιμή 0 αν το δείγμα είναι υγιές και 1 όταν είναι άρρωστο. Οι τιμές στην έξοδο μου βγαίνουν με απόκλιση. Πως υπολογίζουμε το ποσοστό των δειγμάτων που έχουν καταταχθεί σωστά? Πχ. ένα δείγμα με έξοδο 0,05 θεωρείται υγιές...αλλά τι γίνεται με ένα δείγμα με τιμή 0,4 ή 0,5 ??? |