THMMY.gr

 Ksekinhse kaneis na asxoleite me thn ergasia? H hmeromhnia paradoshs poia einai ?

Καλα το wine_train.dat που λεει στην πρωτη ασκηση που ειναι;Απο τα html που εχει στο υλικο μαθηματος θα βγαλουμε ακρη;

 To winetrain.dat einai o pinakas ton dedomenon ekpaideyshs. Gia ta html den xero den ta exo dei katholou.
Gia to trito erothma ennoeis an tha mas bohthsoyn profanos e ?

Όταν λες html στο υλικό μαθήματος ποια εννοείς, γιατί τέτοιο πράμα δεν έχει...
Μήπως εννοείς γενικά τις σημειώσεις του Πετρίδη;

Εμένα πάντως με βοήθησε πάρα πολύ το User Guide του Matlab για το Neural Network Toolbox.
Και μάλιστα υπάρχει και σε pdf.
http://www-ccs.ucsd.edu/matlab/pdf_doc/nnet/nnet.pdf (http://www-ccs.ucsd.edu/matlab/pdf_doc/nnet/nnet.pdf)

Καμιά ιδέα για να ξεκινήσω με χρονοσειρές;
Ασχολήθηκε κανείς με το 2ο;;

  Στο υλικο μαθηματος στο link που λεει 'Δεδομενα εκπαιδευσης' το κατεβαζα και το εσωζε ως html.Τελικα το μετονομασα με καταληξη dat και ολα καλα.Μιας και εκανες το 1ο οι αλγοριθμοι (back propagation κτλ) ειναι ετοιμοι στο matlab ως καποια συναρτηση που δεχεται ορισματα;Γενικα θυμαμαι οι εργαστηριακες ασκησεις ειχανε μικρο σχετικα κωδικα,το καθε αρχειο δλδ.Πχ  κομματι κωδικα σε ενα αρχειο εγραφε [NWh,NBh,NWo,NBo,TE] = trainbpm(Wh,Bh,Fh,Wo,Bo,Fo,P,T,TP);. trainbpm ειναι συναρτηση back propagation momentum δηλ;
   Γενικα δηλ αν εχουμε τους αλγοριθμους με αυτο τον τροπο απλα μπαινουμε σε μια διαδικασια αλλαγης παραμετρων και δοκιμων μεχρι να παρουμε το επιθυμητο αποτελεσμα;Μη βαρατε αν ρωταω μλκιες Πετριδη δεν παρακολουθησα και το εργαστηριο ητανε ξυστηρι σκετο...Τεσπα. Αν ειναι ετσι(που μαλλον ειναι) η ασκηση εργαστηριακη με τα Iris ισως βοηθαει αρκετα.Αυτα για αρχη απο μενα αυριο θα λιωσω στην εργασια...

Λοιπον πετυχα σημερα τον κ.Συρρη και τον ρωτησα!

Το τελευταιο εργαστηριο ηταν προγραμματισμενο για 24/1 !

Κανονικα οι εργασιες παραδιδονται μια εβδομαδα μετα...

λογω των εξελιξεων ομως τωρα (καταληψεις κλπ) περιμενουμε ανακοινωση...
αλλα κατι τετοιο να υπολογιζετε!

Δηλαδή αρχές Φεβρουαρίου παραδίδουμε??
Αφού είχε πει ότι θα εξεταστούμε προς το τέλος της εξεταστικής.

και γω αυτο θυμαμαι!!

Σου λεω τι μου πε ο Συρρης.

Αν μιλησω κ με τον Πετριδη θα το μεταφερω!

Λοιπον μιλησα σημερα με τον κ.Πετριδη και μου ειπε οτι συνηθως γινεται προς το τελος της εξεταστικης.

Τωρα με τις καταληψεις και τα λοιπα ακομα δεν γνωριζουμε γιατι δεν γνωριζουμε ποτε θα παει και η εξεταστικη!

Πες έτσι! :)

Δεν πρεπει να επαναπαυομαστε ομως !!! :P :P

Ελα Λαμπρο μη χαλαρωνεις ! :P

Πέρσι είχε κάπου στη μέση και είχαμε κάνει μανούρα για να πάει στο τέλος, αλλά τελικά φάνηκε συζητήσιμος. :)

Σε μία συζήτηση μαζί του στο τελευταίο εργαστήριο, μας είπε προς το τέλος της εξεταστικής..

Όταν του είπα ότι μάλλον θα μας βόλευε όλους την πρώτη Δευτέρα μετά το τέλος της εξεταστικής (το τέλος ήταν Παρασκευή), μου λέει..

Μήπως το πρώτο Σάββατο μετά το τέλος, γιατί θα αρχίσουν καπάκι μαθήματα για το άλλο εξάμηνο, οπότε να ξεμπερδεύουμε..

Όλα αυτά εντελώς άτυπα, και προσοχή, μιλούσαμε μόνο για την εξέταση..
Η παράδοση των εργασιών είναι άλλο θέμα..

Πρέπει να αρχίσω να αγοράζω περισσότερο nescafe.. αναμένεται αύξηση στην κατανάλωση! :P

Στο 2ο θέμα με τον άνεμο, οι πρώτες τιμές στο αρχείο Wind είναι οι πιο πρόσφατες ή οι πιο παλιές;
Εσείς τι λέτε;

Εμείς θεωρήσαμε ότι οι οι πρώτες είναι οι πιο παλιές και οι τελευταίες οι πιο πρόσφατες. Είναι σημαντικό, διότι αλλιώς οι προγνώσεις που ζητάει θα είναι πολύ διαφορετικές!!! Επίσης, με βάση πόσες παρελθοντικές τιμές θα γίνεται η πρόβλεψη; Θα διαλέξουμε κάποια τιμή, θα το βάλουμε όρισμα, θα μας γίνει επιφοίτηση; Εμείς, προς το παρόν το βάλαμε όρισμα...

Εμείς θεωρήσαμε ότι οι οι πρώτες είναι οι πιο παλιές και οι τελευταίες οι πιο πρόσφατες. Είναι σημαντικό, διότι αλλιώς οι προγνώσεις που ζητάει θα είναι πολύ διαφορετικές!!! Επίσης, με βάση πόσες παρελθοντικές τιμές θα γίνεται η πρόβλεψη; Θα διαλέξουμε κάποια τιμή, θα το βάλουμε όρισμα, θα μας γίνει επιφοίτηση; Εμείς, προς το παρόν το βάλαμε όρισμα...

Και γω τα ίδια βέβαια... Έστειλα mail στον Πετρίδη και περιμένω απάντηση, αλλά με τις καταλήψεις ίσως αργήσει να απαντήσει.
Πάντως, σε αυτή την άσκηση είναι πολύ φλου τα πράγματα. Πάντως, μια random() δίνει καλύτερα αποτελέσματα από αυτά που μου βγάζει το νευρωνικό δίκτυο!

Καλησπέρα!
Εγώ θέλω να ρωτήσω για το πρώτο θέμα. Αλλάζοντας μόνο παραμέτρους δεν καταφέραμε κάτι καλό...  :(  Το μόνο που πετύχαμε ήταν με το adaptive bp με 3 στρώματα να πάμε το σφάλμα σε κάτι λιγότερο από 100 :P Εκανε κάποιος κάτι άλλο και είχε καλύτερα αποτελέσματα?

Εγω προς το παρον διαβασω το tutorial του Matlab...
εχει ΑΡΚΕΤΟΥΣ αλγοριθμος που ισως φερνουν πολυ καλυτερα αποτελεσματα απο αυτους που χρησιμοποιησαμε στο εργαστηριο (BP, momentum , adaptive learning rate).

Ριξτε μια ματια και δοκιμαστε...δεν αλλαζουν πολλα συνηθως! Μονο ο τιτλος της εντολης trainXX !

Στην άσκηση με τους ανέμους...
Παίζει ρόλο η περιγραφή της άσκησης που λέει ότι οι σταθμοί είναι σε ευθεία, δίνει αποστάσεις κλπ ή απλά μας αφήνουν αδιάφορους αυτά τα στοιχεία?

Επίσης το άλλο το δεδομένο που λέει ότι μας ενδιαφέρουν κυρίως οι Β ΒΔ άνεμοι τι το κάνουμε?

Εσείς πόσες παρελθοντικές τιμές χρησιμοποιείτε για το νευρωνικό;;;
t-1, t-2 ή πιο πολλές;

Σήμερα που κάναμε κάποιες δοκιμές, δε καταφέραμε να πετύχουμε σφάλμα μικρότερο του 0.1 (MSE).
Η άλλη η άσκηση για τους μπεκρήδες τι σας βγάζει;

Εμείς κατατάξαμε τα δείγματα ελέγχου κάπως έτσι:
1 1 1 1 1 1 1 1 1 1 1 1 2 2 2 2 2 2 2 2 2 2 2 3 3 3 3 3 3 3 3 3 3 3 3 3

με κάποια δείγματα να παλινδρομούν μεταξύ κάποιων προτύπων. (πχ. το δείγμα 15.)

Καλή συνέχεια.

Εμας μας βγαζει: 1 1 1 1 1 1 1 1 1 1 1 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 3 3 3 3 3 3 3 3 3
δλδ 11 * 1, 15* 2 και 9*3, αλλά κι εμάς μερικές φορές 'παίζουν'. Τι δίκτυο χρησιμοποιήσατε?Σαν αυτο του εργαστηρίου με άλλες παραμέτρους ή άλλο? Εμας δεν εβγαινε από τα έτοιμα του εργαστηρίου και κάναμε ένα έτσι όπως το λέει στο help του matlab.

Καλημέρα  ^coffepot^ ^coffepot^ ^coffepot^

Εμένα το παράδειγμα ήταν ποιοτικό. Δε ξέρω πόσους άσσους, πόσα δύάρια και τριάρια βγάζει, αλλά τα βγάζει με αυτό το πρότυπο, στη σειρά δλδ.

Η αρχιτεκτονική μας είναι κλασσική feedforward backpropagation. Εξάλλου αυτό είναι και το ζητούμενο, έτσι μας είχε πεί στα εργαστήρια, ότι δλδ θα ασχοληθούμε με feedforward backpropagation δίκτυα. Φυσιικά εσύ μπορείς να του προτείνεις και κάτι άλλο...

Σχετικά με τον τρόπο εκπαίδευσης, χρησιμοποιήσαμε τα πάντα από backpropagation.
Δε δίνουν βέβαια όλοι οι αλγόριθμοι τα ίδια αποτελέσματα. Πάντως, όλοι φαίνεται ότι ακολουθούν το ίδιο πρότυπο:
1 1 1 1 1 1 1 1 1 1 2 2 2 2 2 2 2 2 2 2 2 2 2 3 3 3 3 3 3 3 3 3.

Τώρα, σχετικά με τον άνεμο.
Χρησιμοποιούμε μόνο 2 παρελθοντικές τιμές για πρόβλεψη των 0,2,5,8 μεταγενέστερων στιγμών.
Λέω να το αλλάξω σε 3 και 4 τιμές να δω αν αλλάξει η ακρίβεια των αποτελεσμάτων.

Κανείς άλλος για τον αέρα;
Σε μπουνάτσα πέσαμε ορεέ;
 ^eatpaper^

Λοιπόν, επειδή μόλις τέλειωσα με το διάβασμα του tutorial για το toolbox, μπορεί να μου πει κάποιος, όσον αφορά στο πρώτο θέμα, θα χρησιμοποιήσουμε τις συναρτήσεις που δίνει αυτός και με τη μορφή που τις δίνει μόνο? Στο tutorial βρήκα π.χ. την εντολή newff για τη δημιουργία του δικτύου όπου βάζεις σε ένα από τα  ορίσματα τον τύπο του αλγορίθμου εκπαίδευσης,
Ακόμη, βρήκα και πολλούς άλλους αλγορίθμους, όπως είπε και ο Jason..

 Επίσης, αν χρειάζεται να χωρίσουμε τα δεδομένα σε training set, validation set και test set, ο διαχωρισμός θα γίνει αυθαίρετα?

 Και τέλος, έκανε κανένας preprocessing στα δεδομένα??
 

 Λοιπον Lars εγω εχω την εντυπωση οτι εχουμε την πληρη ελευθερια να χρησιμοποιησουμε οποια συναρτηση θελουμε. Τα παραδειγματα των εργαστηριων ειναι γραμμενα σε παλαιοτερο matlab και για αυτο η διαφορετικη γραφη τους. πχ. στην εκδοση 6.5 που εχω εγω υπαρχει σαφης οδηγια οτι ενας αλγοριθμος εκπαιδευσης ειναι καλυτερος σε σχεση με τους αλλους σε pattern recognition(που ειναι το πρωτο θεμα). Τα δεδομενα ειναι ηδη χωρισμενα σε training set και test set αρα δεν χρειαζεται να κανουμε και πολλα.
Οσο αναφορα το τελευταιο εμεις ειχαμε αποφασισει να κανουμε prepocessing οταν την δουλευαμε(βεβαια μετα την αφησαμε...)

Ενας εμπειρικος κανονας λεει 70% training - 30% test!
Κατα τ αλλα με καλυψε ο Τολος.

Ευχαριστώ παίδες!

@Tolos: Όταν αναφερόμουν σε training,validation και test sets, εννοούσα για τα δεδομένα που βρίσκονται μόνο στο wine_train.dat, αφού στο wine_test.dat δεν έχουμε τα targets για έλεγχο.

Αααααα,τωρα το πιασα. Ετσι οπως ειναι τα δεδομενα μας απλα εχουμε ενα training set και τιποτε αλλο. Ουσιαστικα το wine_test.dat ειναι test set αλλα μην εχοντας την τελευταια στηλη δεν μπορουμε να το χρησιμοποιησουμε ετσι.

Ναι, ακριβώς.

Δοκίμασα κάποιους αλγορίθμους. Στο σετ εκπαίδευσης δεν έχουμε πρόβλημα. Στο τεστ ελέγχου(γύρω στις 40 μετρήσεις), σε μία ή δύο μετρήσεις βγάζει λάθος αποτέλεσμα! Στη χειρότερη, θα το θεωρήσουμε στατιστικό σφάλμα( :)) αλλά υπάρχει κανένας άλλος με παρόμοιο πρόβλημα??

Φιλε lars δε νομιζω ο Πετριδης να εχει τοσο μεγαλες απαιτησεις!To σωστο pattern πρεπει να ειναι 11 ασσοι 15 δυαρια και 9 τριαρια.Εμενα με παραξενευει που τις πιο πολλες φορες στο δικτυο μου το σφαλμα πεφτει αμεσως αρκετα χαμηλα ενω αλλες(σχετικα λιγες) δεν πεφτει οσο πρεπει.Οποτε για να εχω μικρο σφαλμα τρεχω το δικτυο μερικες φορες(λολ) και  οταν ειναι μικρο το σφαλμα κανω sim και τα αποτελεσματα ειναι αριστα(το πολυ να κανει ενα δυαρι  ασσο).Εχετε καποια προταση-λυση ισως γιαυτο;Δηλαδη πως θα εξασφαλισω μια σταθερη οσο γινεται συμπεριφορα για το error goal.
 Το δικτυο που εκανα ειναι με την newff,3 layers (1o tansig,7 νευρωνες 2o και 3ο purelin(7 και 1 νευρωνας αντιστοιχα) σαν συναρτησεις μεταφορας )  με αλγοριθμο τον default,τον trainlm που ειναι και ο πιο γρηγορος.
Αυτα με τα οποια προχειρα μπορω να πω οτι μπορει να παιξει κανεις ειναι ο αριθμος των layers,των νευρωνων,των συναρτησεων μεταφορας και των αλγοριθμων.Για μοιραστε εμπειρια παρακαλω οι πιο διαβασμενοι!

Φυσιολογικο ειναι αυτο που συμβαινει και καλα νομιζω το κανεις...
Εφοσον η εκπαιδευση του νευρωνικου ξεκιναει καθε φορα απο ενα random σημειο πανω στην καμπυλη που θες να ελαχιστοποιησεις λογικο ειναι να εχεις διαφορετικα αποτελεσματα...

Οποτε μολις πιασεις το καλο ... Save !! ;) :P

Ψαρεουμε weight matrices ρε;λολ  ;).Btw ευχαριστω Ιασονα

Τελικά χρειάζεται να χωρίσουμε τα δεδομένα του training σε set test set,validation set,trainig set?

Δεν το λεει πουθενα αλλα για να καταλαβεις εσυ ποσο καλο ειναι το δικτυο σου (που εκπαιδευσες με καποια δεδομενα) ΝΑΙ χρειαζεται.

1) Όσον αφορά στο διαχωρισμό κ α ι σε validation set, διάβασα ότι χρησιμοποιείται για early stopping, σωστά? Δε ξέρω αν χρειάζεται σίγουρα σε αυτή την περίπτωση, εννοώ δεν είμαι σίγουρος..

2) Γενικά, εμείς χωρίσαμε τις 3 κατηγορίες των κρασιών σε 001,010,001 για την πρώτη, δεύτερη και τρίτη, όπως είχε στο παράδειγμα του εργαστηρίου με το IRIS. Έχουμε χρησιμοποιήσει για εκπαίδευση resilient backpropagation, γιατί έχει τρελλή διαφορά από τους άλλους(ελαχιστοποιεί το σφάλμα έως 10^-8 μέσα σε ελάχιστες εποχές).
Στο test set βγάζει ένα με δύο αποτελέσματα λάθος αλλά εντελώς λάθος!
Δηλαδή αντί για 001 βγάζει 010, ούτε δεκαδικό πιο κάτω(π.χ. 0 0.98 0) και δε μπορώ να καταλάβω που είναι το λάθος!!

 Τι μεγεθος εχει το δικτυο? Υπαρχει η εξης περιπτωση. Να υπερεκπαιδευεται για τα συγκεκριμενα δεδομενα εκπαιδευσης και να εμφανιζει σημαντικα λαθη για δεδομενα που του παρουσιαζονται για πρωτη φορα. Εγω δεν καταλαβα πως εχετε συμπαιρανει στο ποια ειναι πανω κατω τα σωστα αποτελεσματα του test.dat

2 layers με 15 νευρώνες έχουμε.. Χωρίζουμε μετά το train.dat και έχουμε κάνει διάφορους συνδυασμούς για training και test set αλλά παρόμοια αποτελέσματα βγάζουμε.
Αν είναι όντως πρόβλημα γενίκευσης, όπως λες tolos, τότε τι κάνουμε??
Early stopping χλωμό να πετύχει, γιατί συγκλίνει πολύ γρήγορα ο αλγόριθμος.

Αν ειναι προβλημα γενικευσης τοτε απλα μικραινεις το μεγεθος του δικτυου σου.

όταν χωρίζουμε τα δειγματα της εκπαίδευσης σε test set, validation set,trainig set για την εκπαίδευση χρησιμοποιούμε όλα τα δείγματα ή μόνο του training set ?

δηλαδή έστω ότι έχω 143 δείγματα για εκπαίδευση και παίρνω τα 45 εξ'αυτών  για test set και 20 για validation set,την εκπαίδευση θα την κάνω με τα υπόλοιπα?

Στο test θα χρησιμοποιήσεις μόνο τα υπόλοιπα δείγματα.
Είναι λάθος να χρησιμοποιήσεις για test δείγματα τα οποία τα έδωσες για εκπαίδευση...

Εσύ θες να δεις πως θα αντίδρασει το δίκτυο σε νέα δεδομένα.
Το δίκτυο παρουσιάζει φαινόμενο μνήμης σε δείγματα τα οποία τα έχεις δώσει ήδη για εκπαίδευση.

Ένας απλός εμπειρικός κανόνας είναι να πάρεις 80% των δεδομένων για train και το υπόλοιπο 20 % για test.

Δοκίμασε και δες...

 :)

Για οσους ενδιαφερονται βαλανε τις ασκησεις του εργαστηριου σε Matlab 7 (με δικτυο newff back propagation) στο ethmmy.

Thanx!

Παιδια μετα τα νεοτερα οπως καταλαβατε πρεπει να τα κανουμε ολα με traingd ή gda ή gdm.

Εκανε κανεις τιποτα? Πολεμαω τα κρασια (κανοντας pre- και post- processing) αλλα δεν μου βγαινουν καλα στα test data!
Δοκιμαζω και με ενα νευρωνα στην εξοδο (ωστα αυτη να ειναι Purelin και να πηγαινει ή 1 ή 2 ή 3) αλλα και με 3 (001, 010, 100) αλλα τιποτα!

Πετυχε κανεις καμμια καλη αρχιτεκτονικη ή ολοι εχουμε προβλημα? Γιατι αν ειναι το πρωτο μαλλον κανω λαθος καπου.

Ακυρο. Το βρηκα τελικα...εκανα προγραμματισικη μαλακια γι αυτο!

Για το 1ο Θεμα:
 Παλικαρια ο Συρρης ζητησε να κανονικοποιησουμε τα δεδομενα δηλ ειναι αυτο στο matlab που λεει για preprocessing και postprocessing;Επισης θελει τοσες εξοδους στο layer εξοδου οσες και οι κλασεις των κρασιων.Ενταξει αυτο το εκανα.
 Εκανα επισης preprocessing και postprocessing και τα αποτελεσματα ειναι θλιβερα.Εχει κανεις κατι να προτεινει;
Αν δεν κανω αυτο τοτε τα αποτελεσματα ειναι καλα μονο με αλγοριθμο εκμαθησης trainlm.Τα traingd,trainga,traingdm ειναι για
 τα μπαζα!
Επισης δοκιμασε κανεις να χωρισει το training set (winetrain.dat) σε μικροτερα συνολα και για το καθε ενα να τεσταρει το δικτυο του;
 ......Δωστε τα φωτα σας οι πιο φωτισμενοι :P

Λοιπον για τα νευρωνια εξοδου: Βαζεις οσα θες. Τον ρωτησα. Απλα αυτος προτεινει 3. Εμεις με τον λμ το καναμε και με 1.
αν βαλεις 3 τοτε να περιμενεις 001 , 100 ή 010 αν βαλεις 1 περιμενεις 1,2,ή3.

Για το preprocessing: Νομιζω σε εμας εφερε βελτιωση. Τσεκαρε προσεκτικα τον κωδικα σου. Εκπαιδευεται το δικτυο? Τι σφαλμα πιανεις για παραδειγμα στις 1000 εποχες και με τι αρχιτεκτονικη ? Βαλε την gda για αρχη για να συγκρινουμε.

Οσο για τα αλλα σετ εκπαιδευσης εγω δεν το εκανα αλλα ισως το κανει ενας συναδελφος της ομαδας.

 Εγω παντως ρωτησα τον Συρρη στο εργαστηριο μετα τις καταληψεις για τις εξοδους και ειπε να ειναι 3 στο στυλ 0 0 1 κτλ γιατι το ειχα κανει και εγω με μια εξοδο και στυλ 1,2,3.Τεσπα καλου κακου θα τα κανω και με τους 2 τροπους δεν ειναι κατι φοβερο.
  Λοιπον κανω χρηση ενος δικτυου 3 Layer με (2hidden 1 layer εξοδου με 7,7,3 νευρωνες η 5,7,3 και συναρτησεις ενεργοποιησης tansig,tansig,purelin αντιστοιχα).Με τον trainlm το mse παει στο 1e-15 (10^(-15) σε λιγα epochs.Με τις αλλες train εντολες πιανει mse της πλακας 1e-2(10^(-2)).Αυτα ολα χωρις preprocessing.Αν κανω preprocessing παρολο που με trainlm το mse γινεται παλι πολυ μικρο σε λιγα epoch εντουτοις τα αποτελεσματα αν βαλω ως εισοδο τα τεστ δεδομενα ειναι οτι ναναι.Με τις αλλες train ουτε να το συζηταμε.
 Ο κωδικας με κανονικοποιηση(το πιο κρισιμο κομματι του ) :

net=newff(minmax(Input),[Nh1,Nh2,No],{Fh1,Fh2,Fo},Tf,Lf,Pf);

net.trainParam.show=10;       
net.trainParam.lr=0.1;         
net.trainParam.lr_inc=1.01;     
net.trainParam.lr_dec=0.9;     
net.trainParam.epochs=2000;   
net.trainParam.goal=1e-15;     

Ακολουθει ο κωδικας κανονικοποιησης:

[Inputn,minInput,maxInput,Targetn,minTarget,maxTarget]=premnmx(Input,Target);
net_tr=train(net,Inputn,Targetn);
Outputn=sim(net_tr,Inputn);
Output=postmnmx(Outputn,minTarget,maxTarget);
Testn = tramnmx(Test,minInput,maxInput);
Testn_result = sim(net,Testn);
Test_result = postmnmx(Testn_result,minTarget,maxTarget);

Και χωρις κανονικοποιηση(παραλειπω παλι τα load κτλ που ειναι στην αρχη):

net=newff(minmax(Input),[Nh1,Nh2,No],{Fh1,Fh2,Fo},Tf,Lf,Pf);

net.trainParam.show=10;       
net.trainParam.lr=0.1;         
net.trainParam.lr_inc=1.01;     
net.trainParam.lr_dec=0.9;     
net.trainParam.epochs=1000;     
net.trainParam.goal=1e-10;       

net_tr=train(net,Input,Target);
Output=sim(net_tr,Input);       
Test=sim(net_tr,Test);

Μερικες διευκρινισεις για τις μεταβλητες:

Tf μεταβλητη για την training function
Lf μεταβλητη για την learning function
Pf μεταβλητη για την performance function

Input αντιστοιχει στο winetrain.dat
Output αντιστοιχει στo dat εξοδου η (0 0 1 0 1 0 κτλ style εφοσον εχω 3 εξοδους αλλιως θα ητανε πινακας γραμμη 1 1 1 ... 2 2 2 .. 3 3 κτλ )
Test αντιστοιχει στο winetest.dat
Oσες μεταβλητες εχουνε το γραμμα n στο τελος ειναι κανονικοποιημενες

Αυτα τα λιγα...

Εμείς κάναμε κανονικοποίηση των δεδομένων μόνο με χρήση της συνάρτησης normalization που έχει ανέβει στο eTHMMY και κανονικοποιεί μόνο τα δεδομένα εισόδου στα [0,1] ή [-1,1] (ανάλογα με τη συνάρτηση που χρησιμοποιείς στο hidden layer) και τα αποτελέσματα είναι αρκετά καλά. Για δοκίμασε και με αυτή μήπως βγάλεις άκρη..

Εγώ έχω απορία στο δεύτερο θέμα: Τι σφάλμα περίπου πρέπει να βάλουμε (βγαίνει αρκετά μεγάλο, αν και από τη γρ.παράσταση γίνεται αρκετά καλά η προσέγγιση της χρονοσειράς) και έχει κανένας ιδέα πόσες περίπου παρελθοντικές τιμές να χρησιμοποιήσουμε? Εμείς προς το παρόν χρησιμοποιούμε τις x(t-1),x(t-2)..

Το target vector δεν το κανονικοποιουμε και μεις. Απλα το φερνουμε στην μορφη 001 ...κλπ οποτε ειναι καλο.
Οποτε αν το βγαλεις δεν χρειαζεται και η postnmx.

και ΕΚΑΝΕΣ ΤΟ ΙΔΙΟ ΛΑΘΟΣ ΜΕ ΜΕΝΑ !!!!
Εκπαιδευεις το δικτυο στην μεταβλητη net_tr και κανεις simulate με το ανεπιδεκτο μαθησεως net !!! Γι αυτο στα test data παει χαλια!

Δες το:   Testn_result = sim(net,Testn);

Επισης τον lm ξεχνα τον. Εγω παντως και με τον gda επιασα καλο σφαλμα (10^-5) γρηγορα. Αλλα παρατηρησα οτι με τις logsig παει καλυτερα παιξε και μ αυτες!

Η δευτερη ειναι οντως πιο δυσκολη. Εμεις δοκιμασαμε πολλες παρελθοντικες...αλλα με 2,3 τα πηγαινε καλυτερα.

Λολ!Τι να πω φιλε Ιασονα μπραβο μας!Νομιζω το παθαμε γιατι ειχαμε γνωμονα το παραδειγμα του toolbox! ;) Σε ευχαριστω!

Αυτο δεν το καταλαβα. Εξηγει καποιος?

 Tolos δες το ποστ μου με τον κωδικα εκει που λεει "Ακολουθει ο κωδικας κανονικοποιησης:" λιγο πιο κατω τη σειρα Testn_result = sim(net,Testn); .Οπου net πρεπει να μπει net_tr διοτι το εκπαιδευμενο δικτυο αν προσεξεις τον προηγουμενο κωδικα εχει αποθηκευτει στη μεταβλητη net_tr.Στη μεταβλητη net αποθηκευται αρχικα το ανεκπαιδευτο δικτυο.

Θελω να ρωτησω κατι αλλο.Πχ βαζω μεγιστο αριθμο εποχων 2000 και mse (error goal) 1e-10 δηλ 10^(-10) και βαζω traingda,traingdm κτλ σταματαει η εκπαιδευση πριν τελειωσουν οι εποχες ενω δεν εχει φτασει το error goal.Μαλιστα σταματαει σε ενα συγκεκριμενο απο οσο παρατηρησα σημειο λιγο κατο απο το 10^(-6)!
 Εχει κανεις καποια ιδεα;Μηπως πρεπει να πειραξω καποια παραμετρο αλλη στις traingda,traingdm:

Αφηστε το βρηκα!Μονος μου ρωταω μονος απανταω για το traingda υπαρχουν 5 συνθηκες που τερματιζει το training δειτε εδω κατω κατω: http://www.mathworks.com/access/helpdesk/help/toolbox/nnet/index.html?/access/helpdesk/help/toolbox/nnet/traingda.htm

μαλλον φτανει ελαχιστη κλιση. δοκιμασε να την ορισεις πιο μικρη.
(minimum gradient).

 Το ειχα βρει πιο πριν αυτο που λες οταν εκανα το ποστ μου thx anyway Ιασονα!Τωρα με traingda,traingdx το σφαλμα πεφτει μεχρι 10^(-15).Με traingdm δεν παει καλα μολις παει στο 10^(-4)Το pattern που μου βγαζει ειναι 1η κλαση 11 κρασια,2η 16,3η 8 κρασια.Πριν με trainlm μου εβγαζε 11,15 και 9 αντιστοιχα.Αν εχετε να σχολιασετε οτιδηποτε καντε το! :P

Αν κάποιος μπορεί να βοηθήσει σε μια πολύ βασική απορία, γιατί δεν βγάλαμε άκρη στο εργαστήριο: Από το tutorial του MATLAB (εκεί που επεξηγείται η συνάρτηση train) βγαίνει το συμπέρασμα ότι σημαντικά για την εκπαίδευση είναι τα training και validation set. Αυτό, διότι με το training set γίνεται η εκπαίδευση και μετά από κάθε epoch ελέγχεται με το validation set η περίπτωση overfitting ώστε να ενεργοποιηθεί το early stoping. Αντίθετα, το test set είναι κατά βάση περιττό. Απλά παρέχει κάποια αποτελέσματα του εκπαιδευμένου δικτύου για ένα διαφορετικό σετ από αυτά που χρησιμοποιήθηκαν στην εκπαίδευση (training και validation). Δηλαδή μπορεί και να παραλειφθεί, ειδικά στην περίπτωση των κρασιών, όπου έχουμε και το αρχείο wine_test.dat, με βαση το οποίο μπορούμε να επαληθεύσουμε τα αποτελέσματά μας, από τη στιγμή που ξέρουμε τι βγαίνει (11 1ης, 15 2ης, 9 3ης). Συμφωνεί κανείς με αυτά; Και αν όχι που κάνω λάθος; Ευαχαριστώ!

Δεν πολυκαταλαβα γιατι αυτο με το validation δεν το εχω διαβασει. Αλλα δεν νομιζω οτι χρειαζεται.
Η διαδικασια που ακολουθουμε ειναι:

train με ενα σετ δεδομενων
test με τα αλλα.

Αν εχει γινει overfitting θα φανει στο training (πολυ γρηγορη συγκλιση του αλγοριθμο ή παρα πολυ μικρο σφαλμα) και θα φανει στο testing (κακα αποτελεσματα). Οποτε validation κατα την εκπαιδευση για να εχεις early stop ισως και να μην χρειαζεται οπως και εσυ λες.

Να θυμισω οτι στα κρασια ΔΕΝ ξερουμε τα σωστα αποτλεσματα. ΟΚ εμεις τα βρηκαμε και στο ιντερνετ και ειναι οντως αυτα που λεμε αλλα δεν μπορεις να θεωρησεις οτι τα ξερεις. Απλα αν δεις ενα καλο classification (και οχι να ειναι αμφιβολλα) τοτε το δεχεσαι.

μμμ...ναι, η αλήθεια είναι ότι και αυτός δεν ανέφερε τίποτα στο εργαστήριο για Validation set, οπότε μάλλον θέλει να το κάνουμε όπως λες. Οπότε, εκπαδεύουμε το δίκτυο με κάποια δεδομένα και τα υπόλοιπα (test set) τα χρησιμοποιούμαι σε simulation για να δούμε τι ποσοστό επιτυχίας βγάζει.

ναι.
και απ οτι ειπε αυτος για να μαστε πιο σιγουροι στην αρχιτεκτονικη του δικτυου παιζουμε και με τα training και test sets λιγο...να δουμε οτι αν εκπαιδεύεται για άλλα δεδομένα βγάζει παλι σωστα αποτελεσματα.
βασικα αυτο ειναι βαρετο τωρα αλλα τσπ...
εμεις δεν το καναμε ακομα.

Μπορεί να είναι χαζή η ερώτηση αλλά που κολλάνε οι αποστάσεις μεταξύ των μετεωρολογικών σταθμών στη δεύτερη άσκηση και οι ΒΔ άνεμοι?

Πουθενα!! :P
Ή για ψαρωμα ή για μπερδεμα ή για πληρότητα της ασκησης.

Συμφωνώ, και εγώ αυτό κατάλαβα. Καταλήγουμεσε μια αρχιτεκτονική καλή, με βάση κάποια training και test sets, και μετά με αυτή την αρχιτεκτονική παίζουμε, αλλάζοντας τα trainig και test...Μια απορία που έχω είναι: Θα αλλάζουμε και τα ποσοστά των συνόλων (π.χ. 70%-30%, μετά 60-40 κλπ.) ή μόνο τις εγγραφές με σταθερά ποσοστά;Πάντως λίγο που έχω δοκιμάσει, όντως από set σε set έχει διαφορά. Π.χ. από 96-98% ποσοστό επιτυχίας, με ίδια αναλογία αλλά διαφορετικά set έβγαζε 90-92% ποσσοτό επιτυχίας.
Και κάτι ακόμη: Αν κατάλαβα καλά, με καονικοποίηση [0,1] πρέπει να χρησιμοποιήσουμε συνάρτηση μεταφοράς εξόδου logsig, με κανονικοποίηση [-1,1] tansig, ενώ με την purelin μπορούμε να μην κάνουμε και καθόλου κανονικοποίηση. Ισχύουν αυτά;   

ε με τα ποσοστα παιζεις εσυ οπως σ αρεσει. Το κλασσικο παντως νομιζω ειναι 70-30.

Οσο για τις συναρτησεις μεταφορας ...δεν παιζει ρολο η κανονικοποιηση νομιζω! Οι συναρτησεις σαν ανεξαρτητη μεταβλητη παιρνουν σε ολο το διαστημα. Ας πει και κανενας αλλος.

Λοιπον >:(,στη δεύτερη άσκηση τί είσοδο βάζουμε στο δίκτυο?
Διδιάστατο πίνακα;
και αν ναι,με τί διαστάσεις;  :-\
Τα νεύρα μου...

δισδιαστατο...
καθε γραμμη του πρεπει να εχει ως εισοδο τις παρελθοντικες τιμες που θες να λαβεις υπ οψην.

Αν είχαμε μόνο τον σταθμό S3 και μας ενδιέφεραν 5 παρελθοντικές τιμές ,κάθε γραμμή θα είχε 5 στοιχεία.
Τώρα που μας ενδιαφέρουν τα δεδομένα τριών σταθμών,κάθε γραμμή  πρεπει να έχει 15 στοιχεία?
Και πως θα είναι διατεταγμένα αυτα τα στοιχεία?
Εεεεεεε???

Εμεις το καναμε με καταλληλες ... ας πουμε ... μετατοπισεις των στηλων του πινακα!

Muchas gracias ....

Για το ερώτημα Β :
1) Πρέπει να κάνουμε κανονικοποίηση της εισόδου ?

2) Δοκιμάσαμε να κάνουμε κανονικοποίηση και το mse πέφτει κάτω από 0.05. Παρόλα αυτά η
έξοδος ( αφού της κάνουμε απο-κανονικοποίηση ) διαφέρει σημαντικά από το Target έως και 3 κατ    απόλυτη τιμή. 

3) Χωρις κανονικοποίηση και για 3 παρελθοντικές τιμές (πίνακας Input 9x1497) έχουμε κάνει άπειρες     δοκιμές με 1 και 2 layers αλλά το  mse δεν πέφτει κάτω από 0.4.

4) H κανονικοποίηση του Input πρέπει να γίνει κατά σειρά (διαιρούμε κάθε σειρά με το max της) ή διαιρούμε τον Input με το μέγιστο στοιχείο όλου του πίνακα ?

Any ideas ?

Παιδιά έχει κανένας ιδέα για το παραπάνω post του panch??
Έχουμε πρόβλημα με τη δεύτερη εργασία+είμαστε και λίγο της τελευταίας στιγμής, οπότε κάθε βοήθεια ευπρόσδεκτη! :)

Έχουμε δοκιμάσει από 5-50 νευρώνες, 1-3 layers, lr=0.1:0.2:4, mc=0:0.1:1, αλλάξαμε τις συναρτήσεις μεταφοράς, αλλάζαμε το ένα αλλάζαμε το άλλο, αλλά τπτ, το mse δε λέει να πέσει κάτω από 0.4!! Και μετά το |error| = |targetOutput - simOutput| στα αποτελέσματα φτάνει μέχρι και 4..

Με κανονικοποίηση είχαμε λίγο καλύτερο mse αλλά το error σταθερό κι αγέρωχο, φτάνει πάλι μέχρι 3.5-4!!

Τουλάχιστον μπορεί να πει κανείς τι error περίπου να περιμένουμε?

Και κάτι ακόμα, θέλει κι εδω validation set?

Εγώ κανονικοποιώ ως προς το μέγιστο στοιχείο του πίνακα, max(max(Wind)).

Βέβαια υπάρχουν και οι συναρτήσεις prenmx, postnmx, mapminmax κλπ που κάνουν κανονικοποίηση αλλά κάπου είχα πρόβλημα με τις διαστάσεις των πινάκων.

Για το mse που λέτε, εμένα με βγάζει γύρω στο 0.001 ενώ χωρίς κανονικοποίηση είχα γύρω στ 1.
Και είναι λογικό να αλλάζει, αφού αλλάζουν και οι τιμές των δεδομένων εισόδου.

Thanks abc!

Δεν έχουμε πρόβλημα με το mse (τουλάχιστον για τα κανονικοποιημένα δεδομένα) αλλά με το τελικό σφάλμα που παίρνει τιμές από -3.5 έως 3.5 (αφού αποκανονικοποιήσουμε και τα targets και τα inputs - στην ουσία αυτό μας ενδιαφέρει)

Δεν παραδίδουμε και το SLAM αυτή την Τετάρτη ,σωστά?

Λαθος! :P

Για πρόβλεψη t+5,t+8 και μεις έχουμε τόσο μεγάλο σφάλμα αλλά τοπικά.
Για τις πιο βραχυπρόθεσμες προβλέψεις νομίζω ότι το σφάλμα δε ξεπερνά το +-1

Βασικα μπορεί κάποιος να εξηγήσει γιατί χρειάζεται η κανονικοποίηση στα δεδομένα εισόδου;

στο δεύτερο θέμα

 αλλάζουμε πόσες παρελθοντικές τιμές θα πάρουμε ανάλογα με το Τ( =0 2 5 8 παίρνουμε 4 δίκτυα με παρελθοντικές  ? 2 5 8  )

ή χρησιμοποιουμε στάνταρ παρελθοντικές τιμές π.χ. 5 και προβλέπουμε από 1500 εώς 1508 και κραταμε μόνο 0 2 5 8

ο Σύρρης είχε στο τελευταίο εργαστήριο ότι πρέπει να πάρουμε 4 διαφορετκά νευρωνικά για κάθε περίπτωση...αλλά τι εννοεί??

Ενας λογος ειναι οτι μπορεις να χρησιμοποιησεις οτι συναρτηση εξοδου θελεις (και οχι μονο Purelin).
Αν ξερει κανεις και κανενα αλλο ας τον αναφερει.

Απ οτι καταλαβα εννοει ενα νευρωνικο δικτυο για καθε περιπτωση.
Δλδ ενα νευρωνικο για προβλεψη στο Τ=0, ενα αλλο για Τ=2 κ.ο.κ.

Ένα νευρωνικό δίκτυο ανά περίπτωση εννοεί, όπως είπε και ο Jason.

Μια άλλη ερώτηση που έχω εγώ είναι:
στο δεύτερο θέμα χρειάζεται και κανένα validation set?? Δηλαδή να κάνουμε την πρόβλεψη με βάση τις πρώτες 1480 τιμές και να τεστάρουμε τις υπόλοιπες? Δε ξέρω αν σε αυτές τις περιπτώσεις υπάρχει το ενδεχόμενο γενίκευσης και πρέπει να το δοκιμάσουμε..

Στην αρχή μπορείς να χρησιμοποιήσεις κάποιο validation set και να πειραματιστείς για καλύτερα αποτελέσματα αλλά στο τελικο σου πρόγραμμα πρεπει να κάνεις training για όλα τα δεδομένα...

Απ οτι καταλαβα εννοει ενα νευρωνικο δικτυο για καθε περιπτωση.
Δλδ ενα νευρωνικο για προβλεψη στο Τ=0, ενα αλλο για Τ=2 κ.ο.κ.
[/quote]

Δηλαδή, αν για την προβλεψη του t χρησιμοποιούμε 4 παρελθοντικες τιμες για το t+2 θα πρεπει να χρησιμοποιησουμε τις ιδιες 4 (t-1, t-2, t-3, t-4) + την προβλεψη για το t + την προβλεψη για το t+1 ?

Όχι, απλά στο ένα νευρωνικό για Τ=0 θα υπολογίζεις την x3(t) από τις xi(t-1), xi(t-2), xi(t-3), xi(t-4) , i =1,2,3
στο δεύτερο θα υπολογίζεις την x3(t+2) από τις ίδιες xi(t-1),xi(t-2),xi(t-3),xi(t-4) κ.ο.κ.
(δηλαδή στην πρώτη περίπτωση υπολογίζεις τις x3(5:1500) από τις xi(4:1499), xi(3:1498), xi(2:1497), xi(1:1496) ενώ στη δεύτερη περίπτωση υπολογίζεις τις x3(7:1500) από τις ίδιες  xi(4:1497), xi(3:1496), xi(2:1495), xi(1:1494) )
Αν έχω κάπου λάθος, ας με διορθώσει κάποιος

Παιδιά, για το 1ο θέμα, κοιτάξαμε τις τιμές για τα κρασιά από το internet και τις συγκρίναμε με τις δικιές μας. Κάθε φορά έβγαζε μία συγκεκριμένη τιμή λάθος. Συγκεκριμένα, οι τιμές που παίρνουμε κατά σειρά για το wine_test.dat είναι :

1 1 1 1 1 1 1 1 1 1 1 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 3 3 3 3 3 3 3 3

ή 11x 1 16 x 2  8 x 3   :)


Σύμφωνα με τα δεδομένα του internet το τελευταίο δυαράκι της σειράς θα έπρεπε να είναι τρία. Για να το παίξουμε έξυπνοι, βάλαμε τα αντίστοιχα δεδομένα για αυτήν την τιμή (με target output 3) από το wine_test στο wine_train και εκπαιδεύσαμε τη συνάρτηση. Το αποτέλεσμα : 9% correct στο validation.  Οπότε μάλλον κάτι παίζει με αυτή τη τιμή... Ίσως να είναι λάθος το αποτέλεσμα του internet.

Και μενα τα ιδια βγαζει με σενα chronus.Τεσπα οτι ειναι να γινει εγινε τωρα.

Για ποιο λόγο?Εγώ χρησιμοποιησα την trainrp και τρέχει μια χαρά.Είναι εντολή του Πετρίδη?

Αυτές διδάχθηκαν στο εργαστήριο και ο Πετρίδης είπε ότι μπορείς να εκπαιδεύσεις το δίκτυο με όποια συνάρτηση θες αλλά αυτό θα είναι extra, θέλει στάνταρ μια εκπαίδευση με αυτές τις τρεις.
Τώρα, μην το ψάχνεις και πολύ με αυτόν τον καθηγητή

 :DΣτην εργασία με τους ανέμους,οι πρώτες μετρησεις είναι οι πιο παλιές και οι τελευταίες οι πιο πρόσφατες ή το αντίθετο ή είναι αδιάφορο?

 :D :DΕπίσης χρησιμοποιούμε τεστ σετ κανονικά όπως και στην άσκηση με τα κρασιά,εεε?


Τρίτη και τελευταία ερώτηση :D :D :D:αρκεί να ελέγξουμε την ορθότητα του αποτελέσματος μόνο από το σφάλμα που προκύπτει?

Ή χρειάζεταιι απο τα δείγματα που μας δίνονται να κρατησουμε μερικά για το σετ εκπαιδευσης και μερικά για επαλήθευση?όπως έγινε στην άσκηση με τα κρασιά, μας δόθηκε wine_test για να κάνουμε sim με το νευρωνικό δίκτυο που δημιουργήσαμε.

Thank you!  :D

Η δευτερη και τριτη σου ερωτηση νομιζω ειναι μια και η απαντηση ειναι καταφατικη.
Θα χωρισεις τα δεδομενα σου σε τεστ σετ και ντατα σετ. Ο τροπος που θα τα χωρισεις παιζει και αυτος ρολο.

To σφάλμα στην 2η εργασία με τους ανέμους πόσο περίπου πρέπει να βγαίνει?Εμένα μου βγαίνει κοντα στο 0.0026,θεωρείται μεγάλο?
Έπειτα η εντολή sim δεν μου δίνει καλά αποτελέσματα και σκέφτομαι μήπως φταίει το error.

θα ηταν ευκολα σε καποιον να ανεβασει την εκφωνηση της εργασιας του 2006-07 για να δούμε τί σχέση έχει με την φετινή ??

danke..

Αν γίνεται κάποιος να ανεβάσει την περσινή εκφώνηση της εργασίας θα βοηθούσε πολύ!!!

Δεν έχω την ακριβή προσφώνηση αλλά ήταν κάπως έτσι:
Κατάταξη κρασιών σε κατηγορίες 1,2,3 με εκπαίδευση από ένα
traindata αρχείο που μας δινόταν. (πάνώ κάτω όμοια με το φετινό
πρώτο κομμάτι)
Με μελέτη δειγμάτων χρόνου από σταθμούς παρακολούθησης, πρόβλεψη
καιρού με δείγματα από το παρελθόν(χρονοσειρά). (καμία σχέση με φέτος)
Βιβλιογραφική.

Από τους περσινούς με πολλή αγάπη:

Γενικά πάντως το error δεν χρειάζεται να είναι μικρό. Πρέπει να είναι τόσο, ώστε να κρατήσετε τα βάρη που είναι λίγο πριν αρχίσει η υπερεκπαίδευση.

Στόχος σας είναι να έχετε καλά αποτελέσματα, όχι να πιάσετε μικρό error.

Σε κάθε περίπτωση όταν η γραφική παράσταση αρχίζει να γίνεται οριζόντια, τα βάρυ είναι πια άχρηστα λόγω υπερεκπαίδευσης.

Ζήτω οι περσινοί!!!! :D

αυτό ο κ. Συρρής δεν το επιβεβαίωσε. αλλά δεν είμαι και σίγουρη κατά πόσο είναι λάθος.
επίσης, όπως είπε και ο Turambar, το σημαντικότερο δεν είναι το σφάλμα. δεν είναι πάντα ανάλογο το ποσοστό επιτυχίας με το πόσο μικρό είναι το σφάλμα.

Αν αυτο συμβαινει κατα τη διαρκεια της εκπαιδευσης του δικτυου σημαινει οτι το δικτυο απλα εχει
κολησει σε καποιο τοπικο ελαχιστο κι οχι οτι παρουσιαζει σημαδια υπερκεπαιδευσης.
Η υπερεκπαιδευση δηλωνει την πολυ καλη συμπεριφορα του δικτου στα δεδομενα εκαπιδευσης, ενω απο την αλλη την μη ικανοποιητικη αποδοση σε καινουργια δεδομενα.

Μήπως ξέρει κανείς  πόσο μικρό πρέπει να είναι το ποσοστό αποτυχίας κατά την ταξινόμηση..?

Το είχα ρωτήσει κι εγώ σε άλλο thread. Τελικά απ'ότι φαίνεται ένα ποσοστό
πάνω απο 85% ευστοχία στα καινούρια δεδομένα είναι ικανοποιητικό!

Έχει κάνει κανείς το Β θέμα;

Τη συνάρτηση ga χρησιμοποιούμε;

εμάς μας είπε από 89% και πάνω..

Για το θέμα Α ή Β?

γενικώς
αλλά είπε να μην συγκρίνουμε τα αποτελέσματα που παίρνουμε από τις δύο ασκήσεις. στο κάτω κάτω στην 2η περίπτωση έχουμε μόνο 10 χαρακτηριστικά