THMMY.gr

Μαθήματα Τηλεπικοινωνιακού Κύκλου => Θεωρία Πληροφοριών και Κωδίκων => Topic started by: Αλντεμπαράν on February 23, 2016, 13:47:02 pm



Title: [Θεωρία Πληροφοριών] Απορία σε ασκήσεις 2016
Post by: Αλντεμπαράν on February 23, 2016, 13:47:02 pm
Σχολιασμός και απορίες πάνω στις ασκήσεις του μαθήματος.


Title: Re: [Θεωρία Πληροφοριών] Παλιά θέματα - Σχολιασμός και απορίες
Post by: Κονσερβοκούτης on June 11, 2016, 19:41:04 pm
στην ασκηση 1.2 απο τις σημειωσεις θεωρουμε οτι η πιθανοτητες να βρουμε βαση A,C,G,U ειναι ανεξαρτητες ή θεωρουμε πως ειναι ιδια πιθανοτητα να βρεθει C με G και Α με U [Τ], οπως ειναι στην πραγματικοτητα?


Title: Re: [Θεωρία Πληροφοριών] Απορία σε ασκήσεις 2016
Post by: Αλντεμπαράν on June 13, 2016, 20:55:04 pm
Πώς καταλαβαίνω ως προς ποια βάση θα παίρνω τον λογάριθμο κάθε φορά (το ε) ??? Γιατί έχω δει να άσκηση με αλφάβητο 3 γραμμάτων και να παίρνει log2(...) και άλλες φορές να το κρατάει logε(...).


Title: Re: [Θεωρία Πληροφοριών] Απορία σε ασκήσεις 2016
Post by: vasilis94 on June 13, 2016, 21:05:10 pm
Πώς καταλαβαίνω ως προς ποια βάση θα παίρνω τον λογάριθμο κάθε φορά (το ε) ??? Γιατί έχω δει να άσκηση με αλφάβητο 3 γραμμάτων και να παίρνει log2(...) και άλλες φορές να το κρατάει logε(...).

Η βάση του λογαρίθμου δεν έχει να κάνει με το πλήθος των συμβόλων του κώδικα. Μπορεί να χεις τετραδικό κώδικα και να χρησιμοποιείς ως βάση ε=2.

Αυτό που αλλάζει είναι η μονάδα μέτρησης της πληροφοριας, όπως λέει στη σελίδα 7. Δηλάδη έχεις πχ bit/symbol χωρητικότητα αν πάρεις ε=2, ενώ nat/symbol αν πάρεις ως βάση το e.

Τέλος, επειδή λογικά αναφέρεσαι και στο Λmin στον 3.7 πρέπει να προσέξεις να βάλεις ίδια βάση (το 2 λογικά) και στον υπολογισμό του H(A) και στο logε (σ). To αν ο κώδικας είναι 3αδικός ή 17αδικός ή 2αδικός θα καθορίσει το σ.


Title: Re: [Θεωρία Πληροφοριών] Απορία σε ασκήσεις 2016
Post by: Αλντεμπαράν on September 22, 2016, 12:29:26 pm
Σελ 120 σημειώσεων Χρυσουλίδη

Πώς προκύπτει ο πίνακας Π(Α/Β) ? Αν πάω στην 4.6 δεν ξέρω το π(β_j)...


Title: Re: [Θεωρία Πληροφοριών] Απορία σε ασκήσεις 2016
Post by: PanteGrv on September 22, 2016, 12:47:05 pm

Παίρνεις τον 2.2 σελ 61 για ισοπίθανα σύμβολα εισόδου, μετά τον 2.4 και τέλος γράφεις τον αντίστοιχο τύπο του 2.4 για Π(Α/Β) αυτή τη φορά, γνωρίζοντας το Π(Α,Β), και λύνεις ως προς Π(Α/Β).


Title: Re: [Θεωρία Πληροφοριών] Απορία σε ασκήσεις 2016
Post by: Αλντεμπαράν on September 22, 2016, 13:38:03 pm
Παίρνεις τον 2.2 σελ 61 για ισοπίθανα σύμβολα εισόδου, μετά τον 2.4 και τέλος γράφεις τον αντίστοιχο τύπο του 2.4 για Π(Α/Β) αυτή τη φορά, γνωρίζοντας το Π(Α,Β), και λύνεις ως προς Π(Α/Β).

Ωραίος θενκς! Το περίεργο είναι ότι βγάζω τον συμμετρικό ως προς την κύρια διαγώνιο πίνακα του Π(Α/Β).  :???:

http://prntscr.com/ckz8sl (http://prntscr.com/ckz8sl)


Title: Re: [Θεωρία Πληροφοριών] Απορία σε ασκήσεις 2016
Post by: PanteGrv on September 22, 2016, 14:05:21 pm

Νομίζω ότι ξέχασες να πάρες τον ανάστροφο του πίνακα Π(Α,Β) στην σχέση στον τελευταίο υπολογισμό. Θα πρέπει το αποτέλεσμα να δίνει άθροισμα 1 κατά μήκος των γραμμών (όχι κατά μήκος των στηλών)


Title: Re: [Θεωρία Πληροφοριών] Απορία σε ασκήσεις 2016
Post by: Αλντεμπαράν on September 24, 2016, 15:16:07 pm
Νομίζω ότι ξέχασες να πάρες τον ανάστροφο του πίνακα Π(Α,Β) στην σχέση στον τελευταίο υπολογισμό. Θα πρέπει το αποτέλεσμα να δίνει άθροισμα 1 κατά μήκος των γραμμών (όχι κατά μήκος των στηλών)

Ωραίος, έτσι βγαίνει και βγάζει και νόημα το ότι κατά μήκος των γραμμών έχεις άθροισμα μονάδα ! Άρα δηλαδή η αντίστοιχη σχέση της 2.4 είναι η Π_D(B)* Π(Α/Β) = Π(Α, Β)^τ .


Title: Re: [Θεωρία Πληροφοριών] Απορία σε ασκήσεις 2016
Post by: PanteGrv on September 24, 2016, 16:32:10 pm
ακριβώς. αφού πλέον στις γραμμές έχουμε το Β και όχι το Α


Title: Re: [Θεωρία Πληροφοριών] Απορία σε ασκήσεις 2016
Post by: Αλντεμπαράν on September 24, 2016, 18:00:42 pm
Σελ 85, ασκ 2.10

Καμία ιδέα για πώς υπολογίζουμε την χωρητικότητα ;

Αν βέβαια πάρουμε την συνθήκη για τα π(α_i) λύνετε όπως οι προηγούμενες...


Title: Re: [Θεωρία Πληροφοριών] Απορία σε ασκήσεις 2016
Post by: geralt on September 25, 2016, 21:34:09 pm
Σελιδα 73 μπορει καποιος να μου εξηγησει πως βγαινει αυτο που καταληγει στο παραδειγμα στην σχεση 2.27;;;
Παίρνω τον τυπο 2.15 για να βγαλω το H(B|A) αλλα δεν βγαζω σε καμια περιπτωση αυτα που βγαζει.


Title: Re: [Θεωρία Πληροφοριών] Απορία σε ασκήσεις 2016
Post by: PanteGrv on September 25, 2016, 22:06:25 pm

Tο Η(Α/Β) δεν παίρνει?


Title: Re: [Θεωρία Πληροφοριών] Απορία σε ασκήσεις 2016
Post by: photon on September 25, 2016, 22:26:25 pm
παιρνει H(A)-H(A/B) οπου Η(Α/Β)=ΣΣπ(βj/αι)*π(α)  log(    (π(βj/aι)*π(αι)) / π(βj)    )

οπου (αθροισμα κατα ι) π(βj)=Σ π(βj/aι)*π(αι) (ολικη πιθανοτητα για το βj)



Title: Re: [Θεωρία Πληροφοριών] Απορία σε ασκήσεις 2016
Post by: Αλντεμπαράν on September 25, 2016, 22:41:02 pm
Στον κανόνα της μέγιστης πιθανοφάνειας η πιθανότητα σφάλματος υπολογίζεται από τον τύπο

π_ε = 1- Σπ(β_j/α*) x π(α*)  ή από π_ε = 1-Σπ(β_j/α*) x π(β_j)

???


Title: Re: [Θεωρία Πληροφοριών] Απορία σε ασκήσεις 2016
Post by: PanteGrv on September 25, 2016, 22:48:07 pm
To ίδιο είναι και οι 2 (διατρέχες κατά μήκος των συμβόλων εξόδου στο άθροισμα). Η διαφορά είναι στον τρόπο που επιλέγεται το α* στις 2 μεθόδους.


Title: Re: [Θεωρία Πληροφοριών] Απορία σε ασκήσεις 2016
Post by: geralt on September 26, 2016, 17:07:24 pm
παιρνει H(A)-H(A/B) οπου Η(Α/Β)=ΣΣπ(βj/αι)*π(α)  log(    (π(βj/aι)*π(αι)) / π(βj)    )

οπου (αθροισμα κατα ι) π(βj)=Σ π(βj/aι)*π(αι) (ολικη πιθανοτητα για το βj)



ωραίος να σαι καλα, υποθέτω ήταν τόσο προφανές που παρέλλειψε όλες τις μετατροπές όταν εξηγούσε το πχ. στο βιβλίο...


Title: Re: [Θεωρία Πληροφοριών] Απορία σε ασκήσεις 2016
Post by: gagrafio on February 05, 2017, 07:37:34 am
Παιδια ,ξερει κανεις που μπορω να βρω ασκησεις για το μαθημα??