kolount
AT gmail.com
Δε 9-11 και Τε 1-3 (αίθουσα Β212). Αναπληρώσεις μαθημάτων τις Παρασκευές 11-1.
Στο μάθημα αυτό θα δούμε
Οι δυο αυτές κατευθύνσεις θα προχωράνε παράλληλα και ανεξάρτητα η μια από την άλλη κατά τη διάρκεια του εξαμήνου. Τις Δευτέρες θα ασχολούμαστε με τη θεωρία πιθανοτήτων και τα οριακά θεωρήματα και τις Τετάρτες με τις εφαρμογές της στοιχειώδους θεωρίας (που απαιτεί μεν καλή γνώση της προπτυχιακής θεωρίας πιθανοτήτων αλλά δεν απαιτεί θεωρία μέτρου).
[AS] | N. Alon and J. Spencer, The Probabilistic Method, 4η έκδοση (δείτε εδώ) |
[D] | R. Durrett, Probability: Theory and Examples, έκδοση 2013 (κατεβάστε από εδώ) |
[G] | D. Galvin, Three tutorial lectures on entropy and counring (κατεβάστε από εδώ) |
[J] | S. Jukna, Extremal Combinatorics, 2η έκδοση (πρόχειρη) (κατεβάστε από εδώ) |
[MU] | M. Mitzenmacher and E. Upfal, Probability and Computing, έκδοση 2017 (δείτε εδώ) |
[ΚΠ] | Μ. Κολουντζάκης και Χρ. Παπαχριστόδουλος, Ανάλυση Fourier, (κατεβάστε από εδώ) |
[Κ] | M. Kolountzakis, Probabilistic and constructive methods in harmonic analysis and additive number theory, PhD thesis, Stanford Univ., 1994 (κατεβάστε από εδώ) |
Βαθμολογικό Σύστημα -- Εξετάσεις
1: Δε, 5 Φεβ. 2018: Ο Χώρος Πιθανότητας και οι Τυχαίες Μεταβλητές. Παραδείγματα.
[D, §1.1-1.3]
2: Τε, 7 Φεβ. 2018: Εφαρμογές των Πιθανοτήτων σε αποδείξεις και υπολογισμούς
3: Δε, 12 Φεβ. 2018: Η κατανομή μιας ΤΜ. Ολοκλήρωμα και μέση τιμή.
[D, §1.2-1.6]
4: Τε, 14 Φεβ. 2018: Εφαρμογές: (α) επαλήθευση γινομένου πινάκων και (β) μεγάλα sum-free υποσύνολα
[MU, §1.3, Application: Verifying Matrix Multiplication]
Θεώρημα: Αν $A$ είναι ένα σύνολο ακεραίων με $N$ στοιχεία τότε το $A$ έχει sum-free υποσύνολο με $\ge N/3$ στοιχεία.
[J, §18.2, Sum-free sets]
5: Πα, 16 Φεβ. 2018: Οριακά θεωρήματα για το ολοκλήρωμα. Κλασικές ανισότητες.
Θυμίσαμε τα δύο βασικά οριακά θεωρήματα (που μας επιτρέπουν να εναλλάξουμε όριο και ολοκλήρωμα) της θεωρίας μέτρου: το θεώρημα μονότονης σύγκλισης και το θεώρημα κυριαρχημένης σύγκλισης. Έπειτα είδαμε τις κλασικές ανισότητες: Cauchy-Schwarz, Holder, Minkowski και Jensen (αποδείξαμε την τελευταία μόνο).
Είδαμε επίσης την ανισότητα του Markov (με την, εύκολη, απόδειξή της). Είδαμε επίσης και άλλες παρόμοιες "ανισότητες απόκλισης" όπως την ανισότητα του Chebyshev. Όλες αυτές που είδαμε αποδεικνύονται ουσιαστικά με τον ίδιο τρόπο.
[D, §1.4-1.6]
[MU, § 1.5, Application: A Randomized Min-Cut Algorithm]
[J, §18.1, Hamilton paths in tournaments]
7: Δε, 6 Μαρ. 2018: Ανεξαρτησία ενδεχομένων και ΤΜ.
Είδαμε τον ορισμό της ανεξαρτησίας ενδεχομένων και τον ορισμό της ανεξαρτησίας ΤΜ. Για το τελευταίο ορίσαμε, για κάθε ΤΜ, τη σ-άλγεβρα $$ \Sigma_X, $$ που είναι η σ-άλγεβρα που παράγεται από τα ενδεχόμενα $$ \Set{X < \alpha},\ \ \alpha \in \RR, $$ και την οποία σκεφτόμαστε ως τα ενδεχόμενα τα οποία μπορούμε να αποφασίσουμε αν ισχύουν γνωρίζοντας μόνο την τιμή της $X$. Είδαμε μερικά απλά παραδείγματα αυτών των εννοιών.
Αποδείξαμε επίσης ότι αν οι ΤΜ $X$ και $Y$ είναι ανεξάρτητες και οι $X, Y$ είναι ολοκληρώσιμες (έχουν δηλ. μέση τιμή) τότε και η $X\cdot Y$ είναι ολοκληρώσιμη και επίσης $$ \Mean{XY} = \Mean{X} \Mean{Y}. $$ (Κάναμε την απόδειξη μόνο για απλές συναρτήσεις $X, Y$ και εξηγήσαμε γιατί αν οι $Χ, Υ$ είναι ανεξάρτητες τότε μπορούμε να βρούμε επίσης ανεξάρτητες απλές συναρτήσεις που τις προσεγγίζουν.
[D, §2.1]
Δείξαμε τη μέθοδο coupling δύο ΤΜ, που μας επιτρέπει να λύνουμε κάποια προβλήματα υλοποιώντας δύο ΤΜ πάνω στο ίδιο πείραμα. Δείτε π.χ. στο [σημείο αυτό.]
Είδαμε τη μέθοδο reservoir sampling. Δείτε π.χ. [εδώ] ή [εδώ].
Ξεκινήσαμε να βλέπουμε την πιθανότητα ύπαρξης ενός $K_4$ (4 κορυφές που συνδέονται όλες με όλες) στο τυχαίο γράφημα $G(n, p)$ ($n$ κορυφές όπου κάθε δυνατή ακμή υπάρχει με πιθανότητα $p$, ανεξάρτητα από τις άλλες ακμές). Είδαμε ότι η κρίσιμη τιμή είναι η $p=n^{-2/3}$ και αυτό σημαίνει ότι αν το $p$ είναι έστω "λίγο" μεγαλύτερο από αυτό τότε θα υπάρχουν με μεγάλη πιθανότητα κάποια $K_4$ στο γράφημά μας ενώ αν το $p$ είναι έστω "λίγο" μικρότερο τότε με μεγάλη πιθανότητα δε θα υπάρχει κανένα αντίγραφο του $K_4$ στο γράφημά μας. Το τελευταίο το αποδείξαμε με την ανισότητα του Markov αλλά δεν τελειώσαμε την απόδειξη του πρώτου που απαιτεί χρήση της ανισότητας Chebyshev και άρα κάποιο υπολογισμό μιας διασποράς που είναι σχετικά πολύπλοκος (θα το τελειώσουμε την επόμενη φορά).
[J, §1.5]
Ορίσαμε στην αρχή τη συνέλιξη δύο μέτρων και είδαμε ότι η κατανομή $\mu_{X+Y}$ της ΤΜ $X+Y$, όταν οι $X$ και $Y$ είναι ανεξάρτητες, είναι η συνέλιξη των κατανομών $\mu_X$ και $\mu_Y$. Είδαμε πώς μεταφράζεται ο τύπος για συνέλιξη αν το ένα ή και τα δύο μέτρα είναι απολύτως συνεχή ως προς το μέτρο Lebesgue (αν δηλ. οι αντίστοιχες ΤΜ έχουν πυκνότητα). Είδαμε, χρησιμοποιώντας τη συνέλιξη, ότι το άθροισμα δύο ανεξαρτήτων κανοικών ΤΜ είναι επίσης κανονική.
Είδαμε, έπειτα, πώς η ανισότητα Chebyshev μας δίνει τον Ασθενή Νόμο των Μεγάλων Αριθμών [D, Theorem 2.2.3]. Χρησιμοποιήσαμε το θεώρημα αυτό για να δώσουμε μια πιθανοθεωρητική απόδειξη του θεωρήματος του Weierstrass ότι κάθε συνεχής συνάρτηση σε φραγμένο, κλειστό διάστημα προσεγγίζεται ομοιόμορφα από μια ακολουθία πολυωνύμων [D, Example 2.2.1]. Μπορείτε να βρείτε και μια πολύ αναλυτική απόδειξη αυτού και στο [ΚΠ, §4.11.3].
[D, §2.1.3, 2.2]
10: Δε, 12 Μαρ. 2018: Παραδείγματα. Παραλλαγές του ασθενούς νόμου των μεγάλων αριθμών.
Ως συνέπεια του ασθενούς νόμου των μεγάλων αριθμών είδαμε ότι τα περισσότερα σημεία του μοναδιαίου κύβου $Q = [-1, 1]^n \subseteq \RR^n$ έχουν απόσταση από το $0 \in \RR^n$ περίπου ίση με $\sqrt{n/3}$. Αυτό είναι τυπικό φαινόμενο <<συγκέντρωσης του μέτρου>> που συμβαίνει σε μεγάλες διαστάσεις [D, Example 2.2.2].
Ως δεύτερο παράδειγμα χρήσης του νόμου αυτού είδαμε την ανάλυση του προβλήματος συλλογής κουπονιών (coupon collector problem) [D, Example 2.2.3].
Είδαμε επίσης στην [D, §2.2.3] πώς μπορούμε να ελαφρύνουμε τις απαιτήσεις για την ακολουθία $X_n$ στο νόμο των μεγάλων αριθμών, με τελικό σκοπό το Θεώρημα [D, Theorem 2.2.9]. Δε φτάσαμε να αποδείξουμε και αυτό το θεώρημα αλλά αποδείξαμε μέχρι και το Θεώρημα [D, Theorem 2.2.7], από το οποίο το 2.2.9 βγαίνει εύκολα. Το σημαντικό στο τελευταίο αυτό θεώρημα είναι ότι δεν απαιτεί να είναι στο $L^2$ οι ΤΜ $X_n$ αλλά μόνο να είναι στο $L^1$ (να έχουν όπως λέμε πρώτη ροπή).
[D, §2.2.2, 2.2.3]
Συνεχίσαμε από την προηγούμενη φορά και τελειώσαμε τη μελέτη της ύπαρξης ύπαρξης ενός $K_4$ (4 κορυφές που συνδέονται όλες με όλες) στο τυχαίο γράφημα $G(n, p)$ ($n$ κορυφές όπου κάθε δυνατή ακμή υπάρχει με πιθανότητα $p$, ανεξάρτητα από τις άλλες ακμές). Είδαμε ότι η κρίσιμη τιμή είναι η $p=n^{-2/3}$ και αυτό σημαίνει ότι αν το $p$ είναι έστω "λίγο" μεγαλύτερο από αυτό τότε θα υπάρχουν με μεγάλη πιθανότητα κάποια $K_4$ στο γράφημά μας ενώ αν το $p$ είναι έστω "λίγο" μικρότερο τότε με μεγάλη πιθανότητα δε θα υπάρχει κανένα αντίγραφο του $K_4$ στο γράφημά μας. Το τελευταίο το αποδείξαμε με την ανισότητα του Markov και τελειώσαμε την απόδειξη του πρώτου που απαιτεί χρήση της ανισότητας Chebyshev και άρα κάποιο υπολογισμό μιας διασποράς που είναι σχετικά πολύπλοκος.
[J, §21.5]
Ας είναι $k$ το μέγιστο μέγεθος ενός συνόλου ακεραίων $A\subseteq \Set{1, 2, \ldots, N}$ που υπάρχει τέτοιο ώστε όλα τα αθροίσματα που μπορούμε να φτιάξουμε χρησιμοποιώντας τα στοιχεία του $A$ το πολύ μια φορά το καθένα να είναι διαφορετικά: $$ \sum_{s \in S} s,\ \ \text{ για $S \subseteq A$, είναι όλα διαφορετικά}. $$ Είναι σχετικά εύκολο να δείξει κανείς ότι $$ k \le \log_2 N + \log_2 \log_2 N + C,\ \ \text{ όπου $C$ μια σταθερά.} $$ Χρησιμοποιώντας κατάλληλα την ανισότητα Chebyshev βελτιώσαμε την παραπάνω ανισότητα όσον αφορά το δεύτερο μεγαλύτερο όρο της: $$ k \le \log_2 N + \frac12 \log_2 \log_2 N + C,\ \ \text{ όπου $C$ μια σταθερά.} $$
[AS, §4.6]
Ξεκινήσαμε να βλέπουμε τις ανισότητες απόκλισης τύπου Chernoff. Είδαμε χωρίς απόδειξη την ανισότητα που εμφανίζεται στο [MU, Corollary 4.6] και την εφαρμόσαμε μαζί με τις ανισότητες Markov και Chebyshev στον τυχαία μεταβλητή $X$ που μετράει πόσες κορώνες φέραμε όταν ρίξαμε ένα τίμιο νόμισμα $N$ φορές. Είδαμε ότι η ανισότητα Chernoff δίνει δραματικά καλύτερα άνω φράγματα για την ανισότητα απόκλισης $$ \Prob{ \Abs{X-\Mean{X}} \ge \lambda N }, $$ για μεγάλες τιμές του $N$.
12: Δε, 26 Μαρ. 2018: Λήμμα Borel-Cantelli. Ένας ισχυρός νόμος μεγάλων αριθμών.
Είδαμε το Λήμμα Borel-Cantelli [D, Theorem 2.3.1 και Theorem 2.3.6] και διάφορες εφαρμογές αυτού (π.χ. το [D, Theorem 2.3.5] που αποτελεί τον πρώτο ισχυρό νόμο μεγάλων αριθμών που βλέπουμε, με σύγκλιση δηλ. του εμπειρικού μέσου $S_n/n = (X_1+\cdots+X_n)/n$ στο μέσο $\mu = \Mean{X_1}$ των ισόνομων και ανεξάρτητων $X_1, X_2, \ldots$ σχεδόν σίγουρα και όχι μόνο κατά πιθανότητα όπως έχουμε δει μέχρι τώρα). Είδαμε επίσης για τη σχέση ανάμεσα σε σύγκλιση κατά πιθανότητα και τη σύγκλιση μιας ακολουθίας ΤΜ σχεδόν σίγουρα. Αναφέραμε τέλος το ποσοτικό λήμμα Borel-Cantelli [D, Theorem 2.3.8] του οποίου την απόδειξη θα διαβάσετε μόνοι σας.
13: Τε, 28 Μαρ. 2018: Ανισότητες απόκλισης τύπου Chernoff
Είδαμε τις βασικές ανισότητες απόκλισης τύπου Chernoff για αθροίσματα ανεξαρτήτων ΤΜ που παίρνουν τιμές 0 ή 1 (ή και $\pm 1$ με ίση πιθανότητα) και το πώς αποδεικνύονται. Αρχίσαμε να αναφέρουμε κάποιες εφαρμογές και ορίσαμε δύο έννοιες πυκνότητας για υποσύνολα των ακεραίων (τις πυκνότητες που είναι αναλλοίωτες κατά μεταφορές και τις κεντραρισμένες πυκνότητες). Είδαμε διάφορα παραδείγματα για συγκεκριμένα σύνολα. Τέλος είδαμε πώς ένα τυχαίο σύνολο ακεραίων (όπου κάθε ακέραιος είναι ή όχι μέσα στο σύνολο, ανεξάρτητα από τους άλλους ακεραίους, και την πιθανότητα που εμείς επιθυμούμε) μπορεί να μας δώσει ένα υποσύνολο ακεραίων με (κεντραρισμένη) πυκνότητα αυτή που θέλουμε.
[MU, §4.2]
14: Πα, 30 Μαρ. 2018: Εφαρμογές των ανισοτήτων Chernoff
Είδαμε ξανά την απόδειξη που είχαμε δει και την προηγούμενη φορά, ότι ένα τυχαίο σύνολο ακεραίων $A$ με πιθανότητα $\Prob{k \in A}=p$ για κάθε ακέραιο $k$ θα έχει σχεδόν σίγουρα ασυμπτωτική πυκνότητα ίση με $p$. Αυτό είναι μια εύκολη εφαρμογή της ανισότητας Chernoff για αθροίσματα ανεξαρτήτων δεικτριών (δηλ. με τιμές 0 ή 1) τυχαίων μεταβλητών. Είδαμε επίσης ότι αν μας ενδιαφέρει η ομοιόμορφη ή Banach πυκνότητα τότε το σύνολο $$ \Set{\Floor{k \frac{1}{p}}:\ k \in \ZZ} $$ έχει ομοιόμορφη πυκνότητα $p$.
Είδαμε πώς μπορούμε να χρωματίσουμε ένα σύνολο από $n$ σημεία με δύο χρώματα έτσι ώστε κάθε ένα από $m$ δεδομένα υποσύνολα αυτού έχουν μικρό "ανισοχρωματισμό", μικρή δηλ. διαφορά των δύο χρωμάτων. Ο τυχαίος χρωματισμός το πετυχαίνει αυτό [MU, §4.4].
Ξεκινήσαμε να βλέπουμε την απόδειξη του παρακάτω θεωρήματος του Erdos:
Θεώρημα Υπάρχει σύνολο $E \subseteq \NN$ τέτοιο ώστε για $n$ αρκετά μεγάλο να ισχύει $$ C_1 \log n \le r_E(n) \le C_2 \log n, $$ για δύο σταθερές $C_1, C_2$, όπου $$ r_E(n) = \Set{(a, b) \in E \times E: a \le b \ \&\ n = a+b}, $$ είναι το πλήθος των αναπαραστάσεων του φυσικού αριθμού $n$ ως άθροισμα δύο στοιχείων του $E$ [K, §1.2.1].
15: Δε, 16 Απρ. 2018: Δεν έγινε μάθημα λόγω μη προσέλευσης των φοιτητών.
Δεν έγινε μάθημα λόγω μη προσέλευσης των φοιτητών.
Τελειώσαμε σήμερα την απόδειξη του θεωρήματος του Erdos για ασυμπτωτικές προσθετικές βάσεις που είχαμε ξεκινήσει την προηγούμενη φορά [K, §1.2.1].
Είδαμε τη μέθοδο των υπό συνθήκη πιθανοτήτων (ή υπό συνθήκη μέσων τιμών) για μετατροπή μιας πιθανοθεωρητικής απόδειξης (ή ενός πιθανοθεωρητικού αλγορίθμου) σε ντετερμινιστική κατασκευή. Η μέθοδος αυτή συνίσταται στη βήμα προς βήμα επιλογή των τιμών των ΤΜ που υπάρχουν στην απόδειξη που θέλουμε να μετατρέψουμε φροντίζοντας κάθε φορά να μη μειώνουμε τις πιθανότητες επιτυχίας με τις τιμές που επιλέγουμε. Είδαμε τη μέθοδο ακριβώς όπως παρουσιάζεται στο [Κ, §1.3].
17: Δε, 23 Απρ. 2018: Ο ισχυρός νόμος των μεγάλων αριθμών.
Είδαμε σήμερα την απόδειξη του ισχυρού νόμου των μεγάλων αριθμών για αθροίσματα ανεξαρτήτων και ισόνομων ΤΜ με μόνη απαίτηση την ύπαρξη της μέσης τιμής για την κατανομή των ΤΜ αυτών [D, Theorem 2.4.1]. Είδαμε επίσης το παράδειγμα [D, Example 2.4.1] (Renewal Theory) ως εφαρμογή του ισχυρού νόμου και επίσης το ότι σχεδόν κάθε πραγματικός αριθμός είναι κανονικός, έχει δηλ. στο άπειρο ανάπτυγμά του ως προς οποιαδήποτε βάση αρίθμησης $b \in \Set{2, 3, \ldots, 10, \ldots}$ την ίδια πυκνότητα εμφάνισης για όλα τα ψηφία $0, 1, \ldots, b-1$.
19: Δε, 30 Απρ. 2018: Θ. Glivenko-Cantelli. Σύγκλιση κατά κατανομές.
Αποδείξαμε το θεώρημα Glivenko-Cantelli [D, Theorem 2.4.7] (ότι η εμπειρική συνάρτηση κατανομής συγκλίνει ομοιόμορφα στο $\RR$ στην πραγματική συνάρτηση κατανομής). Ορίσαμε την ασθενή σύγκλιση (ή σύγκλιση κατά κατανομές) και είδαμε διάφορα παραδείγματα. Αποδείξαμε επίσης ότι αν $X_n \to X$ σχεδόν σίγουρα τότε έχουμε και σύγκλιση κατά κατανομές [D, §3.2].
20: Τε, 2 Μαΐ. 2018: Εντροπία μιας κατανομής και εφαρμογές στη συνδυαστική.
Ορίσαμε την έννοια της εντροπίας και είδαμε διάφορες στοιχειώδεις (και πολύ διαισθητικές) ιδιότητές της. Έπειτα χρησιμοποιήσαμε αυτά για να αποδείξουμε δύο προτάσεις στη συνδυαστική και στη γεωμετρία [G, §1, 2, 3.1, 3.3].
22: Τε, 9 Μαΐ. 2018: Εντροπία και συμπίεση δεδομένων.
23: Δε, 14 Μαϊ. 2018: Ιδιότητες χαρακτηριστικών συναρτήσεων.
Είδαμε μερικές βασικές ιδιότητες των χαρακτηριστικών συναρτήσεων μεταξύ των οποίων και ο τύπος αντιστροφής [D, Theorem 3.3.4, 3.3.5]. Υπολογίσαμε επίσης τις χαρακτηριστικές συναρτήσεις κάποιων σηματικών κατανομών, μεταξύ των οποίων και η κανονική κατανομή [D, Example 3.3.3].
24: Πα, 18 Μαϊ. 2018: Κεντρικό Οριακό Θεώρημα.
Ξεκινήσαμε αποδεικνύοντας το [D, Theorem 3.3.6] που μας λέει ότι αν οι χαρακτηριστικές συναρτήσεις συγκλίνουν κατά σημείο σε μια χαρακτηριστική συνάρτηση τότε έχουμε και σύγκλιση των ΤΜ κατά κατανομή. Δείξαμε τέλος το Κεντρικό Οριακό Θεώρημα [D, Theorem 3.4.1].