|
Τίτλος μαθήματος
|
Ασφάλεια και Ιδιωτικότητα στην Τεχνητή Νοημοσύνη και τα Συστήματα Δεδομένων
|
|
Κωδικός μαθήματος
|
CSE 529
|
|
Τύπος μαθήματος
|
Υποχρεωτικό
|
|
Επίπεδο
|
Μεταπτυχιακό
|
|
Έτος / Εξάμηνο
|
Πρώτο Έτος / Β Εξάμηνο
|
|
Όνομα διδάσκοντα
|
Παναγιώτης Ηλία
|
|
ECTS
|
7
|
Διαλέξεις / εβδομάδα
|
3
|
Εργαστήρια / εβδομάδα
|
-
|
|
Σκοπός και στόχοι μαθήματος
|
Το μάθημα επικεντρώνεται στις προκλήσεις ασφάλειας και προστασίας της ιδιωτικότητας που προκύπτουν κατά τον σχεδιασμό, την ανάπτυξη και την υλοποίηση συστημάτων τεχνητής νοημοσύνης και συστημάτων δεδομένων. Στόχος είναι να εφοδιάσει τους φοιτητές με σφαιρική κατανόηση των κινδύνων που προκύπτουν σε τέτοια περιβάλλοντα, και των στρατηγικών με τις οποίες μπορούν να αντιμετωπιστούν μέσω κατάλληλων επιλογών αρχιτεκτονικής και σχεδιασμού. Οι φοιτητές θα μάθουν να εντοπίζουν ευπάθειες και απειλές, να τις αξιολογούν με χρήση μεθόδων μοντελοποίησης κινδύνων και να λαμβάνουν τεκμηριωμένες αποφάσεις που ενσωματώνουν αρχές ασφάλειας και αρχές προστασίας προσωπικών δεδομένων. Έμφαση δίνεται σε κινδύνους όπως η διαρροή δεδομένων, η ανακατασκευή μοντέλων, και οι επιθέσεις παραπλάνησης (adversarial attacks).
Το μάθημα βασίζεται σε θεμελιώδεις έννοιες, όπως η ακεραιότητα δεδομένων, ο έλεγχος ταυτότητας, η διαχείριση πρόσβασης και η μοντελοποίηση απειλών, και τις αξιοποιεί στην ανάλυση και τον σχεδιασμό αξιόπιστων συστημάτων δεδομένων και τεχνητής νοημοσύνης. Καλύπτονται σύγχρονες μέθοδοι ενίσχυσης ιδιωτικότητας, όπως η ανωνυμοποίηση, η διαφορική ιδιωτικότητα (differential privacy) και η ομοσπονδιακή μάθηση (federated learning), με ανάλυση των περιορισμών, των υποθέσεων και των συμβιβασμών που τις συνοδεύουν. Οι θεματικές ενότητες επεκτείνονται σε όλα τα επίπεδα ενός σύγχρονου συστήματος: από τις εισόδους δεδομένων και τις διαδικτυακές πλατφόρμες έως τις ροές AI/ML. Συζητούνται ζητήματα όπως η παρακολούθηση, η δακτυλοσκόπηση χρηστών, η δηλητηρίαση δεδομένων, οι επιθέσεις αναγνώρισης συμμετοχής και οι ευπάθειες στην πλευρά του χρήστη, καθώς και βασικές αρχές όπως η πολυεπίπεδη άμυνα, ο καθαρισμός εισόδων και η ιδιωτικότητα εξ ορισμού.
Τέλος, γίνεται συστηματική σύνδεση με τη ρυθμιστική, την ηθική και δεοντολογική διάσταση (π.χ. συμμόρφωση με τον Γενικό Κανονισμό για την Προστασία Δεδομένων - GDPR), ενισχύοντας την ικανότητα των φοιτητών να σχεδιάζουν ανθεκτικά, διαφανή και υπεύθυνα συστήματα.
|
|
Μαθησιακά αποτελέσματα
|
Με την ολοκλήρωση του μαθήματος, οι φοιτητές θα είναι σε θέση να:
- Κατανοούν τις βασικές αρχές ασφάλειας και ιδιωτικότητας, όπως είναι η εμπιστευτικότητα, ακεραιότητα, διαθεσιμότητα, ο έλεγχος ταυτότητας, η διαχείριση πρόσβασης, καθώς επίσης και την διάκριση μεταξύ ασφάλειας και ιδιωτικότητας.
- Εντοπίζουν και να αναλύουν ευπάθειες και απειλές, εφαρμόζοντας τεχνικές μοντελοποίησης κινδύνων για την αξιολόγηση ρίσκων σε διαφορετικά είδη αρχιτεκτονικής και συστημάτων.
- Αξιολογούν μεθόδους ενίσχυσης της ιδιωτικότητας, όπως η ανωνυμοποίηση, η ψευδωνυμοποίηση, η διαφορική ιδιωτικότητα, η ομοσπονδιακή μάθηση και η ασφαλής πολυμερής υπολογιστική, κατανοώντας τις παραδοχές, τους περιορισμούς και τη χρησιμότητά τους στον σχεδιασμό συστημάτων.
- Αναγνωρίζουν και αξιολογούν κινδύνους ασφάλειας και ιδιωτικότητας σε ευφυή συστήματα, όπως επιθέσεις παραπλάνησης, δηλητηρίασης δεδομένων, αναγνώρισης συμμετοχής και αντιστροφής μοντέλου.
- Αναλύουν ζητήματα έκθεσης δεδομένων σε διαδικτυακές υποδομές, όπως η παρακολούθηση, η δακτυλοσκόπηση χρηστών και οι ευπάθειες στην πλευρά του χρήστη.
- Εφαρμόζουν αρχές σχεδιασμού ασφαλών και συστημάτων, όπως η πολυεπίπεδη άμυνα, ο καθαρισμός εισόδων και η «ιδιωτικότητα εξ ορισμού», και να αξιολογούν τα σχετικά συμβιβαστικά ζητήματα σε επίπεδο απόδοσης, ανθεκτικότητας, διαφάνειας και δικαιοσύνης.
|
|
Προαπαιτούμενα
|
CSE 423 – Εισαγωγή στην Κρυπτογραφία και την Ασφάλεια Υπολογιστών
|
Συναπαιτούμενα
|
-
|
|
Περιεχόμενο μαθήματος
|
Το περιεχόμενο του μαθήματος οργανώνεται σε πέντε βασικές θεματικές ενότητες, καθεμία εκ των οποίων καλύπτει ένα διακριτό σύνολο τεχνικών περιοχών και εννοιών:
Θεματική Ενότητα 1: Βασικές Έννοιες Ασφάλειας και Ιδιωτικότητας
Εμπιστευτικότητα, κεραιότητα, διαθεσιμότητα (CIA); έλεγχος ταυτότητας, εξουσιοδότηση και διαχείριση πρόσβασης, διάκριση μεταξύ ιδιωτικότητας και ασφάλειας, μοντέλα επιτιθέμενων, εισαγωγή στη μοντελοποίηση απειλών μέσω των πλαισίων STRIDE και LINDDUN.
Θεματική Ενότητα 2: Τεχνικές και Περιορισμοί Προστασίας Δεδομένων
Ανωνυμοποίηση, ψευδωνυμοποίηση και κίνδυνοι επαναταυτοποίησης· διαφορική ιδιωτικότητα και ομοσπονδιακή μάθηση, ασφαλής πολυμερής υπολογιστική (secure multiparty computation) και ομομορφική κρυπτογράφηση (homomorphic encryption) ως εννοιολογικά μοντέλα.
Θεματική Ενότητα 3: Ασφάλεια και Ιδιωτικότητα σε Ευφυή Συστήματα
Επιθέσεις παραπλάνησης (adversarial attacks), δηλητηρίαση δεδομένων και «πίσω πόρτες» (backdoors); επιθέσεις αναγνώρισης συμμετοχής (membership inference) και αναστροφή μοντέλων (model inversion); στρατηγικές μετριασμού, συμβιβασμοί μεταξύ ιδιωτικότητας και ερμηνευσιμότητας σε συστήματα τεχνητής νοημοσύνης και μηχανικής μάθησης.
Θεματική Ενότητα 4: Ιδιωτικότητα και Κίνδυνοι Έκθεσης σε Web Περιβάλλοντα
Συλλογή δεδομένων μέσω διαδικτύου, μοντέλα ασφάλειας διαδικτύου (Same-Origin Policy, CSP, CORS); παρακολούθηση (tracking), δακτυλοσκόπηση (fingerprinting) και ευπάθειες στην πλευρά του χρήστη, επιπτώσεις στον σχεδιασμό συστημάτων.
Θεματική Ενότητα 5: Σχεδιασμός Ασφαλών Συστημάτων και Σχετικοί Συμβιβασμοί
Άμυνα σε βάθος, καθαρισμός εισόδων, ελαχιστοποίηση δεδομένων, ασφάλεια και ιδιωτικότητα εξ ορισμού; πολιτικές καταγραφής και διατήρησης δεδομένων· ανθεκτικότητα συστημάτων, διαφάνεια, δικαιοσύνη και ευθυγράμμιση του σχεδιασμού με τον Γενικό Κανονισμό για την Προστασία Δεδομένων (GDPR); ηθικές και δεοντολογικές αρχές.
|
|
Μεθοδολογία διδασκαλίας
|
Το μάθημα διδάσκεται μέσω εβδομαδιαίων διαλέξεων από τον διδάσκοντα, με χρήση υλικού που έχει σχεδιαστεί ειδικά για τις ανάγκες του μαθήματος, καθώς και επιλεγμένων συμπληρωματικών πηγών. Οι διαλέξεις καλύπτουν τις θεματικές ενότητες του μαθήματος, εισάγοντας τους φοιτητές σε βασικές έννοιες, τεχνικές και κρίσιμες παραμέτρους σχεδιασμού.
Κάθε διάλεξη περιλαμβάνει καθοδηγούμενες συζητήσεις και ερωτήσεις, με στόχο την ενίσχυση της ενεργής συμμετοχής και την εμβάθυνση στην κατανόηση των εννοιών που παρουσιάζονται. Μετά από κάθε μάθημα, οι φοιτητές καλούνται να συντάξουν μια σύντομη γραπτή σύνοψη της ενότητας. Οι σύνοψεις αυτές συζητούνται στην αρχή της επόμενης διάλεξης, με σκοπό την εμπέδωση της ύλης και την ευκαιρία για διευκρινίσεις και αναστοχασμό.
Κατά τις δύο τελευταίες εβδομάδες του μαθήματος, οι φοιτητές επιλέγουν και μελετούν κριτικά μία ερευνητική εργασία από προκαθορισμένη λίστα που σχετίζεται με τη θεματολογία του μαθήματος. Κάθε φοιτητής παρουσιάζει την ερευνητική εργασία που επέλεξε και συντονίζει μια σύντομη συζήτηση στην τάξη, με έμφαση στα βασικά ευρήματα, στους περιορισμούς της μελέτης και στις συνδέσεις με τα θέματα που καλύφθηκαν στο μάθημα.
Η δραστηριότητα αυτή φέρνει τους φοιτητές σε επαφή με τη σύγχρονη ερευνητική βιβλιογραφία και τους βοηθά να αναπτύξουν δεξιότητες ανάλυσης, κριτικής σκέψης και τεχνικής επικοινωνίας. Παράλληλα, ενθαρρύνεται η σύνδεση των εννοιών μεταξύ ενοτήτων, η αξιολόγηση της συνάφειας της έρευνας με πρακτικές προκλήσεις, και η διατύπωση τεκμηριωμένων απόψεων για αναδυόμενα ζητήματα στον τομέα.
|
|
Βιβλιογραφία
|
- Διαφάνειες και σημειώσεις διαλέξεων που προετοιμάζονται από τον διδάσκοντα και διατίθενται εβδομαδιαία, σε αντιστοιχία με τις θεματικές ενότητες του μαθήματος. Το υλικό αυτό αποτελεί την κύρια πηγή αναφοράς για το περιεχόμενο των διαλέξεων και προορίζεται να υποστηρίξει τους φοιτητές στην προετοιμασία των γραπτών περιλήψεων και των συζητήσεων στην τάξη.
- Βιβλία και Συμπληρωματικό Υλικό
Δεν υπάρχει κάποιο βιβλίο που να καλύπτει το σύνολο της ύλης του μαθήματος. Οι φοιτητές καλούνται να μελετήσουν επιλεγμένα κεφάλαια από τα παρακάτω προτεινόμενα βιβλία, ανάλογα με τη θεματική ενότητα:
- Stallings, W., Brown, L., Computer Security: Principles and Practice. 4th ed., Pearson, 2017.
- Hoffman, A. Web Application Security: Exploitation and Countermeasures for Modern Web Applications. 1st ed., O’Reilly Media, 2020.
- Chio, C., Freeman, D. Machine Learning and Security: Protecting Systems with Data and Algorithms. 1st ed., O’Reilly Media, 2018.
Επιμελημένη λίστα ερευνητικών άρθρων που καλύπτουν και πρόσφατες εξελίξεις σε συναφείς επιστημονικές περιοχές. Οι φοιτητές θα κληθούν να επιλέξουν ένα άρθρο, να το αναλύσουν κριτικά και να το παρουσιάσουν στις δύο τελευταίες εβδομάδες του μαθήματος, συνδέοντάς το με τις έννοιες και τα θέματα που έχουν καλυφθεί κατά τη διάρκεια του εξαμήνου.
|
|
Αξιολόγηση
|
|
Τύπος Αξιολόγησης
|
Βαθμολόγηση
|
|
Εβδομαδιαίες Συνόψεις Διαλέξεων
|
10%
|
|
Παρουσίαση Ερευνητικών Άρθρων
|
15%
|
|
Εργασία
|
25%
|
|
Τελική Εξέταση
|
50%
|
|
