Έκθεση ΕΠΕ: Προειδοποιεί για ελλείμματα ασφαλείας στην προστασία Προσωπικών Δεδομένων και στη χρήση AI 

Δεν είναι η πρώτη φορά που η Ενωση Πληροφορικών Ελλάδας (ΕΠΕ) εκφράζει έντονες επιφυλάξεις για τον τρόπο που η ελληνική πολιτεία χειρίζεται το ζήτημα της προστασίας των Προσωπικών Δεδομένων των πολιτών αλλά και της χρήσης της Τεχνητής Νοημοσύνης. Ωστόσο αυτή τη φορά, με μία λεπτομερέστατη ενημέρωση, η ΕΠΕ έκρουσε τον κώδωνα του κινδύνου σχετικά με σειρά θεμάτων που άπτονται ακόμα και της προστασίας των ιδιαίτερα ευαίσθητων Προσωπικών Δεδομένων Υγείας.

Νίκος Γιαννόπουλος

Αφού κάνει μία επισκόπηση προηγούμενων δημόσιων παρέμβασέων της (για τον Εθνικό Ηλεκτρονικό Φάκελο Υγείας και τον Ελεγχο και Βελτιστοποίηση των κανόνων συνταγογράφησης) η ΕΠΕ εστιάζει το ενδιαφέρον της στις ανακοινώσεις που έκανε το Υπουργείο Υγείας στις 5 Σεπτεμβρίου.

Ο αρμόδιος Υπουργός Αδωνις Γεωργιάδης είχε δηλώσει τότε τα εξής: “Οδηγήσαμε το ελληνικό σύστημα υγείας σήμερα στο να είναι το πιο ψηφιοποιημένο σύστημα σε όλη την Ευρωπαϊκή Ένωση. (…) Και συλλογή δεδομένων από όλους τους Έλληνες ασθενείς 24 ώρες το 24ωρο, όπου σε συνδυασμό με το μεγάλο πρόγραμμα «Σπύρος Δοξιάδης» και τις προληπτικές εξετάσεις, συγκεντρώνονται τα δεδομένα υγείας όλου του ελληνικού πληθυσμού μέσα σε μια εφαρμογή.

Η συγκέντρωση ανωνυμοποιημένων δεδομένων μέσω του myHealth app δημιουργεί τις προϋποθέσεις για την ανάπτυξη καινοτόμων θεραπειών μέσω τεχνητής νοημοσύνης. Η Ελλάδα καλεί διεθνή ερευνητικά ιδρύματα και εταιρείες να αξιοποιήσουν αυτά τα δεδομένα, με στόχο να καταστεί παγκόσμιο hub στην επιστήμη της υγείας”.

Οπως συμπεραίνει η ΕΠΕ “από το πρώτο μέρος στις παραπάνω δηλώσεις προκύπτει ότι τα δεδομένα Υγείας ολόκληρου του πληθυσμού της Ελλάδας συγκεντρώνονται πλέον μαζικά, συστηματικά και κεντρικοποιημένα. Το γεγονός αυτό από μόνο του είναι άκρως επικίνδυνο σε επίπεδο συστημικού σχεδιασμού, καθώς οποιοδήποτε πρόβλημα ή περιστατικό παραβίασης ασφάλειας πολλαπλασιάζει τη σοβαρότητα της επίπτωσης του σχετικού ρίσκου, λόγω της έκτασης της ενδεχόμενης ζημιάς.

Πρόκειται για εξαιρετικά σημαντικό παράγοντα ρίσκου σε όλα τα επίπεδα ανάπτυξης και χρήσης των συστημάτων που το υποστηρίζουν, από τη σχεδίαση μέχρι και τη συντήρησή τους σε καθημερινή βάση. Προφανώς θα πρέπει να έχει αναλυθεί διεξοδικά, να έχει αξιολογηθεί συστηματικά κάθε αναμενόμενος κίνδυνος πραγματοποίησης (τυχαίος ή στοχευμένος), να έχουν ληφθεί τα αντίστοιχα αντισταθμιστικά μέτρα ήδη από τη σχεδίαση (για παράδειγμα, κατανεμημένες και απομονωμένες βάσεις δεδομένων στην τελική εγκατάσταση-χρήση), και κυρίως να έχουν ενημερωθεί και να έχουν συναινέσει ρητά σε αυτή τη διαχείριση των ευαίσθητων προσωπικών δεδομένων τους οι ίδιοι οι πολίτες-υποκείμενα, σύμφωνα με όσα προβλέπει ο ΓΚΠΔ”.

Η ΕΠΕ, που πιστεύει ότι οι πολίτες δεν ενημερώνονται επαρκώς για κρίσιμες λεπτομέρειες αυτών των λεπτομερειών, επικαλείται ένα ακόμα δυσλειτουργικό, κατά την οπτική της, παράδειγμα.

Για τη χρήση Τεχνητής Νοημοσύνης από το νοσοκομείο Λάρισας δημοσιεύτηκαν, επίσης το Σεπτέμβριο του 2015, τα εξής: “Αναλυτικά, το σύστημα καθοδηγεί τον χειριστή κατά τη διαλογή, αναλύοντας κλινικά δεδομένα και εντοπίζοντας σήματα κινδύνου ακόμα και σε ασθενείς με συνήθη
συμπτώματα. Η διαδικασία περιλαμβάνει τη λήψη στοιχείων του ασθενούς, την καταγραφή ζωτικών σημείων που λαμβάνει νοσηλευτής, όπως είναι οι σφίξεις και ο κορεσμό οξυγόνου, και στη συνέχεια την ταξινόμηση της κατάστασης μέσω αλγορίθμων τεχνητής νοημοσύνης. Το σύστημα προτείνει την κατάλληλη ειδικότητα ιατρού για την περίθαλψη, ενώ ο τελικός λόγος παραμένει στον νοσηλευτή”.

Κατά την ΕΠΕ η παραπάνω περιγραφή παρουσιάζει “τρία εξαιρετικά σοβαρά προβλήματα:

1. Η φράση “καθοδηγεί το χρήστη” που υπάρχει στο κείμενο είναι εντελώς διαφορετική από τη φράση “συμβουλεύει τον ειδικό” όπως θα έπρεπε να είναι βάσει των προβλέψεων του ΚΤΝ.

2. Η φράση “ταξινόμηση της κατάστασης μέσω αλγορίθμων τεχνητής νοημοσύνης” δεν συνοδεύεται από κανέναν περιορισμό ή προδιαγραφή σχετικά με αυτούς τους αλγορίθμους. Στην Επείγουσα Ιατρική υπάρχουν συγκεκριμένοι κανόνες και πρωτόκολλα με βάση τα οποία γίνεται η διαλογή ασθενών (triage), ενώ εδώ υπονοείται ότι η λήψη απόφασης από μοντέλα και αλγορίθμους ΤΝ μπορεί να είναι εντελώς αυτόνομη και ανεξάρτητη, χωρίς πλήρη επεξηγησιμότητα (explainability).

3. Η φράση “ο τελικός λόγος παραμένει στο νοσηλευτή” είναι εντελώς παραπλανητικός. Αρμόδιοι και υπεύθυνοι για τη διαλογή ασθενών στα Τμήματα Επειγόντων Περιστατικών (ΤΕΠ) είναι εξειδικευμένοι ιατροί (Εντατικολόγοι), όχι Νοσηλευτές.

Παρόμοια προβλήματα η ΕΠΕ εντοπίζει και στην κυβερνητική πρωτοβουλία για τη σύναψη μνημονίου συνεργασίας με την OpenAΙ με σκοπό τη χρήση του εργαλείου του ChatGPT στην εκπαιδευτική διαδικασία.

Για το πρόγραμμα ειπώθηκαν, μεταξύ άλλων, τα εξής: “Ποιος είναι ο στόχος; Να βοηθήσει τους εκπαιδευτικούς και τους μαθητές να κατανοήσουν και να είναι σε θέση να αξιοποιήσουν την Τεχνητή Νοημοσύνη με τρόπο ασφαλή, υποστηρικτικό και προσαρμοσμένο στις εξατομικευμένες εκπαιδευτικές ανάγκες τους. Ο σχεδιασμός του προγράμματος δίνει έμφαση στην υπεύθυνη χρήση και τη διαφάνεια, και τον ρόλο του εκπαιδευτικού ως σχεδιαστή της μαθησιακής εμπειρίας”.

Η ΕΠΕ όμως διαπιστώνει πως “δεν φαίνεται να υπάρχει καμία συγκεκριμένη πρόβλεψη, τουλάχιστον προς το παρόν, σχετικά με τη σκοπιμότητα και τον τρόπο ενσωμάτωσης εργαλείων genAI στα σχολεία. Δηλαδή, αντί ο στόχος να είναι η βελτίωση της εκπαιδευτικής διαδικασίας και της αντιμετώπισης τυχόν μειονεκτημάτων σε αυτή (για παράδειγμα, μαθησιακές δυσκολίες), το ίδιο το εργαλείο γίνεται αυτοσκοπός και χρόνος θα καταναλώνεται απλά για την εκμάθησή του, χωρίς συγκεκριμένο λόγο και πλάνο εφαρμογής. Τα τελευταία χρόνια υπάρχουν έντονες συζητήσεις στη διεθνή κοινότητα, τόσο στην Παιδαγωγική όσο και στην Πληροφορική, ως προς αυτά τα ζητήματα, με σημεία που ακόμα δεν έχουν αποσαφηνιστεί ως προς τα θετικά και τα αρνητικά τους χαρακτηριστικά. Όμως, στην Ελλάδα φαίνεται πως αυτή η έντονη και επίκαιρη συζήτηση δεν απασχολεί καθόλου την Πολιτεία. Για τους παραπάνω λόγους, η Homo Digitalis κατέθεσε στο Υπουργείο Παιδείας αίτημα χορήγησης εγγράφων για το μνημόνιο συνεργασίας «OpenAI for Greece»12”.