Επικίνδυνη Τεχνητή… Ανοησία στη συνταγογράφηση

Παρότι τόσο ο τομέας των Τεχνολογιών Πληροφορικής και Επικοινωνιών όσο και αυτός της Τεχνητής Νοημοσύνης βασίζονται σε σαφείς μεθοδολογίες και διεθνείς πρακτικές, η συγκεκριμένη υπουργική απόφαση εμφανίζει σοβαρότατες ανεπάρκειες, σύμφωνα με την Ενωση Πληροφορικών Ελλάδας – τον κατεξοχήν αρμόδιο κλαδικό φορέα ικανό να διατυπώσει παρατηρήσεις ως εμπειρογνώμονας και στα δύο αντικείμενα με βάση το δημόσιο συμφέρον και το κοινωνικό όφελος από κάθε τέτοια δράση. Η Ενωση έχει ήδη απευθύνει συγκεκριμένα ερωτήματα προς τον υπουργό Υγείας από τις 7 Απριλίου, τα οποία παραμένουν αναπάντητα, γι’ αυτό και τα επαναφέρουμε δημόσια.

Για ένα τόσο μεγάλο και θεωρητικώς καινοτόμο τεχνικό έργο αξίας αρκετών εκατ. ευρώ, ο υπουργός αρκείται σε αόριστη περιγραφή μόλις 2,5 σελίδων και παρότι το κεντρικό αντικείμενο είναι η διαχείριση ευαίσθητων ιατρικών δεδομένων και η τεχνητή νοημοσύνη, σε κανένα από τα δύο δεν υπάρχει τεχνική περιγραφή των προδιαγραφών ή απαιτήσεων. Επιπλέον, δεν υπάρχει πουθενά τεχνική περιγραφή και κριτήρια αξιολόγησης των παραδοτέων, ούτε αναλυτική περιγραφή τι ακριβώς διερευνά-αξιολογεί ο συγκεκριμένος «πιλότος», ώστε σε δεύτερο στάδιο να υπάρξει σχετική απόφαση για κάτι, όπως συμβαίνει με κάθε «πιλοτικό» έργο (π.χ. την ανάπτυξη ενός μεγαλύτερου συστήματος με περαιτέρω λειτουργίες και δυνατότητες ή, αντίθετα, την τεκμηριωμένη απόρριψη μιας τέτοιας απόφασης).

Το «πιλοτικό» έργο θα υλοποιεί «συγκεκριμένες εφαρμογές τεχνητής νοημοσύνης οι οποίες θα οριστικοποιηθούν στη μελέτη εφαρμογής που θα εκπονηθεί και θα δύνανται να αφορούν ενδεικτικά τον εντοπισμό και την αποτροπή απάτης, τη διαχείριση ασθενών, τον αυτόματο έλεγχο ανάγκης συνταγογράφησης, έλεγχο πολυφαρμακίας, αυτόματες υπενθυμίσεις λήψης φαρμάκων κ.λπ.», δηλαδή όχι κάτι ιδιαίτερα «έξυπνο» –που θα μπορούσε να παραπέμπει και σε απλή διαχείριση ερωτημάτων στη βάση δεδομένων της ηλεκτρονικής συνταγογράφησης–, αλλά απολύτως παρεμβατικό και… παράνομο (εφόσον επιχειρεί να λανσαριστεί ως τεχνητή νοημοσύνη).

Κατά την πάγια (λανθασμένη) ελληνική πρακτική στο Δημόσιο, στο έγγραφο γίνεται μια πολύ γενική αναφορά μελέτης ελέγχου συμμόρφωσης ως προς τον ευρωπαϊκό Κώδικα για την τεχνητή νοημοσύνη, ενώ αγνοείται πλήρως το ζήτημα της συμμόρφωσης με τον εξίσου σημαντικό Κανονισμό για την προστασία των δεδομένων προσωπικού χαρακτήρα (GDPR) –το οποίο σε κάθε περίπτωση είναι υποχρεωτικό– και των ιδιαιτέρως ευαίσθητων ιατρικών δεδομένων, με μια γενική αναφορά (στο δεύτερο παραδοτέο) σε «μελέτη», όχι συγκεκριμένα σε σύμφωνο επεξεργασίας δεδομένων με νομική ισχύ-δέσμευση, συνεπώς καμία δέσμευση-πρόβλεψη ούτε για ορισμό DPO (Data Protection Officer) σύμφωνα με όσα απαιτούνται στον Γενικό Κανονισμό Προστασίας Δεδομένων. Οπως μπορείτε να υποψιαστείτε, δεν ορίζεται ούτε ο αποδέκτης-χρήσης των δεδομένων, δεν υπάρχει κανονισμός χρήσης των δεδομένων και των υπηρεσιών που θα αναπτυχθούν, ούτε καν αν πρόκειται για δημόσιο ή ιδιωτικό φορέα.

Φύκια για μεταξωτές κορδέλες

Το πιθανώς «χαμηλό IQ» της συγκεκριμένης υλοποίησης τεχνητής νοημοσύνης στην ηλεκτρονική συνταγογράφηση –πέρα από την «απορρόφηση» 5,58 εκατ. ευρώ– έχει και τα… θετικά του, αφού μια εφαρμογή για «αυτόματο έλεγχο ανάγκης συνταγογράφησης» ισοδυναμεί με… σοβαρή παραβίαση του ευρωπαϊκού Κώδικα για την τεχνητή νοημοσύνη (EU A.I. act), παράνομη σκιαγράφηση προφίλ (profiling) και χρήση ιατρικών δεδομένων χωρίς ρητή άδεια του υποκειμένου, δίνοντας σε μια μηχανή (αντί υποστήριξης σε επιτροπή γιατρών) τη δυνατότητα απόφασης επί θεμάτων «ζωής ή θανάτου» – δηλαδή αδιανόητα πράγματα.

Το έγγραφο καταγράφει γενικές απαιτήσεις και «μηχανισμούς», αλλά όχι συγκεκριμένες λειτουργίες που οφείλει να υλοποιεί το «πιλοτικό» σύστημα που θα αναπτυχθεί, επιτρέποντας πρακτικά σε μια Επιτροπή να παραλάβει ένα «χαζό» σύστημα που θέτει προκαθορισμένα ερωτήματα σε μια βάση δεδομένων, ως «τεχνητή νοημοσύνη». Αντίστοιχα, αναφέρονται «Υπηρεσίες Εκπαίδευσης», αλλά όχι και παράδοση σχετικού εκπαιδευτικού υλικού. Σημειώνεται ότι οι «αναφορές εκπαίδευσης» που αναφέρονται αφορούν τη διαδικασία ανάπτυξης και όχι το αποτέλεσμα-παραδοτέο της συγκεκριμένης υπηρεσίας που θα έπρεπε να προβλέπεται ως αυτόνομο παραδοτέο και να περιγράφεται με ακρίβεια. Τέλος, η απόφαση προβλέπει αόριστα και «εγγύηση» κατ’ ελάχιστο για δύο έτη, χωρίς να διευκρινίζει τι ακριβώς θα εγγυάται – πρακτικά, θα μπορούσε να αποδεχτεί τη χρήση κάποιου τυπικού server, χωρίς καμία ενημέρωση ασφάλειας ή εγγυημένη διαθεσιμότητα για αυτό το διάστημα.