Υπουργείο Ψηφιακής Διακυβέρνησης

Δικτυακός Τόπος Διαβουλεύσεων

• Σχόλιο του χρήστη 'Μπάλλας, Πελεκάνος & Συνεργάτες Α.Ε.Δ.Ε.' | 14 Ιουλίου 2022, 19:26

  Μόνιμος Σύνδεσμος

  Οι προτεινόμενες ρυθμίσεις ως προς τη διαφάνεια κρίνονται ως ελλιπείς. Οι υποχρεώσεις διαφάνειας θα πρέπει να περιλαμβάνουν και πληροφορίες σχετικά με τον επιδιωκόμενο σκοπό της χρήσης του συστήματος αλγοριθμικής λήψης αποφάσεων, καθώς και σχετικά με τα μέτρα ανθρώπινης εποπτείας, η οποία επιβάλλεται να προβλεφθεί. Επιπλέον, σε περίπτωση που η χρήση συστήματος αλγοριθμικής λήψης αποφάσεων οδηγεί στην κατάρτιση προφίλ, θα πρέπει να εξηγείται με σαφή και κατανοητό τρόπο ο τρόπος λειτουργίας της κατάρτισης προφίλ και να παρέχονται ουσιαστικές πληροφορίες σχετικά με τη λογική που τη διέπει, χωρίς να είναι απαραίτητο να παρέχεται μια πολύπλοκη ανάλυση του αλγορίθμου που χρησιμοποιείται ή να αποκαλύπτεται ο πλήρης αλγόριθμος. Αυτό φυσικά προϋποθέτει πως οι πληροφορίες που θα παρέχονται στο υποκείμενο θα είναι ερμηνεύσιμες από εκείνο, καθώς η παροχή μόνον τεχνικών πληροφοριών σχετικά με τις κατηγορίες δεδομένων που χρησιμοποιούνται ή με τα τεχνικά χαρακτηριστικά του αλγορίθμου, δεν επιτρέπουν στο υποκείμενο να κατανοήσει το αποτέλεσμα του συστήματος ΤΝ, ούτε φυσικά να το χρησιμοποιήσει ή να το αντικρούσει. Οι συγκεκριμένοι προβληματισμοί, που ήδη λαμβάνονται υπόψη στο πλαίσιο της συζήτησης σε επίπεδο ΕΕ, πρέπει να ενσωματωθούν στις διαδικασίες διασφάλισης διαφάνειας, που επιχειρεί το παρόν άρθρο. Θα πρέπει να σημειωθεί ότι μια λύση που προτείνει η σύγχρονη θεωρία για τη διασφάλιση της διαφάνειας, είναι η παροχή εξηγήσεων με ανάλογα παραδείγματα (“counterfactual explanations”). Βάσει της συγκεκριμένης θεωρίας, τα υποκείμενα έχουν τη δυνατότητα, χωρίς να έχουν πρόσβαση στον αλγόριθμο, να τροποποιήσουν τα εξατομικευμένα στοιχεία τους τα οποία έλαβε υπόψη ο αλγόριθμος για την κατάρτιση του προφίλ και να επεξεργαστούν τα πιθανώς διαφορετικά αποτελέσματα.