Αρχική Αναδυόμενες τεχνολογίες πληροφορικής και επικοινωνιών, ενίσχυση της ψηφιακής διακυβέρνησης και άλλες διατάξειςΆρθρο 6 Υποχρεώσεις διαφάνειας

Άρθρο 6 Υποχρεώσεις διαφάνειας

1. Κάθε φορέας του δημόσιου τομέα που χρησιμοποιεί σύστημα αλγοριθμικής λήψης αποφάσεων παρέχει πλήρη και επαρκή ενημέρωση σε κάθε φυσικό ή νομικό πρόσωπο στο οποίο αφορά η λήψη της απόφασης σχετικά με τη χρήση του συστήματος και, ιδίως, πληροφορίες σχετικά με:
α) τον χρόνο έναρξης λειτουργίας του συστήματος,
β) τις βασικές πληροφορίες του συστήματος, όπως η ονομασία, η έκδοση και η επωνυμία του κατασκευαστή και
γ) τις κατηγορίες αποφάσεων που λαμβάνονται με τη συμμετοχή του συστήματος και αφορούν το φυσικό ή νομικό πρόσωπο.
2. Κάθε φορέας του δημόσιου τομέα που χρησιμοποιεί σύστημα αλγοριθμικής λήψης αποφάσεων διασφαλίζει ότι το φυσικό ή νομικό πρόσωπο στο οποίο αφορά η λήψη της απόφασης δύναται να λαμβάνει γνώση για τις παραμέτρους στις οποίες στηρίχθηκε η λήψη της απόφασης σε κατανοητή και εύκολα προσβάσιμη μορφή.

Σχόλια
  • 14 Ιουλίου 2022, 19:26 | Μπάλλας, Πελεκάνος & Συνεργάτες Α.Ε.Δ.Ε.

    Οι προτεινόμενες ρυθμίσεις ως προς τη διαφάνεια κρίνονται ως ελλιπείς. Οι υποχρεώσεις διαφάνειας θα πρέπει να περιλαμβάνουν και πληροφορίες σχετικά με τον επιδιωκόμενο σκοπό της χρήσης του συστήματος αλγοριθμικής λήψης αποφάσεων, καθώς και σχετικά με τα μέτρα ανθρώπινης εποπτείας, η οποία επιβάλλεται να προβλεφθεί. Επιπλέον, σε περίπτωση που η χρήση συστήματος αλγοριθμικής λήψης αποφάσεων οδηγεί στην κατάρτιση προφίλ, θα πρέπει να εξηγείται με σαφή και κατανοητό τρόπο ο τρόπος λειτουργίας της κατάρτισης προφίλ και να παρέχονται ουσιαστικές πληροφορίες σχετικά με τη λογική που τη διέπει, χωρίς να είναι απαραίτητο να παρέχεται μια πολύπλοκη ανάλυση του αλγορίθμου που χρησιμοποιείται ή να αποκαλύπτεται ο πλήρης αλγόριθμος. Αυτό φυσικά προϋποθέτει πως οι πληροφορίες που θα παρέχονται στο υποκείμενο θα είναι ερμηνεύσιμες από εκείνο, καθώς η παροχή μόνον τεχνικών πληροφοριών σχετικά με τις κατηγορίες δεδομένων που χρησιμοποιούνται ή με τα τεχνικά χαρακτηριστικά του αλγορίθμου, δεν επιτρέπουν στο υποκείμενο να κατανοήσει το αποτέλεσμα του συστήματος ΤΝ, ούτε φυσικά να το χρησιμοποιήσει ή να το αντικρούσει. Οι συγκεκριμένοι προβληματισμοί, που ήδη λαμβάνονται υπόψη στο πλαίσιο της συζήτησης σε επίπεδο ΕΕ, πρέπει να ενσωματωθούν στις διαδικασίες διασφάλισης διαφάνειας, που επιχειρεί το παρόν άρθρο.

    Θα πρέπει να σημειωθεί ότι μια λύση που προτείνει η σύγχρονη θεωρία για τη διασφάλιση της διαφάνειας, είναι η παροχή εξηγήσεων με ανάλογα παραδείγματα (“counterfactual explanations”). Βάσει της συγκεκριμένης θεωρίας, τα υποκείμενα έχουν τη δυνατότητα, χωρίς να έχουν πρόσβαση στον αλγόριθμο, να τροποποιήσουν τα εξατομικευμένα στοιχεία τους τα οποία έλαβε υπόψη ο αλγόριθμος για την κατάρτιση του προφίλ και να επεξεργαστούν τα πιθανώς διαφορετικά αποτελέσματα.

  • 14 Ιουλίου 2022, 19:45 | ΟΜΑΔΑ ΕΡΓΑΣΙΑΣ ΟΜΙΛΟΥ ΤΕΧΝΗΤΗΣ ΝΟΗΜΟΣΥΝΗΣ AI CATALYST

    Εάν πρόκειται για αλγόριθμο μηχανικής μάθησης πρέπει να είναι διαθέσιμο, εφόσον απαιτηθεί, το σύνολο των δεδομένων, τα οποία χρησιμοποιήθηκαν για την εκμάθηση του αλγορίθμου, μέσω των οποίων να μπορεί να αποδειχτεί ότι ο αλγόριθμος είναι δίκαιος και χωρίς προκαταλήψεις.

  • 14 Ιουλίου 2022, 13:27 | Οργανισμός Ανοιχτών Τεχνολογιών – ΕΕΛΛΑΚ

    Με στόχο την ενίσχυση της διαφάνειας η ΕΕΛΛΑΚ προτείνει η ενημέρωση να παρέχεται μέσω ιστοσελίδας ειδικού σκοπού και ως εκ τούτου η παρ. 1 να συμπληρωθεί ως ακολούθως:

    «1.Κάθε φορέας του δημόσιου τομέα που χρησιμοποιεί σύστημα αλγοριθμικής λήψης αποφάσεων παρέχει σε κεντρική ιστοσελίδα ειδικού σκοπού, πλήρη και επαρκή ενημέρωση σε κάθε φυσικό ή νομικό πρόσωπο στο οποίο αφορά η λήψη της απόφασης σχετικά με τη χρήση του συστήματος και, ιδίως, πληροφορίες σχετικά με:…»

    Επίσης, να προστεθεί νέο εδάφιο ως εξής:
    «δ) τον πηγαίο κώδικα του αλγοριθμικού συστήματος λήψης αποφάσεων».

    Τέλος, το άρθρο 2 να συμπληρωθεί ως ακολούθως:

    «2. Κάθε φορέας του δημόσιου τομέα που χρησιμοποιεί σύστημα αλγοριθμικής λήψης αποφάσεων διασφαλίζει ότι το φυσικό ή νομικό πρόσωπο στο οποίο αφορά η λήψη της απόφασης δύναται να λαμβάνει γνώση για τις παραμέτρους στις οποίες στηρίχθηκε η λήψη της απόφασης σε κατανοητή και εύκολα προσβάσιμη μορφή μέσω κεντρικής ιστοσελίδας ειδικού σκοπού.»

  • 14 Ιουλίου 2022, 11:23 | Γιάννης Κανελλόπουλος

    Θα συμφωνήσω με το σχόλιο της Ε.Σ.Α.μεΑ. Ως υποχρέωση διαφάνειας θα πρέπει να θεωρείται και η ενημέρωση του φυσικού ή νομικού προσώπου για τους λόγους στους οποίους βασίζεται/στηρίζεται μία απόφαση που το επηρρεάζει.

  • 12 Ιουλίου 2022, 09:16 | Εθνική Συνομοσπονδία Ατόμων με Αναπηρία (Ε.Σ.Α.μεΑ.)

    2. Στο άρθρο 6 «Υποχρεώσεις διαφάνειας», η παρ. 2 να συμπληρωθεί ως ακολούθως:
    «2. Κάθε φορέας του δημόσιου τομέα που χρησιμοποιεί σύστημα αλγοριθμικής λήψης αποφάσεων διασφαλίζει ότι το φυσικό ή νομικό πρόσωπο στο οποίο αφορά η λήψη της απόφασης δύναται να λαμβάνει γνώση για τις παραμέτρους στις οποίες στηρίχθηκε η λήψη της απόφασης σε κατανοητή και εύκολα προσβάσιμη μορφή για όλους, συμπεριλαμβανομένων εκείνων των μορφών που διευκολύνουν την ενημέρωση των ατόμων με αναπηρία (π.χ. easy-to-read, braille κ.λπ.)».

  • 10 Ιουλίου 2022, 20:01 | Λεωνίδας Κανέλλος

    Σωστή ρύθμιση αρκεί να προσδιοριστεί ο τρόπος ήτοι «μέσω δημοσίευσης πολιτικής χρήσης συστημάτων τεχνητής νοημοσύνης» καθώς και διοικητικές κυρώσεις σε περίπτωση παράλειψης από ένα αρμόδιο όργανο Ανεξάρτητη Αρχή (όπως ενδεχομένως η ΕΕΤΤ)

Σχόλια