Υπουργείο Ψηφιακής Διακυβέρνησης

Δικτυακός Τόπος Διαβουλεύσεων

• Σχόλιο του χρήστη 'Γιάννης Κανελλόπουλος' | 14 Ιουλίου 2022, 12:16

  Μόνιμος Σύνδεσμος

  Θεωρώ πως στις υποχρεώσεις του Αναδόχου, ειδικά αν το σύστημα θεωρείται υψηλού ρίσκου, θα πρέπει να περιλαμβάνεται και ένα Testing & Auditing Report από ανεξάρτητο φορέα το οποίο να πιστοποιεί ότι το σύστημα είναι τουλάχιστον: 1) Δίκαιο: Τα δεδομένα και το αλγοριθμικό μοντέλο δεν περιέχουν δυνητικές μορφές μεροληψίας (testing for bias) 2) Διαφανές: Οι αποφάσεις του μπορούν να εξηγηθούν στα υποκείμενα νομικά ή φυσικά πρόσωπα χωρίς τεχνική ορολογία (explainability analysis) 3) Ασφαλές πρός χρήση: Το αλγοριθμικό μοντέλο και τα δεδομένα εισόδου του δεν μπορούν να επηρρεαστούν από κακόβουλους χρήστες (robustness testing via adversarial attacks).