Από την ψηφιακή δικαιοσύνη στον ψηφιακό δικαστή: μπορεί η Τεχνητή Νοημοσύνη να αντικαταστήσει τους δικαστές;

Στέργιος Κοφίνης, Δ.Ν., Πρωτοδίκης Δ.Δ., 2023

Ι) Εισαγωγή

Τον περασμένο Δεκέμβριο τέθηκε σε δημόσια διαβούλευση από το Υπουργείο Ψηφιακής Διακυβέρνησης η «Βίβλος Ψηφιακού Μετασχηματισμού 2020-2025». Στο κεφάλαιο για τη Δικαιοσύνη, υπάρχει, μεταξύ άλλων, η πρόβλεψη για «υλοποίηση εφαρμογών τεχνητής νοημοσύνης για επεξεργασία αρχείων και προετοιμασία αποφάσεων».¹ Η διατύπωση αυτή αφήνει ανοιχτό το τι ακριβώς επιδιώκεται να κάνει μια εφαρμογή τεχνητής νοημοσύνης (ΤΝ) – αν δηλαδή θα εμπλέκεται με κάποιον τρόπο στην κατά κυριολεξία σύνταξη δικαστικών αποφάσεων ή όχι. Πάντως, εφαρμογές ΤΝ στην ελληνική δικαιοσύνη ως αυτή τη στιγμή δεν έχουν εισαχθεί.²

Αυτό βέβαια δεν είναι ελληνικό φαινόμενο μόνο.³ Σε μια πολύ πρόσφατη έκθεσή της για την ψηφιοποίηση της δικαιοσύνης στην Ευρώπη,⁴ του περασμένου Δεκεμβρίου επίσης, η Ευρωπαϊκή Επιτροπή παρατήρησε ότι «ο ρυθμός εισαγωγής νέων τεχνολογιών, όπως η ΤΝ, ποικίλλει μεταξύ των κρατών μελών ή ακόμη και εντός του ίδιου κράτους μέλους, αλλά γενικώς είναι αργός παντού». Η Επιτροπή επισημαίνει ορισμένους τομείς όπου θα μπορούσε να χρησιμοποιηθεί η ΤΝ στα δικαστικά συστήματα, ωστόσο, σημειώνει ότι «η τελική λήψη αποφάσεων πρέπει να παραμένει μια ανθρωπογενής δραστηριότητα». Υπάρχουν όμως, όπως θα δούμε κατωτέρω, παραδείγματα εισαγωγής συστημάτων ΤΝ στη διαδικασία δικανικής κρίσης και η τάση δείχνει αυξητική. Το βασικό ζήτημα, επομένως, της παρούσας εισήγησης παραμένει ανοιχτό: Μπορεί η ΤΝ να αντικαταστήσει τον δικαστή σε ορισμένα έστω καθήκοντά του;

Το ερώτημα αυτό είναι ιδιαιτέρως σύνθετο. Απαιτεί, οπωσδήποτε, να απαντήσουμε ηθικά ή υπαρξιακά ερωτήματα (τι θα σημάνει για τη δικαιοσύνη το να μετατραπεί σε καθαρά τεχνική, μαθηματικοποιημένη διαδικασία;)⁵ και ερωτήματα δικαιωμάτων (πώς θα επηρεάσει το δικαίωμα στην προσωπικότητα, στη δίκαιη δίκη ή στα προσωπικά δεδομένα μια εκτεταμένη χρήση της ΤΝ στη δικαιοσύνη;).⁶ Αυτό που συνήθως προκρίνεται, όμως, είναι ένα ερώτημα αποτελεσματικότητας: ποια είναι τα πλεονεκτήματα και ποια τα μειονεκτήματα της ΤΝ και με βάση αυτά ποιο είναι το προσδοκώμενο όφελος για ένα δικαστικό σύστημα σε σύγκριση με το κόστος που απαιτείται για την ανάπτυξη της ΤΝ; Η απάντηση στο ερώτημα αυτό προϋποθέτει την απάντηση σε ένα τεχνολογικό ερώτημα: ποια είναι τα όρια της ΤΝ σήμερα; Μπορεί τεχνολογικά να υπάρξει ένας ψηφιακός δικαστής;

Με δεδομένο ότι τα ζητήματα ηθικής φύσης (και οι σχετικές προβλέψεις του «Ευρωπαϊκού Χάρτη Δεοντολογίας για τη χρήση της ΤΝ στα δικαστικά συστήματα και στο περιβάλλον τους» της CEPEJ)⁷ είναι αντικείμενο άλλης εισήγησης του σεμιναρίου, η παρούσα εισήγηση θα επικεντρωθεί στις πιο πρακτικές όψεις του ζητήματος. Καταρχάς, θα γίνει μία τελείως συνοπτική παρουσίαση του τι είναι αλγόριθμος και τι είναι και πώς λειτουργεί η ΤΝ. Ακολούθως, μέσα από πραγματικά παραδείγματα εφαρμογής θα δούμε ποια είναι το πλεονεκτήματα και τα μειονεκτήματα της ΤΝ. Και τέλος θα δούμε ποιες είναι οι τεχνικές και νομικές προσαρμογές που πρέπει να γίνουν στο δικαστικό σύστημα για να υποδεχθεί την ΤΝ, αλλά και ποια είναι τα εγγενή όρια της υποδοχής αυτής.

ΙΙ) Αλγόριθμοι και ΤΝ

Συνήθως, όταν ακούμε αλγόριθμος μας έρχεται στο μυαλό η εικόνα κάποιας περίπλοκης μαθηματικής διαδικασίας ή κάποιας τεχνολογίας αιχμής, αλλά στην πραγματικότητα ένας αλγόριθμος είναι απλώς μια ακολουθία βημάτων που χρησιμοποιούνται για την επίλυση ενός προβλήματος.⁸

Συνήθως, ως παράδειγμα αλγόριθμου στην καθημερινή ζωή αναφέρεται μια συνταγή μαγειρικής. Θεωρητικά, όμως, παράδειγμα αλγόριθμου θα μπορούσε να είναι και αυτό:

Αυτός είναι βέβαια ένας καλός αλγόριθμος για να τον ακολουθήσει ένας δικαστής, αλλά όχι ένας υπολογιστής. ⁹ Γιατί; Διότι του λείπει ένα αναγκαίο στοιχείο: η σαφήνεια ως προς το τι πρέπει να κάνει το σύστημα σε κάθε βήμα. Κάθε βήμα από αυτά που ανέφερα προϋποθέτει σειρά άλλων νοητικών διεργασιών, που ο δικαστής εκπαιδεύεται να τους κάνει μετά από χρόνια νομικής και δικαστικής εκπαίδευσης. Το ερώτημα είναι αν ένα πρόγραμμα τεχνητής νοημοσύνης θα μπορούσε να εκπαιδευτεί ομοίως ώστε να επιλύει κάθε βήμα του αλγόριθμου με ένα ΝΑΙ ή ΟΧΙ. ¹⁰

Για να το δούμε αυτό πρέπει πρώτα να έχουμε μια εικόνα ως προς το τι είναι τεχνητή νοημοσύνη. Σύμφωνα με τον μάλλον κρατούντα και αρκετά ασαφή ορισμό, τεχνητή νοημοσύνη είναι ένα πρόγραμμα που επιδεικνύει ιδιότητες ευφυίας που συνήθως συνδέουμε με τον άνθρωπο, όπως να μαθαίνει από την εμπειρία του ή από παραδείγματα, να αναγνωρίζει αντικείμενα, να καταλαβαίνει τη γλώσσα, να παίρνει αποφάσεις και να επιλύει προβλήματα.¹¹ Υπάρχουν διαφορετικές τεχνικές για να επιτευχθεί αυτό (μάθηση με επίβλεψη, μάθηση χωρίς επίβλεψη, μάθηση με ενίσχυση),¹² αλλά το κύριο γνώρισμα της ΤΝ παραμένει ότι μπορεί να βελτιωθεί μέσω της μάθησης – όπως περίπου και οι άνθρωποι.¹³

Για να καταλάβουμε τη διαφορά ας το δούμε με βάση το ανωτέρω παράδειγμα: αν θέλαμε να βάλουμε ένα λογισμικό που δεν χρησιμοποιεί τεχνικές μηχανικής μάθησης (ένα legal expert system) ¹⁴ να γράψει μια δικαστική απόφαση, θα έπρεπε ο προγραμματιστής να γράψει κώδικα που να επιτρέπει στο πρόγραμμα να αναγνωρίσει π.χ. ότι αν η αγωγή στρέφεται κατά φυσικού προσώπου, τότε κανονικά η δικαιοδοσία ανήκει στα πολιτικά δικαστήρια. Φυσικά πρώτα θα έπρεπε να γράψει κώδικα που να επιτρέπει στο πρόγραμμα να καταλαβαίνει τη διαφορά ανάμεσα σε ένα φυσικό και ένα νομικό πρόσωπο. Και μετά να βρει έναν τρόπο να διαχωρίσει ανάμεσα στα νομικά πρόσωπα δημοσίου δικαίου και στα νομικά πρόσωπα ιδιωτικού δικαίου. Να μεταγράψει σε κώδικα τον κανόνα της υποκείμενης σχέσης. Και όλα αυτά πριν φτάσουμε στο μπλέξιμο με τα διφυή νομικά πρόσωπα. Ένα σύστημα ΤΝ (που θα χρησιμοποιούσε ίσως μια τεχνική deep learning) θα αναζητούσε μόνο του μοτίβα απόρριψης αγωγών και θα έκανε τις αναγκαίες συνδέσεις, ώστε να συμπεράνει πότε πρέπει να απορρίψει και πότε να δεχθεί μια αγωγή. Δηλαδή θα μάθαινε, κατά μία έννοια, μόνο του τους κανόνες της δικαιοδοσίας.¹⁵ Και πιθανώς θα κατέληγε να βελτιώσει τον αλγόριθμο που περιέγραψα ανωτέρω, δηλαδή να βρει καινούργιο τρόπο για να φτάσει στον στόχο που του έχει τεθεί. Κάτι που ένα συνηθισμένο λογισμικό δεν μπορεί να κάνει.¹⁶

Εδώ όμως είναι αναγκαίο να γίνει μια βασική διάκριση ανάμεσα στην ισχυρή και την ασθενή τεχνητή νοημοσύνη: ισχυρή ΤΝ είναι η ΤΝ που έχει όχι μόνο πρόσβαση σε τεράστιο όγκο δεδομένων και ικανότητα πρωτότυπης συσχέτισης μεταξύ των δεδομένων αυτών, αλλά και συνείδηση του εαυτού της και του κόσμου στην ολότητά του – αυτή η ΤΝ, όμως, ανήκει ακόμη στη σφαίρα της επιστημονικής φαντασίας. Ασθενής ΤΝ είναι η εξειδικευμένη ΤΝ. Εκείνη που, χωρίς να έχει συνείδηση του εαυτού της ή ευρύτερη γνώση του κόσμου, εξειδικεύεται στο να επεξεργάζεται τεράστιους όγκους δεδομένων και να παράγει αποτελέσματα σε ένα συγκεκριμένο, περιορισμένο πεδίο, όπως οι χρηματιστηριακές συναλλαγές, οι πωλήσεις σε διαδικτυακά καταστήματα, οι προσλήψεις προσωπικού ή η διάγνωση όγκων σε μαγνητικές τομογραφίες. Η διπλή εκρηκτική εξέλιξη των δύο τελευταίων δεκαετιών στις δυνατότητες των υπολογιστών για επεξεργασία και αποθήκευση δεδομένων από τη μία πλευρά και στον όγκο των διαθέσιμων ψηφιοποιημένων δεδομένων από την άλλη έχει κάνει τη ΤΝ από θεωρητική δυνατότητα πραγματικότητα με δεκάδες εφαρμογές.

Αυτό που συχνά διαπιστώνεται είναι μια απόσταση ανάμεσα στις υποσχέσεις της ΤΝ και τις προσδοκίες που έχουν οι χρήστες της από τη μία μεριά, και στα πραγματικά αποτελέσματα που μπορεί να φέρει από την άλλη. Η ευθυγράμμιση των δύο αυτών παραμέτρων δείχνει να είναι το κρίσιμο στοιχείο για κάθε επιτυχημένη εφαρμογή ΤΝ στην πράξη.¹⁷ Μπορούμε να δούμε αυτό το χάσμα προσδοκιών και πραγματικότητας και στις εφαρμογές ΤΝ στη δικαιοσύνη σήμερα.

 

ΙΙΙ) Εφαρμογές ΤΝ στα δικαστικά συστήματα

Μπορούμε να κατατάξουμε τις εφαρμογές ΤΝ που χρησιμοποιούνται σήμερα σε τρεις βασικές κατηγορίες: 1) η ΤΝ ως εργαλείο ή αποδεικτικό μέσο στα χέρια του δικαστή, 2) η ΤΝ ως μέσο εξωδικαστικής επίλυσης διαφορών και 3) η ΤΝ ως αυτόνομο υποκείμενο λήψης αποφάσεων.

1) Η ΤΝ ως εργαλείο ή αποδεικτικό μέσο στα χέρια του δικαστή

Η.Π.Α.

Προκειμένου να ληφθεί απόφαση για το ύψος της ποινής ή για το αν θα δοθεί αναστολή της έκτισης, προβλέπεται στις Η.Π.Α. η προσκόμιση από την αρμόδια υπηρεσία στο δικαστήριο μίας έκθεσης για τον κίνδυνο υποτροπής του συγκεκριμένου δράστη. Μερικές πολιτείες χρησιμοποιούν προγράμματα ΤΝ για να συντάξουν την έκθεση αυτή, χρησιμοποιώντας διάφορους δείκτες με αποτέλεσμα να μαθηματικοποιείται κατά κάποιον τρόπο η διαδικασία πρόβλεψης της ανθρώπινης συμπεριφοράς. Αυτό οδήγησε στη δικαστική αμφισβήτηση των προσκομιζόμενων εκθέσεων και των αποφάσεων που εκδίδονται βάσει αυτών.¹⁸

Η σημαντικότερη σχετική απόφαση είναι η State v Loomis.¹⁹ Το Ουισκόνσιν χρησιμοποιεί ένα πρόγραμμα ΤΝ που λέγεται COMPAS. Το πρόγραμμα αυτό καλύπτεται από την πνευματική ιδιοκτησία και έτσι δεν περιλαμβάνεται στην αναφορά προς το δικαστήριο ο τρόπος με τον οποίο συνδυάζονται τα δεδομένα για να εξαχθεί το αποτέλεσμα. Ο Loomis θεώρησε ότι αυτό παραβιάζει το δικαίωμά του σε δίκαιη δίκη και η υπόθεση έφτασε στο Ανώτατο Δικαστήριο της πολιτείας που έκρινε ότι δεν παραβιάστηκε η δίκαιη δίκη, διότι η έκθεση του COMPAS δεν ήταν ο μόνος παράγοντας που ελήφθη υπόψη από το δικαστήριο. Κατά το δικαστήριο, «αν η έκθεση εκτίμησης κινδύνου του COMPAS ήταν ο αποφασιστικός παράγοντας για τη λήψη απόφασης ως προς την επιμέτρηση της ποινής, αυτό θα δημιουργούσε ζητήματα δίκαιης δίκης αναφορικά με το εάν ο κατηγορούμενος πράγματι έτυχε εξατομικευμένης κρίσης για την ποινή του». Στις People v. Younglove²⁰ και Malenchik v. State²¹ ομοίως κρίθηκε ότι η έκθεση της ΤΝ δεν διαφέρει από τις εκθέσεις που ετοιμάζουν οι υπηρεσίες και είναι θέμα του δικαστή να της προσδώσει το κατάλληλο αποδεικτικό βάρος.

Το πείραμα των Εφετείων της Rennes και της Douai.

Το 2016 περίπου 10 εφέτες από τα εφετεία της Rennes και της Douai δέχτηκαν να συμμετάσχουν σε ένα πείραμα και να χρησιμοποιήσουν για μερικούς μήνες το λογισμικό πρόβλεψης δικαστικών αποφάσεων Predictice. Το λογισμικό αυτό πρόσφερε, μεταξύ άλλων, μια εκτίμηση της αποζημίωσης που θα έπρεπε να επιδικαστεί, βασιζόμενο σε παλαιότερες αποφάσεις. Στο τέλος, πάντως, οι δικαστές ήταν – για να το πούμε κομψά – κάτι λιγότερο από ενθουσιασμένοι με τα αποτελέσματα. Ο Πρόεδρος του Εφετείου, Xavier Ronsin, σημείωσε σε μια συνέντευξή του ότι: «Το λογισμικό νοιάζεται μόνο για το διατακτικό της απόφασης. Ο αλγόριθμος δεν μπορεί να διαβάσει όλες τις λεπτές αποχρώσεις της αιτιολογίας, ιδίως όταν πρόκειται για περίπλοκη υπόθεση». Κατ’ αυτόν, το λογισμικό δεν είχε προστιθέμενη αξία για τη δουλειά των δικαστών σε σχέση με άλλα εργαλεία έρευνας που ήδη είχαν. Χρησιμοποίησε δε ως παράδειγμα το ότι σε περιπτώσεις που η απόφαση του εφετείου ήταν εν μέρει δεκτή, το λογισμικό δεν μπορούσε να καταλάβει ποιο κομμάτι της πρωτοβάθμιας εξαφανίζονταν και ποιο όχι.²²

2) Η ΤΝ ως μέσο εξωδικαστικής επίλυσης διαφορών

Στην εξώδικη επίλυση διαφορών η ΤΝ έχει εισέλθει μέσα από εφαρμογές online επίλυσης διαφορών που δοκιμάζονται σε διάφορες χώρες, όπως η Αυστραλία, ιδίως στο οικογενειακό δίκαιο, η Γαλλία, ο Καναδάς και η Κίνα. Τα συστήματα αυτά είναι προαιρετικά, έχουν αναπτυχθεί από ιδιωτικές εταιρίες και στην πράξη χρησιμοποιούν τεχνικές θεωρίας παιγνίων για να εντοπίσουν τις βέλτιστες λύσεις που θα ικανοποιούσαν στο μέγιστο δυνατό βαθμό και τα δύο μέρη ή προσφέρουν επιλογές αυτόματης σύνταξης εγγράφων κλπ. Ο λόγος για την ταχεία ανάπτυξή τους έγκειται κυρίως στο χαμηλό κόστος για τους χρήστες τους, σημαντικό ιδίως σε μικροδιαφορές, στην ταχύτητά τους και στη δυνατότητα εξ αποστάσεως διενέργειας της επίλυσης, σημαντικό σε περιπτώσεις online συναλλαγών.²³

3) Η ΤΝ ως αυτόνομο υποκείμενο λήψης απόφασης

Εσθονία

Το 2019 το εσθονικό Υπουργείο Δικαιοσύνης ζήτησε από τον επικεφαλής των ψηφιακών υπηρεσιών της χώρας να σχεδιάσει ένα «ρομπότ-δικαστή» που θα μπορούσε να εκδικάσει μικροδιαφορές έως 7.000 ευρώ.²⁴ Σύμφωνα με την οργάνωση που έχει αναλάβει την προώθηση της Εσθονίας ως ψηφιακού κέντρου, «η ΤΝ είναι ικανή να λαμβάνει αυτόνομες αποφάσεις για τις πιο συνηθισμένες ένδικες διαδικασίες, που αλλιώς θα κατανάλωναν ώρες από τον χρόνο δικαστών και δικηγόρων».²⁵ Η βασική ιδέα είναι ότι τα διάδικα μέρη θα ανεβάζουν τα έγγραφά τους και η ΤΝ εν συνεχεία θα εκδίδει απόφαση κατά της οποία θα μπορεί να ασκηθεί έφεση σε άνθρωπο δικαστή. Μετά τον αρχικό ειδησεογραφικό ενθουσιασμό, δεν μπορούν να εντοπιστούν στοιχεία για το αν το πρόγραμμα ήδη εφαρμόζεται και πώς πηγαίνει, αλλά το ενδιαφέρον είναι ότι υπάρχουν σκέψεις ενσωμάτωσης της ΤΝ στο δικαστικό σύστημα μίας ευρωπαϊκής χώρας.

Facebook

Το παράδειγμα της Εσθονίας δείχνει να είναι και το μόνο παράδειγμα (επιδιωκόμενης) εισαγωγής ΤΝ σε διαδικασία λήψης απόφασης σε πραγματικό δικαστικό σύστημα. Αν, όμως, θέλουμε να έχουμε μια εικόνα των πλεονεκτημάτων και μειονεκτημάτων της ΤΝ, μπορούμε να δούμε πώς λειτουργεί ένα τέτοιο σύστημα ως κριτής σε μια εικονική κοινότητα, όπως είναι το Facebook.²⁶ Ξέρουμε όλοι ότι το Facebook έχει ορισμένους κανόνες, τους οποίους πρέπει να τηρούν οι χρήστες του. Ένας από τους κανόνες αυτούς είναι η απαγόρευση ανάρτησης αμφιλεγόμενου περιεχόμενου, στο οποίο περιλαμβάνεται και η ανάρτηση γυμνών εικόνων παιδιών ή ενηλίκων. Πώς εφαρμόζει τους κανόνες αυτούς το Facebook? Ο πρώτος τρόπος δεν είναι πολύ προχωρημένος τεχνολογικά: έχει προσλάβει έναν μεγάλο αριθμό διαχειριστών περιεχομένου, περίπου 15.000 υπολογίζονται, οι οποίοι εδρεύουν σε διάφορες χώρες, κυρίως σε χώρες με φθηνό εργατικό δυναμικό, όπως οι συντηρητικές καθολικές Φιλιππίνες, και χειροκίνητα ελέγχουν χιλιάδες εικόνες σε κάθε βάρδια τους, είτε αυτεπάγγελτα είτε αφού επισημανθούν από κάποιον χρήστη, και διαγράφουν αυτές που κρίνουν αμφιλεγόμενες. Ο δεύτερος τρόπος είναι πιο ενδιαφέρων: οι επιλογές των ανθρώπων διαχειριστών λειτουργούν και ως μέθοδος εκπαίδευσης μιας εφαρμογής ΤΝ για να κάνει την ίδια δουλειά.²⁷ Ήδη από το 2016, το Facebook ανακοίνωσε ότι έφτασε σε ένα ορόσημο όπου περισσότερες εικόνες ελέγχονται από την ΤΝ, παρά από τους ανθρώπους.²⁸ Πλέον, οι άνθρωποι-διαχειριστές μάλλον ασχολούνται κυρίως με το ζήτημα του γραπτού λόγου που ανεβαίνει στο δίκτυο και το ζήτημα των φωτογραφιών ανήκει κυρίως στην ΤΝ.²⁹ Στην πράξη η ΤΝ είναι σήμερα ο «δικαστής» του Facebook, ο οποίος ελέγχει την ανθρώπινη δραστηριότητα σε αυτό.³⁰

Το προφανές πλεονέκτημα αυτής της εξέλιξης είναι η ταχύτητα: η ΤΝ ελέγχει εκατομμύρια εικόνες σε ελάχιστο χρόνο και μπορεί να διαγράψει ή να επισημάνει αμφιλεγόμενες εικόνες πιθανώς πριν καν τις δει οποιοσδήποτε χρήστης. Ένα άλλο πλεονέκτημα είναι η προβλεψιμότητα: η ΤΝ είναι ένα ενιαίο σύστημα που κάνει όλες τις κρίσεις.³¹ Μπορεί να εξελιχθεί με την πάροδο του χρόνου, αλλά αν ελέγξει σήμερα δύο φωτογραφίες θα τις κρίνει με ενιαία ακριβώς κριτήρια. Στο πλαίσιο αυτό, η ΤΝ διαφημίζεται και ως αμερόληπτη: δεν θα εφαρμόσει διαφορετικά κριτήρια ανάλογα με το ποιος ανεβάζει τις φωτογραφίες, για παράδειγμα.

Τα μειονεκτήματα είναι, ωστόσο, αρκετά εμφανή επίσης: υπάρχουν πολλές αναφορές ότι το Facebook λογοκρίνει γυμνές εικόνες μη πορνογραφικές: για παράδειγμα το Facebook λογόκρινε τον περίφημο πίνακα του Ντελακρουά «Η ελευθερία οδηγεί τον Λαό», επειδή φαίνεται το στήθος της Μαριάν,³² καθώς και την εμβληματική φωτογραφία του Nick Ut με το εννιάχρονο κοριτσάκι που τρέχει γυμνό να σωθεί καθώς βομβαρδίζεται το χωριό της με ναπάλμ στον πόλεμο του Βιετνάμ.³³ Πιθανότατα οι διαγραφές αυτές έγιναν από την τεχνητή νοημοσύνη. Το ερώτημα, λοιπόν, είναι γιατί συμβαίνει αυτό, αφού δεν είναι δηλωμένος σκοπός του Facebook να λογοκρίνει την τέχνη ή να επεμβαίνει στην ιστορική μνήμη. Η απάντηση είναι ότι η ΤΝ δεν έχει (ούτε μπορεί να έχει) αντίληψη του περικείμενου κάθε εικόνας – το μόνο που αντιλαμβάνεται είναι το περιεχόμενό της, δηλαδή τα συγκεκριμένα pixels που σχηματίζουν την εικόνα του γυμνού σώματος.³⁴ Πέραν αυτού, η ΤΝ μαθαίνει από τους ανθρώπους και τις προηγούμενες αποφάσεις τους. Αν οι άνθρωποι από τους οποίους έμαθε είναι υπερσυντηρητικοί ή ρατσιστές ή δεν καταλαβαίνουν από τέχνη ή από ιστορία, η ΤΝ, απλώς θα μιμηθεί τη συμπεριφορά τους.

ΙV) Οι αναγκαίες προσαρμογές για τη μετάβαση στην εποχή της ΤΝ στη δικαιοσύνη

Τα παραδείγματα που είδαμε βοηθούν να αντιληφθούμε τα πλεονεκτήματα και τα μειονεκτήματα που έχει η ΤΝ.

Η ΤΝ εμφανίζεται συχνά στον δημόσιο λόγο ως πανάκεια που θα λύσει τα δομικά προβλήματα της υπερφόρτωσης των δικαστηρίων και της βραδύτητας στην έκδοση αποφάσεων. Ταυτόχρονα, έρχεται με την υπόσχεση ότι θα αφαιρέσει από την εξίσωση της δικανικής κρίσης: α) τον υποκειμενισμό του δικαστή, αφού θα είναι απολύτως αντικειμενική και αμερόληπτη, β) την αβεβαιότητα, αφού θα είναι απολύτως προβλέψιμη, και γ) τον κίνδυνο της κακής, λόγω ελλιπών γνώσεων ή ενημέρωσης, απόφασης, αφού θα έχει διαρκή πρόσβαση στο σύνολο των νομολογιακών και νομοθετικών δεδομένων.

Η εκμετάλλευση, όμως, των πλεονεκτημάτων της ΤΝ προϋποθέτει να υιοθετήσουμε ορισμένες τεχνικές και νομικές λύσεις, που οπωσδήποτε δεν είναι χωρίς κόστος.

1. Να κάνουμε τα δικαστικά και διοικητικά συστήματα φιλικά προς τους αλγόριθμους

Συνήθως λέμε ότι θα πρέπει το λογισμικό να είναι φιλικό προς τον χρήστη. Όταν όμως ο χρήστης είναι το λογισμικό, τότε το υπόλοιπο δικαστικό σύστημα είναι αυτό που πρέπει να αλλάξει για να γίνει φιλικό προς τους αλγόριθμους. Η πλήρης ψηφιοποίηση της δικαιοσύνης προηγείται λογικά και αναπόδραστα της όποιας σκέψης για ενσωμάτωση εφαρμογών ΤΝ σε αυτή. Αλλά το ζήτημα δεν είναι απλώς να ανεβάσουμε κάθε έγγραφο που παράγεται σε ένα server. Τα έγγραφα αυτά πρέπει να είναι μηχαναγνώσιμα (machine readable). Θα πρέπει δηλαδή, καταρχάς, να είναι σε μορφή που να μπορεί να διαβαστεί από ένα πρόγραμμα επεξεργασίας φυσικής γλώσσας (natural language processing algorithm) και να έχουν συσχετιστεί με μεταδεδομένα τα οποία θα στηρίζονται σε κοινό, προτυποποιημένο νομικό λεξιλόγιο,³⁵ ώστε να δημιουργηθούν επισημειωμένα δεδομένα (labeled data), δηλαδή η κοστοβόρα πρώτη ύλη της μηχανικής μάθησης.³⁶ Πέρα όμως από αυτό θα πρέπει, τόσο οι αποφάσεις όσο και τα δικόγραφα, να έχουν μια συγκεκριμένη και ξεκάθαρη δομή με συγκεκριμένες πληροφορίες, τόσο όσον αφορά τα δομημένα στοιχεία του εγγράφου όσο και τους πραγματικούς και νομικούς ισχυρισμούς, σε συγκεκριμένα πεδία του εγγράφου και με λόγο που να ανταποκρίνεται σε ορισμένα πρότυπα, ώστε να αποφεύγονται αστοχίες όπως αυτές που εντόπισαν οι εφέτες της Ρεν.³⁷ Συνεπώς, κάθε έγγραφο, είτε δημόσιο είτε ιδιωτικό, θα πρέπει να τυποποιηθεί και αυτό σημαίνει ότι πρέπει να οδηγηθούμε όχι μόνο σε μια αργή μεταμόρφωση όλης της δομής της διοίκησης, αλλά, πιθανώς, και του τρόπου με τον οποίο σκεφτόμαστε νομικά.

2. Η αργή διαδικασία εισαγωγής της ΤΝ: προϋπόθεση της εμπιστοσύνης του κοινού

Το θεμέλιο για κάθε δικαστικό σύστημα είναι η εμπιστοσύνη του κοινού προς αυτό. Επίσης, είναι δεδομένη η καχυποψία που υπάρχει αυτή τη στιγμή για την ΤΝ. Αυτή η στάση όμως σταδιακά μεταβάλλεται, καθώς όλο και περισσότερες και όλο και καλύτερες εφαρμογές ΤΝ μπαίνουν στη ζωή μας – η αυτόνομη οδήγηση μπορεί να είναι ένα παράδειγμα. Στην πράξη, το κοινό μπορεί να δείξει εμπιστοσύνη σε ένα πρόγραμμα ΤΝ που θα εκδίδει ταχύτατα και με λιγότερες διαδικαστικές προϋποθέσεις αποφάσεις, εφόσον όμως αυτές είναι ταυτόχρονα ορθές στην ουσία τους ή τουλάχιστον δεν είναι, συγκριτικά, λιγότερο ορθές από εκείνες που βγάζουν οι δικαστές.

Το δεύτερο σκέλος, η ποιοτική δηλαδή όψη της αποτελεσματικότητας ενός δικαστικού συστήματος, μπορεί να επιτευχθεί μόνο μέσα από μια μακρά διαδικασία ανάπτυξης μιας εφαρμογής ΤΝ. Πρέπει να επιλεγούν οι κατάλληλες τεχνικές ΤΝ, που πιθανώς θα πρέπει να συνδυαστούν μεταξύ τους,³⁸ και να αναπτυχθεί ένα πρόγραμμα προσαρμοσμένο στην ελληνική γλώσσα και στο ελληνικό νομικό σύστημα. Το σύστημα αυτό θα πρέπει να δοκιμαστεί σε βάθος χρόνου σε επιμέρους κατηγορίες υποθέσεων, με κριτήριο την απλότητά τους (και όχι απαραίτητα το ύψος της ένδικης αξίωσης, όπως έκανε η Εσθονία),³⁹ και να εκπαιδευτεί μέσω του ελέγχου των αποτελεσμάτων του από δικαστές. Η εφαρμογή του στην πράξη θα μπορούσε να γίνει μόνο όταν το ποσοστό λάθους θα ήταν πλέον σε ανεκτά χαμηλό επίπεδο.

3. Συνταγματικά ζητήματα

Το άρθρο 87 του Συντάγματος ορίζει ότι η δικαιοσύνη απονέμεται από δικαστήρια που συγκροτούνται από τακτικούς δικαστές, οι οποίοι, στα επόμενα άρθρα, περιγράφονται με λεπτομέρειες που δεν επιτρέπουν να σκεφτούμε ότι μπορεί να είναι κάτι άλλο πέρα από άνθρωποι. Συνεπώς, οποιαδήποτε σκέψη ενσωμάτωσης ψηφιακών μέσων σε ρόλο δικαστών (δηλαδή σε ρόλο αυτόνομων κρινόντων) θα προϋπέθετε μια συνταγματική αναθεώρηση που θα εισήγαγε ρητώς τη σχετική δυνατότητα, γεγονός που τονίζει και τη σημασία της σταδιακής ενσωμάτωσης σχετικών εφαρμογών στο δικαστικό σύστημα που θα οδηγήσει (ή όχι) στην ωρίμανση της ιδέας της αλγοριθμικής λήψης αποφάσεων.

1. V) Τα εγγενή προβλήματα της ΤΝ

Ακόμα και αν γίνουν οι ανωτέρω προσαρμογές στη δομή της διοίκησης, στις υπάρχουσες εφαρμογές ΤΝ και στο Σύνταγμα, μπορεί κανείς να εντοπίσει τέσσερα ακόμη, εγγενή προβλήματα της ΤΝ, η υπέρβαση των οποίων θα απαιτήσει μάλλον ένα τεχνολογικό άλμα, που ακόμη δεν μπορεί να προβλεφθεί το αν θα γίνει.

1) Η αξιολόγηση των αποδείξεων προϋποθέτει ικανότητα αντίληψης και σύνθεσης. Είναι άλλο θέμα να παρέχεις στο σύστημα μια μαρτυρική κατάθεση σε μηχαναγνώσιμη μορφή και άλλο να μπορεί αυτό να εκτιμήσει τη βαρύτητά της.⁴⁰ Οι κανόνες απόδειξης δεν είναι πάντοτε σαφείς, τα προσκομιζόμενα αποδεικτικά μέσα μπορεί να είναι αλληλοαντικρουόμενα και συχνά σημασία έχει η ικανότητα του δικαστή να διαβάσει ανάμεσα στις γραμμές, ώστε να προσδώσει την κατάλληλη βαρύτητα στη μία έναντι της άλλης απόδειξης. Αυτό απαιτεί υψηλή ικανότητα αντίληψης του κοινωνικού και πολιτισμικού συγκείμενου, ικανότητα που όπως είδαμε η ασθενής ΤΝ της εποχής μας δεν κατέχει.

2) Μεγάλο τμήμα αυτού που ονομάζουμε δίκαιο στηρίζεται στη σύνθεση ή τη στάθμιση ορισμένων γενικών αρχών ή δικαιικών σταθερών (standards), που συνδέονται με την ύπαρξη αόριστων εννοιών στο δίκαιο και επιτάσσουν την εξιδίκευσή τους με γνώμονα τα κριτήρια δικαιοσύνης που επικρατούν σε μια ορισμένη κοινωνία.⁴¹ Τέτοια standards είναι η αναλογικότητα, το δημόσιο συμφέρον, η χρηστή διοίκηση, τα διδάγματα της κοινής πείρας, η δικαιολογημένη εμπιστοσύνη, ο εύλογος χρόνος κλπ. Το να συλλάβει κανείς ακριβώς τη λειτουργία τους είναι ήδη αρκετά δύσκολο, ακόμη και για έμπειρους νομικούς, το να τα μεταφράσει σε κώδικα δείχνει σχεδόν αδύνατο.⁴² Είναι ερώτημα τεχνολογικό που θα απαντηθεί στο μέλλον το εάν ένα τεχνητό νευρωνικό δίκτυο θα είναι σε θέση να μαθηματικοποιήσει την κρίση για τις αόριστες αυτές έννοιες μέσα από μια σύνθετη διαδικασία απόδοσης βαρύτητας σε διαφορετικά στοιχεία τα οποία το ίδιο θα επιλέξει ως κατάλληλα. Ταυτόχρονα, όμως, αυτό θα οδηγήσει σε μία αντίφαση: συγκαταλέγουμε στα πλεονεκτήματα της ΤΝ την προβλεψιμότητα και ταυτόχρονα της ζητάμε να λάβει υπόψη εκείνα ακριβώς τα στοιχεία που καθιστούν τη δικαιοσύνη λιγότερο προβλέψιμη, διότι χωρίς αυτά θεωρούμε ότι δεν νοείται δικαιοσύνη.

3) Η βασική λειτουργία της ΤΝ είναι να αναζητά μοτίβα στα υπάρχοντα δεδομένα και να τα αναπαράγει. Αυτό θέτει ένα ερώτημα ως προς την εξέλιξη της νομολογίας. Μπορεί η ΤΝ να καταλήξει μέσω της σύνθεσης παλαιότερων αποφάσεων σε καινοτόμες λύσεις που να βγάζουν νόημα στο περίπλοκο και διαρκώς μεταβαλλόμενο νομικό και κοινωνικό περιβάλλον; Και αν δεν μπορεί, τι θα σημάνει αυτό για αντικείμενα, όπως τα ανθρώπινα δικαιώματα, που διαμορφώνονται κυρίως νομολογιακά μέσα από την αντιμετώπιση διαρκώς αναδυόμενων νέων προσβολών, αν κάποια στιγμή σε έναν τομέα δικαίου η ΤΝ είναι ο μόνος διαθέσιμος δικαστής;

4) Ενόψει και των ανωτέρω προβλημάτων φαίνεται ότι τα συστήματα δικαιοσύνης που ήδη εισήγαγαν εφαρμογές ΤΝ, έχουν προτιμήσει κάποια εκδοχή συστήματος υποβοήθησης απόφασης (decision support systems) ή έχουν αφήσει τον τελευταίο λόγο σε ανθρώπους: π.χ. στην Εσθονία προβλέπεται η δυνατότητα έφεσης, στο πείραμα της Ρεν και της Ντουαίν η ΤΝ λειτούργησε ως εργαλείο στα χέρια των δικαστών και στην Αμερική, οι εκθέσεις της ΤΝ δεν είναι παρά ένα ακόμη αποδεικτικό μέσο μεταξύ περισσοτέρων. Ακόμη και στο Facebook οι δύσκολες υποθέσεις παραπέμπονται στο Oversight Board. Ωστόσο, γεννάται το ερώτημα: πώς θα αμφισβητήσει ο δικαστής τα πορίσματα ενός συστήματος που λειτουργεί ως «μαύρο κουτί» το οποίο δεν επιτρέπει να δούμε τι γίνεται μέσα του, δηλαδή να καταλάβουμε με ποια κριτήρια κατέληξε στην απόφασή του;⁴³ Αν αφήσουμε στην άκρη τα προδήλως εσφαλμένα ή παράλογα αποτελέσματα (προϊόν, πιθανώς, τυχαίων μοτίβων μέσα στον όγκο της νομολογίας), με ποια εργαλεία ο δικαστής θα επανεξετάσει την κρίση ενός συστήματος που έχει δυνατότητα επεξεργασίας άπειρων δεδομένων και εξαγωγής λογικών συμπερασμάτων σε ένα κλάσμα του χρόνου που ο ίδιος θα χρειαζόταν; Και επιπλέον γιατί να ρισκάρει να διαφοροποιηθεί από μια φαινομενικά άρτια κρίση της ΤΝ, μπαίνοντας στη διαδικασία να αιτιολογήσει ειδικά τη δική του κρίση;⁴⁴ Η λύση στην οποία κατέληξε το γαλλικό Συνταγματικό Συμβούλιο όσον αφορά την έκδοση διοικητικών πράξεων από αλγόριθμους είναι η επανεξέταση της υπόθεσης με διοικητική προσφυγή χωρίς να στηρίζεται το αρμόδιο όργανο αποκλειστικά στον αλγόριθμο – πράγμα που δεν διαφοροποιείται σημαντικά από την κρίση από το μηδέν.⁴⁵ Αλλά αν καταλήξουμε σε αυτή τη λύση, τότε ποια θα είναι η προστιθέμενη αξία της ΤΝ, από άποψη χρόνου και εργατοωρών των δικαστών και δικηγόρων;

VΙ) Συμπέρασμα

Παρά τα πρακτικά και ηθικά προβλήματα που συνοδεύουν την ΤΝ η πίεση για την ενσωμάτωση σχετικών εφαρμογών στα δικαστικά συστήματα είναι πιθανό να αυξηθεί μέσα στο επόμενο διάστημα, λόγω της υπόσχεσης αυξημένης αποτελεσματικότητας στη διαχείριση του όγκου των δικαστικών υποθέσεων που τη συνοδεύει. Η ισορροπία που αναζητάμε ανάμεσα στην τεχνομανία και την τεχνοφοβία (ή νέο-λουδισμό)⁴⁶ δεν είναι εύκολη. Ένα ταχύτερο, φθηνότερο για όλους και πιο προβλέψιμο δικαστικό σύστημα αποτελεί σημαντικό παράγοντα οικονομικής ανάπτυξης. Ωστόσο, σε αυτή τη φάση ανάπτυξής της η ΤΝ δεν έχει τη δυνατότητα να δρα με αξιοπιστία ως αυτόνομο όργανο έκδοσης αποφάσεων, λόγω των εγγενών ορίων που είδαμε ανωτέρω – χωρίς τίποτα να αποκλείει τεχνολογικά άλματα στο εγγύς μέλλον. Τελικώς, ο βαθμός εμπλοκής της ΤΝ στη διαδικασία της δικανικής κρίσης θα εξαρτηθεί από πολλές παραμέτρους: από την τεχνική εξέλιξη των ίδιων των συστημάτων, από τις αρχικές επιτυχίες ή αποτυχίες τους που θα κερδίσουν ή θα χάσουν αντίστοιχα την εμπιστοσύνη του κοινού, από τις εξωγενείς πιέσεις για περισσότερη διαδικαστική αποτελεσματικότητα και από την ικανότητα και προθυμία των δικαστικών συστημάτων να προσαρμοστούν στις απαιτήσεις της εποχής της ΤΝ. Μολονότι οποιαδήποτε πρόβλεψη για τις μελλοντικές εξελίξεις σε ένα πεδίο τόσο ρευστό όσο η ΤΝ είναι εξαιρετικά παρακινδυνευμένη, η αυξημένη συνέργεια μεταξύ δικαστών και υπολογιστικών συστημάτων δείχνει αυτή τη στιγμή να είναι το πιθανότερο σενάριο για την ομαλή εισαγωγή της ΤΝ στα δικαστικά συστήματα με στόχο την εκμετάλλευση των πλεονεκτημάτων και των δύο πλευρών⁴⁷ – της απεριόριστης πρόσβασης σε δεδομένα και της ταχύτητας διεκπεραίωσης ερευνών και υπολογισμών της ΤΝ από τη μία πλευρά και της συνθετικής ικανότητας, της αντίληψης της κοινωνικής πραγματικότητας και της επιείκειας (υπό την αριστοτελική έννοια) των δικαστών από την άλλη. Η αυξημένη αυτή συνέργεια μπορεί να πάρει πολλές μορφές, από τη διοικητική στήριξη του δικαστικού έργου έως την εμπλοκή σε ορισμένα τμήματα της απόφασης (όπως τα ζητήματα παραδεκτού, η αναγνώριση επιχειρημάτων και η έρευνα νομολογίας) έως ακόμη και την αυτόνομη έκδοση αποφάσεων σε απλές διαδικασίες, όπως οι διαταγές πληρωμής ή οι μισθολογικές διαφορές, υπό την επίβλεψη δικαστικού λειτουργού.

 

Βιβλιογραφικές Αναφορές

1 Βλ. http://www.opengov.gr/digitalandbrief/?p=2118 (τελ.επισκ. 14.3.2021).

2 Βλ. τις προτάσεις εισαγωγής εφαρμογών ΤΝ στη διοικητική δικαιοσύνη σε Ε.Τρουλινού, Οι προοπτικές της Τεχνητής Νοημοσύνης στο Ολοκληρωμένο Σύστημα Διαχείρισης Δικαστικών Υποθέσεων Διοικητικής Δικαιοσύνης (ΟΣΔΔΥ-ΔΔ), ΔΙΤΕ 3/2020, 374.

3 Ούτε καν ευρωπαϊκό φαινόμενο μόνο: όπως σημειώνεται σε άρθρο του περιοδικού Forbes, του Δεκεμβρίου του 2019, ο τομέας του δικαίου εν γένει είναι από τους λιγότερο ψηφιοποιημένους τομείς της αγοράς παγκοσμίως, στοιχείο που αναμένεται να αλλάξει χάρη στην ΤΝ (βλ. R.Toews, AI Will Transform The Field Of Law, διαθέσιμο σε https://www.forbes.com/sites/robtoews/2019/12/19/ai-will-transform-the-field-of-law/?sh=21b32dd17f01, τελ. επισκ. 31.1.2021)

4 EU Commission, “Digitalisation of justice in the European Union- A toolbox of opportunities” διαθέσιμο σε https://ec.europa.eu/info/sites/info/files/communication_digitalisation_en.pdf (τελ.επισκ. 14.3.2021).

5 Ερώτημα που μπορεί να θεωρηθεί και ψευδεπίγραφο – βλ. K.Kelly, The Myth of a Superhuman AI, Wired, 25.4.2017 διαθέσιμο σε https://www.wired.com/2017/04/the-myth-of-a-superhuman-ai/ (τελ.επισκ. 14.3.2021).

6 Βλ. σχετικά Ι.Συμεωνίδη, ΤΝ και Δικαιοσύνη, ΕφημΔΔ 4/2019, 462, 466-468.

7 Διαθέσιμο σε https://www.coe.int/en/web/cepej/cepej-european-ethical-charter-on-the-use-of-artificial-intelligence-ai-in-judicial-systems-and-their-environment (τελ.επισκ. 14.3.2021).

8 B.Christian-T.Griffins, Η αλγοριθμική τέχνη των αποφάσεων – Η επιστήμη των υπολογιστών στην καθημερινή ζωή (μτφρ. Α.Χορταράς-επιμ. Γ.Παπαδόγγονος), Πανεπιστημιακές Εκδόσεις Κρήτης, 2018.

9 Το ζήτημα του εάν η δικανική κρίση θα μπορούσε να διατυπωθεί ως αλγόριθμος είχε απασχολήσει από αρκετά νωρίς τη νομική σκέψη – με την απάντηση να είναι συνήθως αρνητική. Π.χ. ο V.A.Wellman, Practical Reasoning and Judicial Justification: Toward an Adequate Theory, 57 U. Colo. L. Rev. 45, 53 (1985), σημειώνει ότι «οι δικαστές δεν είναι “μαύρα κουτιά λογικής” όπου τα αποτελέσματα αναμένεται να απορρέουν μηχανικά από κάποιο σύνολο εισερχομένων δεδομένων». Βλ. όμως R.M.Re – A.Solow-Niederman, Developing Artificially Intelligent Justice, 22 Stan.Tech.L.Rev.242 (2019), 253, οι οποίοι χαρακτηρίζουν τη δικαιοσύνη που στηρίζεται σε κώδικες νομοθεσίας ως «νομικό αλγόριθμο», υπό την έννοια ότι συνίσταται σε ένα τυποποιημένο σύνολο κανόνων που μπορεί να εφαρμοστεί σε έναν μεγάλο αριθμό υποθέσεων.

 

10 Βλ. αναλυτικά M.Taruffo, “Judicial Decisions and Artificial Intelligence” in Judicial Applications of Artificial Intelligence (eds. G.Sartor – K.Branting), Springer-Science+Business Media, B.V., 1998, pp. 207-220, όπου σημειώνεται ότι οποιαδήποτε προσπάθεια εφαρμογής ενός προγράμματος ΤΝ στην έκδοση δικαστικών αποφάσεων προϋποθέτει την κατανόηση του – ιδιαιτέρως περίπλοκου και διαλεκτικού στη φύση του – τρόπου σχηματισμού της δικανικής κρίσης και της αιτιολογίας της  δικαστικής απόφασης· κατανόηση η οποία δεν έχει επιτευχθεί απόλυτα με τα προταθέντα κατά καιρούς μοντέλα και η οποία καθίσταται ακόμη δυσχερέστερη στις περιπτώσεις που ο δικαστής έχει ευρεία ευχέρεια ως προς το αποτέλεσμα της δίκης, όπως π.χ. στην επιμέτρηση της ποινής.

 

11 Βλ. J.Villasenor-V.Foggo, Artificial Intelligence, Due Process, and Criminal Sentencing, 2020 Mich.St.L.Rev.295, 301. Υπάρχουν φυσικά διάφορες εκδοχές του ορισμού αυτού. Η εγκυκλοπαίδεια Brittanica ορίζει την ΤΝ ως «την ικανότητα ενός ψηφιακού υπολογιστή ή ενός ελεγχόμενου από υπολογιστή ρομπότ να εκτελούν ορισμένες ενέργειες που συνήθως συνδέονται με ευφυή πλάσματα» (https://www.britannica.com/technology/artificial-intelligence, τελ. επισκ. 14.3.2021).

 

12 Μάθηση με επίβλεψη είναι η διαδικασία κατά την οποία ο προγραμματιστής εκπαιδεύει το πρόγραμμα ορίζοντας ένα σύνολο επιθυμητών αποτελεσμάτων για ένα φάσμα δεδομένων (π.χ. ένα mail είναι/δεν είναι spam βάσει των λέξεων που περιέχει). Αυτό προϋποθέτει μια μεγάλη βάση με επισημειωμένα (labeled) δεδομένα και έλεγχο των αποτελεσμάτων από τον χρήστη. Μάθηση χωρίς επίβλεψη είναι η διαδικασία κατά την οποία το πρόγραμμα συνάγει μόνο του μοτίβα από τα δεδομένα που του δίνονται και εξάγει την πρόβλεψη ότι το μοτίβο αυτό θα επαναληφθεί όταν συνυπάρξουν εκ νέου τα δεδομένα που το συγκροτούν. Υπάρχει και η διαδικασία της μάθησης με ημι-επίβλεψη, όπου ένα μέρος των δεδομένων είναι επισημειωμένα, ενώ κατά τα λοιπά χρησιμοποιείται η τεχνική της μάθησης χωρίς επίβλεψη. Η μάθηση με ενίσχυση, τέλος, στηρίζεται σε μια διαδικασία ανταμοιβής του λογισμικού: το πρόγραμμα έρχεται αντιμέτωπο με συγκεκριμένα προβλήματα και καλείται να λάβει συγκεκριμένες αποφάσεις παρατηρώντας το περιβάλλον εντός του οποίου το πρόβλημα τίθεται. Αφού λάβει την απόφαση, το πρόγραμμα δέχεται μια απλή επιβράβευση αν η επιλογή του ήταν σωστή, οπότε την αποθηκεύει για μελλοντική χρήση. Βλ. αναλυτικά: D.Fumo, Types of Machine Learning Algorithms You Should Know, διαθέσιμο σε https://towardsdatascience.com/types-of-machine-learning-algorithms-you-should-know-953a08248861 (τελ.επισκ. 14.3.2021).

 

13 Η ιστορική εξέλιξη της ΤΝ ως θεωρητικής σύλληψης και ως πρακτικής εφαρμογής έχει μεγάλο ενδιαφέρον, αλλά η παρουσίασή της εκφεύγει των δυνατοτήτων της παρούσας εισήγησης. Σημαντικό μόνο να αναφέρουμε τη μετάβαση από τη «συμβολική» ΤΝ, που δημιουργούσε συστήματα βασισμένα σε κανόνες (rule-based systems), στη μηχανική μάθηση. Το βασικό πρόβλημα που κατέστησε αναγκαία την αναζήτηση ενός νέου δρόμου προς την επίτευξη της τεχνητής νοημοσύνης ήταν η λεγόμενη «συμφόρηση στην απόκτηση γνώσης» (knowledge acquisition bottle-neck): τα συμβολικά συστήματα στηρίζονται σε εξειδικευμένες γνώσεις (knowledge-based systems), τις οποίες όμως μπορούν να ταξινομήσουν κατάλληλα, ώστε να δημιουργήσουν οντολογίες, ορισμένα μόνο άτομα με τις κατάλληλες, εξειδικευμένες γνώσεις. Η προσπάθεια κατάταξης των πληροφοριών και διαμόρφωσης των κατάλληλων κανόνων επεξεργασίας του βάσει των γνωστών μεθόδων της λογικής είχε υπέρμετρο κόστος (σε ανθρώπινους πόρους καταρχάς) με αποτέλεσμα να οδηγείται σε αδιέξοδο όταν έπρεπε να αντιμετωπίσει πιο σύνθετα ζητήματα. Τα συστήματα μηχανικής μάθησης δεν είναι τελείως απαλλαγμένα από το πρόβλημα αυτό, βέβαια, ενόψει της ανάγκης τροφοδότησής τους με τεράστιες, προσεκτικά επιλεγμένες και επισημειωμένες (labeled), βάσεις δεδομένων. Βλ. τελείως ενδεικτικά: Ν. Aussenac-Gilles – F. Gandon, From the knowledge acquisition bottleneck to the knowledge acquisition overflow: A brief French history of knowledge acquisition. (2013) International Journal of Human-Computer Studies, vol. 71 (n° 2). pp. 157-165.

14 Για τις αρχικές και τις πιο σύγχρονες εκδοχές των legal expert systems και τα αναμενόμενα αδιέξοδά τους, βλ. K.D.Ashley, Artificial Intelligence and Legal Analytics – New Tools for Law Practice in the Digital Age, Cambridge University Press, Kindle Edition, 2017, σ. 7 επ..

15 Βλ. για παράδειγμα τον τρόπο με τον οποίο ο υπερυπολογιστής AlphaZero της εταιρίας Google κατάφερε να μάθει εκ του μηδενός σκάκι εντός 24 ωρών, παίζοντας με αντίπαλο τον εαυτό του, χωρίς να του έχει δοθεί καμία πληροφορία πέρα από τους βασικούς κανόνες του παιχνιδιού και μάλιστα σε τέτοιο επίπεδο ώστε να νικήσει το καλύτερο διαθέσιμο πρόγραμμα σκακιού στην αγορά (J.Villasenor-V.Foggo, Artificial Intelligence, Due Process, and Criminal Sentencing, 2020 Mich.St.L.Rev.295, 304). Δεν υπάρχει, βεβαίως, ευθεία αναλογία ανάμεσα στο σκάκι και μια δικαστική απόφαση, ενόψει του τελείως διαφορετικού περιβάλλοντος στο οποίο καλείται να κινηθεί η ΤΝ στην κάθε περίπτωση.

16 Για μια εξαντλητική παρουσίαση των υπολογιστικών μοντέλων που έχουν προταθεί και χρησιμοποιηθεί για την αναπαραγωγή ή πρόβλεψη του νομικού συλλογισμού, βλ. K.D.Ashley, Artificial Intelligence and Legal Analytics – New Tools for Law Practice in the Digital Age, Cambridge University Press, Kindle Edition, 2017. Προσπαθώντας να δώσει μια εικόνα των προβλημάτων που τίθενται, ο συγγραφέας αναφέρει χαρακτηριστικά ότι: «Ο κλάδος ΤΝ και Δίκαιο έχει ασχοληθεί επί μακρόν με τον σχεδιασμό υπολογιστικών προγραμμάτων που μπορούν να συνάγουν, με βάση τη λογική, νομικούς κανόνες από το θετό δίκαιο. Έκανε προόδους και έχει να επιδείξει ορισμένες επιτυχίες, αλλά επίσης ανέπτυξε μια κατανόηση του πόσο δύσκολο είναι το πρόβλημα. Στην πορεία, ο κλάδος έχει αναγνωρίσει μια σειρά από εμπόδια που πρέπει να αντιμετωπιστούν ή να τύχουν επεξεργασίας στην προσπάθεια σχεδιασμού ενός λογισμικού που θα μπορεί να εφαρμόσει κανόνες δικαίου. Τα εμπόδια αυτά περιλαμβάνουν την ασάφεια και δύο είδη απροσδιοριστίας στους κανόνες δικαίου [νοηματική και συντακτική απροσδιοριστία], την πολυπλοκότητα της ερμηνείας των κανόνων δικαίου, την ανάγκη υποστήριξης αντιτιθέμενων αλλά λογικών επιχειρημάτων για το νόημα ενός κανόνα δικαίου και πρακτικά προβλήματα που προκύπτουν από τη διαφοροποίηση ανάμεσα στις λογικές και τις γραμματικές ερμηνείες των κανόνων» (σ. 40). Στους εγγενείς περιορισμούς των συστημάτων ΤΝ όσον αφορά τη δυνατότητά τους να ενεργούν ως αυτόνομοι κρίνοντες επί νομικών υποθέσεων θα επανέλθουμε στο πέμπτο μέρος του παρόντος κειμένου.

17 Μια πρόσφατη μελέτη του Center for Information Systems Research του πανεπιστημίου ΜΙΤ [B.Wixom, I.Someh and R.Gregory, AI Alignment: a New Management Paradigm, 19.11.2020, διαθέσιμο σε https://cisr.mit.edu/publication/2020_1101_AI-Alignment_WixomSomehGregory (τελ. επισκ. 14.3.2021)] επισημαίνει ότι η επιτυχημένη ενσωμάτωση μιας εφαρμογής τεχνητής νοημοσύνης σε μια υπάρχουσα δομή (είτε πρόκειται για ιδιωτική εταιρία είτε για δημόσια υπηρεσία) προϋποθέτει τη λεγόμενη «ευθυγράμμιση τεχνητής νοημοσύνης», δηλαδή την επίτευξη τριών αλληλεξαρτώμενων συνθηκών συνοχής μεταξύ δυναμικών, μεταβαλλόμενων παραγόντων: «επιστημονική συνοχή» ανάμεσα στην πραγματικότητα και το μοντέλο· «συνοχή εφαρμογής», ανάμεσα στο μοντέλο και τη λύση· και «συνοχή ενδιαφερομένων», ανάμεσα στην προτεινόμενη λύση τεχνητής νοημοσύνης και τις ανάγκες των εμπλεκομένων μερών.

18 Βλ. αναλυτικά για το θέμα J.Villasenor-V.Foggo, Artificial Intelligence, Due Process, and Criminal Sentencing, 2020 Mich.St.L.Rev.295

19 State v. Loomis, 881 N.W.2d 749 (Wisconsin Supreme Court 2016).

20 People v. Younglove 2019, WL 846117, at *1 (Michigan Ct. App. Feb. 21, 2019).

21 Malenchik v. State, 928 N.E.2d 564 (Indiana Supreme Court 2010).

22 Βλ. https://www.dalloz-actualite.fr/interview/l-utilisation-de-l-outil-predictice-decoit-cour-d-appel-de-rennes#.X8z6FmgzaHt (τελ.επισκ. 14.3.2021).

23 Βλ. αναλυτικότερα, J. Barnett-Ph.Treleaven, Algorithmic Dispute Resolution—The Automation of Professional Dispute Resolution Using AI and Blockchain Technologies, The Computer Journal, Volume 61, Issue 3, March 2018, Pages 399–408, διαθέσιμο σε https://academic.oup.com/comjnl/article/61/3/399/4608879 (τελ.επισκ. 14.3.2021)· βλ. και Financial Times, Robots and AI threaten to mediate disputes better than lawyers, 14.8.2019, διαθέσιμο σε https://www.ft.com/content/187525d2-9e6e-11e9-9c06-a4640c9feebb (τελ.επισκ. 14.3.2021).

24 Βλ. Can AI Be a Fair Judge in Court? Estonia Thinks So, 25.3.2019, διαθέσιμο σε https://www.wired.com/story/can-ai-be-fair-judge-court-estonia-thinks-so/ (τελ.επισκ. 14.3.2021).

25 Βλ. https://e-estonia.com/artificial-intelligence-as-the-new-reality-of-e-justice/ (τελ.επισκ. 14.3.2021).

26 Πρβλ. την ανάλυση του τρόπου που αντιμετωπίζουν τον λόγο μίσους και τη διασπορά ψευδών ειδήσεων το Facebook και το Twitter ως ένα πρότυπο υβριδικής δικαστικής εκτίμησης σε T.Wu, Will Artificial Intelligence Eat the Law? The Rise of Hybrid Social-Ordering Systems, Columbia Law Review, Vol. 119:1, 1, 2019, ιδίως 13 επ.

27 Βλ. J.King, How We Review Content, διαθέσιμο σε https://about.fb.com/news/2020/08/how-we-review-content/ (τελ.επισκ. 14.3.2021).

28 J.Constine, Facebook spares humans by fighting offensive photos with AI, Techcrunch, 31.5.2016 διαθέσιμο σε https://techcrunch.com/2016/05/31/terminating-abuse/?guccounter=1&guce_referrer=aHR0cHM6Ly93d3cuZ29vZ2xlLmNvbS8&guce_referrer_sig=AQAAABMIGiXJmRI-j-ZUHylhPotJu2wv39scp3TZ_10008MH-yv3VDQKGmrrPCPSjGBNl-y7xeFcuuIQUFOGqCZlAvmWN5dqY0aOtxVILKuw0RXceny6c4u5o0kiYA4EMpIMpIuHl_QinnhrzpJwdIt_OHRIBYc5FVtTAe8XwS5wlBLp (τελ.επισκ. 14.3.2021).

29 T.Simonite, AI Has Started Cleaning Up Facebook, but Can It Finish?, Wired, 10.12.2018 διαθέσιμο σε https://www.wired.com/story/ai-has-started-cleaning-facebook-can-it-finish/ (τελ.επισκ. 14.3.2021).

30 Για «Ανώτατο Δικαστήριο» του Facebook κάνει λόγο ο καθηγητής Κ.Γιαννακόπουλος, αναφερόμενος στο Oversight Board που συνέστησε το Facebook (αποτελούμενο από διεθνούς εμβέλειας προσωπικότητες) για να εξετάζει αμφισβητήσεις ως προς τις αποφάσεις διαγραφής λογαριασμών ή αναρτήσεων, οι οποίες λαμβάνονται είτε από τους διαχειριστές περιεχομένου είτε αυτοματοποιημένα από το χρησιμοποιούμενο λογισμικό ΤΝ· βλ. Κ.Γιαννακόπουλου, Το «Ανώτατο Δικαστήριο» του Facebook και η κρυφή γοητεία του ιδιωτικού ψηφιακού συνταγματισμού, 27.2.2021, διαθέσιμο σε https://www.constitutionalism.gr/2021-02-27-yannakopoulos-ob-facebook/ (τελ.επισκ. 14.3.2021).

31 Βλ. και R.M.Re – A.Solow-Niederman, Developing Artificially Intelligent Justice, 22 Stan.Tech.L.Rev.242 (2019), 256.

32 Βλ. I.Irving, Facebook Just Apologised for Banning This World-Famous Painting, The Culture Trip, 28.3.2018, διαθέσιμο σε https://theculturetrip.com/europe/france/paris/articles/facebook-just-apologised-for-banning-this-world-famous-painting/ (τελ.επισκ. 14.3.2021).

33 Βλ. J.Warren, Why is Facebook Censoring This Iconic Photo?, Vanity Fair, 9.9.2016, διαθέσιμο σε https://www.vanityfair.com/news/2016/09/why-is-facebook-censoring-this-iconic-photo (τελ.επισκ. 20.2.2021). Αντίστοιχα περιστατικά υπήρξαν πολλά: για παράδειγμα, το Facebook μπλόκαρε μια διαφήμιση του Μουσείου Καλών Τεχνών του Μοντρεάλ επειδή περιελάμβανε τον πίνακα του Πικάσο «Femmes à la toilette» (βλ. https://www.bbc.com/news/world-us-canada-45062332, τελ. επισκ. 14.3.2021) και ανέστειλε τον λογαριασμό χρήστη που ανέβασε εικόνα του πίνακα του Gustave Courbet του 1866 «L’Origine du Monde», που απεικονίζει ένα γυναικείο αιδοίο (βλ. https://theculturetrip.com/europe/france/paris/articles/man-claimed-facebook-blocked-account-posting-world-famous-painting-now-hes-suing/, τελ. επισκ. 14.3.2021).

34 Βλ. J.Vincent, AI won’t relieve the misery of Facebook’s human moderators, The Verge, 27.2.2019, διαθέσιμο σε https://www.theverge.com/2019/2/27/18242724/facebook-moderation-ai-artificial-intelligence-platforms (τελ.επισκ. 14.3.2021), όπου παρατίθεται η άποψη του Robyn Caplan που σημειώνει ότι «το πρόβλημα με το να προσπαθούμε να κάνουμε τις μηχανές να καταλάβουν αυτό το είδος περιεχομένου [σ.σ. πορνογραφία, παρενόχληση, ψευδείς ειδήσεις, ρατσιστικός λόγος κλπ] συνίσταται στο ότι, στην ουσία, τους ζητάμε να καταλάβουν την ανθρώπινη κουλτούρα – ένα φαινόμενο υπερβολικά ρευστό και με λεπτό για να περιγραφεί σε απλούς, μηχαναγνώσιμους κανόνες».

35 Βλ. π.χ. τα πρότυπα EU Vocabularies για το Δίκαιο σε https://op.europa.eu/el/web/eu-vocabularies/concept/-/resource?uri=http://eurovoc.europa.eu/100145 (τελ.επισκ. 14.3.2021).

36 Για τη σημασία της ύπαρξης μεγάλων βάσεων μεταφορτώσιμων δεδομένων ως πρώτης ύλης των εφαρμογών ΤΝ και την πολιτική της Ε.Ε. προς το άνοιγμα περισσότερων δεδομένων προς επαναχρησιμοποίηση, βλ. Ι.Συμεωνίδη, Τεχνητή Νοημοσύνη και Δικαιοσύνη, ΕφημΔΔ 4/2019, 462, 463-464. Βλ. και M.Scherer, Artificial Intelligence and Legal Decision-Making: The Wide Open?, Journal of International Arbitration 36, no 5 (2019), 539-574, 554-561, ο οποίος σημειώνει τη σημασία που έχουν τέσσερα χαρακτηριστικά των μεγάλων βάσεων δεδομένων για κάθε εγχείρημα που στηρίζεται σε αυτά: ο όγκος, η ποικιλία, η ταχύτητα μεταβολής και η ακρίβεια των δεδομένων, καθορίζουν εν πολλοίς και την επιτυχία του εγχειρήματος. Στο πλαίσιο της νομολογίας τα χαρακτηριστικά αυτά μπορεί να μην είναι στον επιθυμητό βαθμό σε πολλές βάσεις δεδομένων: π.χ. μια μεταβολή νομολογίας μπορεί να καταστήσει άχρηστα όλα τα παλαιότερα νομολογιακά δεδομένα, σε έναν συγκεκριμένο τομέα δικαίου μπορεί να υπάρχουν λίγες προηγηθείσες αποφάσεις (και προφανώς μικρότερες χώρες έχουν μικρότερες βάσεις δεδομένων) και οι αποφάσεις συχνά επηρεάζονται από τις προκαταλήψεις των δικαστών, άρα οδηγούν σε αντίστοιχα εσφαλμένα δεδομένα.

37 Παραδείγματα τέτοιου εγγράφου μπορεί να θεωρηθούν τα Έντυπα Α και Β και Απάντησης, που χρησιμοποιούνται για την Ευρωπαϊκή διαδικασία μικροδιαφορών και είναι διαθέσιμα σε https://europa.eu/youreurope/business/dealing-with-customers/solving-disputes/european-small-claims-procedure/index_el.htm (τελ.επισκ. 14.3.2021) ή το έντυπο προσφυγής στο ΕΔΔΑ που είναι διαθέσιμο σε https://www.echr.coe.int/Pages/home.aspx?p=applicants/forms&c= (τελ.επισκ. 14.3.2021), αν και τα έντυπα αυτά δεν προορίζονται προς το παρόν για ηλεκτρονική κατάθεση. Για τη σημασία ανάπτυξης μιας εφαρμογής που θα βοηθάει ειδικώς τους διαδίκους που παρίστανται αυτοπροσώπως να καταγράφουν με δομημένο τρόπο τους πραγματικούς και νομικούς ισχυρισμούς τους στο δικόγραφο, βλ. και Ε.Τρουλινού, Οι προοπτικές της Τεχνητής Νοημοσύνης στο Ολοκληρωμένο Σύστημα Διαχείρισης Δικαστικών Υποθέσεων Διοικητικής Δικαιοσύνης (ΟΣΔΔΥ-ΔΔ), ΔΙΤΕ 3/2020, 374 επ.

38 Η εξέλιξη της ΤΝ δεν είναι γραμμική ούτε μονοσήμαντη. Ερευνητικές ομάδες επιχειρούν ταυτόχρονα καινοτομίες σε διαφορετικούς τομείς· η προσπάθεια σύνθεσης των καινοτομιών αυτών οδηγεί σταδιακά σε βελτιστοποίηση των αποτελεσμάτων. Ο K.D.Ashley, Artificial Intelligence and Legal Analytics – New Tools for Law Practice in the Digital Age, Cambridge University Press, 2017, Kindle Edition, σ. 3 επ. et passim θεωρεί ως καίριας σημασίας τις παράλληλες εξελίξεις στους τομείς της Απάντησης Ερωτήσεων (QA), Εξαγωγής Πληροφοριών (IE) και Εξόρυξης Επιχειρημάτων από Κείμενο (argument mining from text). Τα προγράμματα αυτά αδυνατούν, προς το παρόν, να κάνουν κατά κυριολεξία νομικούς συλλογισμούς, αν και μπορούν να δώσουν απαντήσεις σε νομικές ερωτήσεις. Ωστόσο, μπορούν να αποτελέσουν τη βάση για ένα νέο Υπολογιστικό Μοντέλο Νομικού Συλλογισμού (computational model of legal reasoning – CMLR) που θα μπορεί να παράγει επιχειρήματα υπέρ και κατά συγκεκριμένων αποτελεσμάτων σε προβλήματα που θα εισάγονται ως κείμενα, να προβλέπει το αποτέλεσμα ενός προβλήματος και να εξηγεί την πρόβλεψη αυτή με αιτιολογία που οι νομικοί θα μπορούν να κατανοήσουν και να αξιολογήσουν οι ίδιοι. Όταν φτάσουμε σε αυτό το σημείο, θα μπορούμε να μιλάμε πραγματικά για ένα σύστημα TN ικανό να λειτουργεί αξιόπιστα εντός του δικαστικού συστήματος.

39 Βλ. και M.Taruffo, “Judicial Decisions and Artificial Intelligence” in Judicial Applications of Artificial Intelligence (eds. G.Sartor – K.Branting), Springer-Science+Business Media, B.V., 1998, pp. 207-220, 213-215, όπου επισημαίνεται η σημασία της απλότητας, της επαναληπτικότητας και της συχνότητας των διαδικασιών που επιλέγονται για ψηφιακή διεκπεραίωση.

40 Για τη δυσκολία υπολογιστικής μοντελοποίησης των κανόνων απόδειξης κάνει ιδιαίτερο λόγο και ο K.D.Ashley, Artificial Intelligence and Legal Analytics – New Tools for Law Practice in the Digital Age, Cambridge University Press, Kindle Edition, 2017, σ. 145 επ.

41 Για την έννοια των standards βλ. St.Rials, Le juge administrative français et la technique du standard (essai sur le traitement juridictionnel de l’idée de normalité), L.G.D.J., Paris, 1980, σ. 21-26· Ευ.Κουτούπα-Ρεγκάκου, Ο ρόλος των αόριστων εννοιών στο σύγχρονο Κράτος Δικαίου σε Όψεις του Κράτους Δικαίου – Ιστορικές αναδρομές στην ελληνική θεωρία και σύγχρονες αναζητήσεις (επιμ. Κ.Μ.Σταμάτης), εκδ. Σάκκουλα, 1990, σ. 257-323, 265-266· Κ.Στρατηλάτη, Η συγκεκριμένη στάθμιση των συνταγματικών αξιών κατά τη δικαστική ερμηνεία του Συντάγματος, ΤοΣ 2001, 495-540, 526· Α.Μανιτάκη, Η ελευθερία της παιδείας και η αρχή της δικαιολογημένης εμπιστοσύνης (με αφορμή την αιφνίδια νομοθετική ρύθμιση υπαγωγής σε προηγούμενη άδεια των Εργαστηρίων Ελευθέρων Σπουδών), ΕφημΔΔ 2009, 87-95, 93.

42 Οι E.H.Tiller-F.B.Cross, What is legal doctrine?, Northwestern University Law Review, Vol. 100 (2006), No. 1, 517-534, 517 ορίζουν τα standards ως «άμορφους οδηγούς για την επίλυση διαφορών, οι οποίοι συχνά απαριθμούν μια σειρά παραγόντων που πρέπει να ληφθούν υπόψη και να σταθμιστούν», ορισμός που οπωσδήποτε τονίζει τη δυσχέρεια a priori προσδιορισμού του περιεχομένου τους. Δεν λείπουν βέβαια οι προσπάθειες «μαθηματικοποίησης» γενικών αρχών, όπως η αναλογικότητα: έτσι οι M.Klatt-M.Meister, The Constitutional Structure of Constitutionality, Oxford University Press, 2012, αναπτύσσοντας τις σχετικές σκέψεις του Robert Alexy προτείνουν διάφορες εκδοχές ενός μαθηματικού τύπου για τη στάθμιση μεταξύ δύο ανταγωνιζόμενων αρχών Pi και Pj, η βασική εκ των οποίων έχει τη μορφή: Wi,j= . Αυτός ο τύπος δεν απαλλάσσει βέβαια τον εφαρμοστή του δικαίου (είτε είναι άνθρωπος είτε εφαρμογή ΤΝ) από την ανάγκη να προσδώσει συγκεκριμένες τιμές στα W (αφηρημένο βάρος κάθε δικαιώματος), I (ένταση προσβολής), Re (αξιοπιστία των εμπειρικών προϋποθέσεων) και Rn (αξιοπιστία των κανονιστικών προϋποθέσεων της προσβολής), δηλαδή να προβεί σε ουσιαστικές εκτιμήσεις.

43 Είναι το γνωστό πρόβλημα του «μαύρου κουτιού»: ο τρόπος με τον οποίο καταλήγει στα συμπεράσματά της η τεχνητή νοημοσύνη είναι συχνά απολύτως αδύνατο να εξηγηθεί από οποιονδήποτε και το πρόβλημα είναι εντονότερο σε μορφές τεχνητής νοημοσύνης, όπως τα νευρωνικά δίκτυα, που δεν επεξεργάζονται τα δεδομένα βάσει δεδομένων εντολών, αλλά στηρίζονται στην αναγνώριση μοτίβων για να εξάγουν τον κατάλληλο αλγόριθμο. Βλ. αναλυτικά τα προβλήματα που τίθενται από την αδυναμία κατανόησης του τρόπου που εξάγει μία απόφαση η ΤΝ, R.M.Re – A.Solow-Niederman, Developing Artificially Intelligent Justice, 22 Stan.Tech.L.Rev.242 (2019), 262-267. Μια λύση θα ήταν η λειτουργία ενός παράλληλου συστήματος επαλήθευσης, που θα εξέταζε τα ίδια δεδομένα αφαιρώντας ορισμένες παραμέτρους, ώστε να εντοπίσει τις κρίσιμες. Βλ. σχετικά M.Scherer, Artificial Intelligence and Legal Decision-Making: The Wide Open?, Journal of International Arbitration 36, no 5 (2019), 539-574, 562-565. Μια άλλη λύση είναι η λήψη μιας «φωτογραφίας» (snapshot) των αλγορίθμων που χρησιμοποιεί η ΤΝ τη στιγμή που καταλήγει σε μία κρίση, προκειμένου να μπορεί να αναπαραχθεί το σκεπτικό της – βλ. σχετικά J.Villasenor-V.Foggo, Artificial Intelligence, Due Process, and Criminal Sentencing, 2020 Mich.St.L.Rev.295, 339 επ.

44 Μια εξέταση των προκλήσεων που δημιουργεί η συνέργεια δικαστών και εφαρμογών ΤΝ, βλ. σε R.M.Re – A.Solow-Niederman, Developing Artificially Intelligent Justice, 22 Stan.Tech.L.Rev.242 (2019), 282-265.

45 Βλ. Conseil Constitutionnel 2018-765 DC, σκ. 70-72. Παρουσίαση της υπόθεσης βλ. σε Ι.Συμεωνίδη, Τεχνητή Νοημοσύνη και Δικαιοσύνη, ΕφημΔΔ 4/2019, 462, 464.

46 Βλ. Gordon Graham, Internet – Μια κοινωνιολογική προσέγγιση, εκδ. Περίπλους, Αθήνα 2001, σ. 19 επ. Σύμφωνα με τον συγγραφέα, ο νεολουδισμός χαρακτηρίζεται αφενός από μια γενική αμφισβήτηση της αξίας των νέων τεχνολογιών έναντι του κόστους τους, αφετέρου από μία ματαιότητα – όπως χαρακτηριστικά αναφέρει «δεν μπορούμε να θεωρούμε μη γενόμενο αυτό που έχει ήδη εφευρεθεί, και από τη στιγμή που έχει εφευρεθεί κάτι, κάποιος κάπου θα θέλει να το χρησιμοποιήσει και μάλιστα επιτυχημένα».

47 Βλ. και K.D.Ashley, Artificial Intelligence and Legal Analytics – New Tools for Law Practice in the Digital Age, Cambridge University Press, Kindle Edition, 2017, σ. 12 ο οποίος αναφέρεται στις υποσχέσεις που αφήνει ο τομέας του cognitive computing στο νομικό πεδίο.