Του Κώστα Τσερμενίδη*
Η συζήτηση γύρω από την τεχνητή νοημοσύνη (ΤΝ) επικεντρώνεται συνήθως στις εντυπωσιακές της δυνατότητες, να εντοπίζει μοτίβα, να παράγει προβλέψεις, να λαμβάνει αποφάσεις και να δημιουργεί περιεχόμενο με ταχύτητα και αποτελεσματικότητα που μέχρι πρότινος θεωρούνταν αδιανόητες. Τα οφέλη είναι πραγματικά και εξηγούν γιατί επιχειρήσεις και οργανισμοί εντάσσουν την ΤΝ στις λειτουργίες τους.
Ωστόσο, αυτή η δυναμική επισκιάζει μια βαθύτερη πρόκληση για τη λειτουργία της διαχείρισης κινδύνων. Δεν αρκεί πλέον η εκτίμηση πιθανοτήτων και επιπτώσεων, αλλά απαιτείται επιπροσθέτως έλεγχος, τεκμηρίωση και αιτιολόγηση της χρήσης συστημάτων των οποίων οι εσωτερικές διαδικασίες δεν είναι πάντοτε πλήρως ερμηνεύσιμες. Το άρθρο ξεκινά από τη σκοπιά επιχειρήσεων και οργανισμών που εντάσσουν την ΤΝ στο πλαίσιο ελέγχου, συμμόρφωσης και απόδοσης ευθύνης, και προεκτείνει τη συζήτηση στις ευρύτερες συστημικές και υπαρξιακές προκλήσεις της ΤΝ για την ανθρώπινη διάνοια και ελευθερία.
Η ΤΝ θα επηρεάσει ασφαλώς πολλούς επαγγελματικούς ρόλους. Η διαχείριση κινδύνων όμως διαφοροποιείται, γιατί δεν είναι μόνο πιθανός χρήστης της, αλλά και η λειτουργία που καλείται να αξιολογήσει, να τεκμηριώσει και να αμφισβητήσει τη χρήση της από τον οργανισμό. Εκεί όπου άλλες μονάδες μπορεί να εστιάζουν κυρίως στην αποτελεσματικότητα, την ταχύτητα ή στη μείωση κόστους, η διαχείριση κινδύνων οφείλει να εξετάζει τις δυνατότητες ελέγχου, την ευθύνη, τη συμμόρφωση και τις πιθανές επιπτώσεις.
Οι καθοριστικές αλλαγές των τελευταίων ετών γύρω από την ΤΝ δεν προήλθαν από κάποια αντίστοιχη πρόοδο στη θεωρητική στατιστική, την ποσοτική ανάλυση, τη μαθηματική τεκμηρίωση ή τις μεθόδους βελτιστοποίησης. Το μεγαλύτερο μέρος της προόδου βασίστηκε κυρίως σε δύο παράγοντες, την αλματώδη αύξηση της υπολογιστικής ισχύος και τη μεγάλη διαθεσιμότητα δεδομένων, παράγοντες που επέτρεψαν την πολύ πλούσια παραμετροποίηση των γλωσσικών μοντέλων.
Οι μηχανές απέκτησαν τη δυνατότητα να επεξεργάζονται τεράστιους όγκους πληροφορίας, να αναδεικνύουν εμπειρικές σχέσεις και να παράγουν αποτελέσματα χωρίς να απαιτείται η πλήρης κατανόηση των μηχανισμών που τα παράγουν. Οι σχέσεις που δημιουργούν τα αποτελέσματα της ΤΝ δεν υπαγορεύονται από κάποια υφιστάμενη θεωρία, κάποιο πλαίσιο ή γνωστό μηχανισμό που να καθιστά την ερμηνεία τους επικοινωνήσιμη. Αυτά προϋπήρχαν στο νόημα των κειμένων πάνω στα οποία αυτή εκπαιδεύτηκε αποσυνθέτοντας και ανασυνθέτοντας νοήματα και εκφράσεις. Έτσι, παρά τις ικανότητες που διευρύνουν οι τεχνολογικές εξελίξεις, το βάρος φαίνεται να μετατοπίζεται από την ανθρώπινη διάνοια στη μηχανική ικανότητα.
Η μεταβολή αυτή είχε ήδη αρχίσει να διαφαίνεται με τις τάσεις των big data και machine learning. Θυμόμαστε πόσο ευρέως διαδεδομένοι έγιναν αυτοί οι όροι στον κόσμο των επιχειρήσεων, συχνά και ως εμπορικά αφηγήματα για την πώληση σχετικών υπηρεσιών. Πίσω όμως από αυτή τη μόδα υπήρχε μια ουσιαστική μετατόπιση, όσο αυξάνονταν τα διαθέσιμα δεδομένα και η υπολογιστική δυνατότητα, τόσο οι ερμηνευτικές προσεγγίσεις υποχωρούσαν μπροστά σε τεχνολογίες προβλεπτικής ισχύος. Οι επιχειρήσεις δεν λειτουργούν βέβαια ως επιστημονικά εργαστήρια. Ωστόσο, μεγάλο μέρος της ποσοτικής ανάλυσης και διαχείρισης δεδομένων που εφαρμόζουν αντλεί τη νομιμοποίησή του από την επιστημονική λογική, τη διατύπωση υπόθεσης, τη μοντελοποίηση, τον εμπειρικό έλεγχο και την ερμηνεία. Αυτό το σχήμα σταδιακά αντικαθίσταται από μοντέλα που δεν αποτιμώνται ως αναπαραστάσεις του κόσμου, αλλά ως μηχανισμοί παραγωγής αποτελεσμάτων.
Τα μοντέλα των νέων αυτών τάσεων δεν είναι κατ’ ανάγκη δυσνόητα ως θεωρητικές κατασκευές, αλλά βασίζονται όπως προαναφέρθηκε σε τεράστιο αριθμό παραμέτρων. Με τον τρόπο αυτό, καθίσταται ολοένα και δυσκολότερο για την ανθρώπινη νόηση να παρακολουθήσει τη λειτουργία της ΤΝ με τρόπο που να μπορεί να επικοινωνήσει, να ερμηνεύσει και να αιτιολογήσει τα αποτελέσματά της χωρίς πρόσθετη κωδικοποίηση, δηλαδή χωρίς κόστος, πόρους, χρόνο και επιπλέον κινδύνους.
Το ζήτημα εντείνεται αν αναλογιστούμε τον διευρυμένο ρόλο της ΤΝ. Τα σύγχρονα συστήματα δεν περιορίζονται στη διαχείριση και ανάλυση δεδομένων, την πρόβλεψη ή την ταξινόμηση, αλλά συμμετέχουν ολοένα και περισσότερο στη λήψη αποφάσεων, στον χειρισμό εννοιών, στη διαμόρφωση σεναρίων και στην υποστήριξη στρατηγικών επιλογών. Επομένως, το θέμα για τη διαχείριση κινδύνων δεν είναι μόνο αν τα συστήματα αυτά είναι αποτελεσματικά, αλλά και αν η αποτελεσματικότητά τους μπορεί να ενταχθεί σε ένα πλαίσιο κατανόησης, ελέγχου, τεκμηρίωσης, απόδοσης ευθύνης και διορθωτικών ενεργειών.
Έτσι μετατοπίζεται το κριτήριο αξιολόγησης της γνώσης, από την κατανόηση στην εμπιστοσύνη. Σαν να μην έχει πρωταρχική σημασία αν μπορούμε να εξηγήσουμε πλήρως ένα αποτέλεσμα. Αρκεί όλο και περισσότερο το γεγονός ότι το αποτέλεσμα λειτουργεί εμπειρικά και επικυρώνεται. Η γνώση μετακινείται από το explanation στο validation και η διαχείριση κινδύνων καλείται να αξιολογήσει συστήματα που είναι αποτελεσματικά, όχι όμως και ανασυνθέσιμα.
Παρόλα αυτά, η διατύπωση ότι η ΤΝ είναι ανεξέλεγκτη θα ήταν τεχνικά αφελής. Οι ειδικοί γνωρίζουν την αρχιτεκτονική των μοντέλων, τις διαδικασίες εκπαίδευσης, τα εργαλεία αξιολόγησης, τα συστήματα παρακολούθησης και τα controls. Στις επιχειρησιακές εφαρμογές, τα Μεγάλα Γλωσσικά Μοντέλα (LLMs) σπάνια λειτουργούν αυτοτελώς. Εφαρμόζονται περιφερειακά σχετικές λειτουργίες όπως RAGs, agents, workflows, APIs, logging και διαδικασίες ανθρώπινου ελέγχου.
Το κρίσιμο ζήτημα συνεπώς δεν είναι η απουσία εποπτείας, αλλά ότι ο ρόλος αυτής μετατοπίζεται από την αιτιώδη κατανόηση προς έναν διαδικαστικό a posteriori έλεγχο. Ακόμη και πλαίσια και αρχές όπως το AI alignment, το Explainable και Interpretable AI κλπ, δεν αίρουν πάντοτε αυτή τη διάκριση. Μπορούν να καταστήσουν πιο κατανοητά τα επιμέρους στάδια ή τη συμπεριφορά ενός συστήματος, χωρίς όμως να αποδίδουν πάντα πλήρως την εσωτερική αιτιώδη διαδρομή παραγωγής του συγκεκριμένου αποτελέσματος στον τελικό χρήστη κατά τη συνήθη επιχειρησιακή λειτουργία.
Άλλο πράγμα είναι ο ανθρώπινος συλλογισμός, η αιτιώδης συνάφεια και η ερμηνευτική αλυσίδα που συνδέει δεδομένα, υποθέσεις και συμπεράσματα και άλλο πράγμα ο τρόπος με τον οποίο ένα μεγάλο γλωσσικό μοντέλο αποτυπώνει σχέσεις ως συσχετίσεις, πιθανότητες και εσωτερικές αναπαραστάσεις. Η διαχείριση κινδύνων βρίσκεται ακριβώς σε αυτή τη μετατόπιση ρόλου.
Θα μπορούσε κανείς να αντιτείνει ότι η ανησυχία αυτή είναι υπερβολική. Ήδη λαμβάνονται μέτρα από θεσμούς. Η Ευρωπαϊκή Ένωση ρυθμίζει το πλαίσιο μέσω του AI Act που προβλέπει απαιτήσεις διαχείρισης κινδύνων, διακυβέρνησης δεδομένων, τεκμηρίωση, διαφάνεια, ανθρώπινη εποπτεία. Όπως αναφέρθηκε, πεδία έρευνας και εφαρμογής αναπτύσσονται με σκοπό τον έλεγχο και την κατανόηση των εσωτερικών μηχανισμών των μηχανών, την ερμηνεία των αποτελεσμάτων τους και την ευθυγράμμιση με ανθρώπινες αξίες.
Η αντίρρηση αυτή είναι βάσιμη, αλλά αφορά κυρίως την παρούσα ΤΝ, η οποία σε μεγάλο βαθμό εξακολουθεί να μεταμορφώνει εσωτερικές δομές σε ανθρωπομορφικά χαρακτηριστικά και φαίνεται ότι “σκέφτεται”, λειτουργεί και εκφράζεται σε όρους αντιληπτούς από τον άνθρωπο. Οι εσωτερικές της διαδικασίες, αν και συχνά αδιαφανείς για τον μέσο χρήστη, παραμένουν σε κάποιον βαθμό αναλύσιμες από τους ειδικούς. Ο άνθρωπος εξακολουθεί να έχει εποπτεία του γενικότερου πλαισίου δράσης του συστήματος.
Υπό αυτή την έννοια, ο ρόλος της διαχείρισης κινδύνων παραμένει υπαρκτός όσο η ΤΝ λειτουργεί εντός ανθρωποκεντρικών στόχων, αναγκών και ελέγχων. Το ερώτημα όμως αφορά την αναμενόμενη πορεία της ΤΝ και το κατά πόσο η διαχείριση κινδύνων θα μπορεί να την παρακολουθήσει χωρίς να μετατραπεί σε μηχανισμό τυπικής νομιμοποίησης αποτελεσμάτων που δεν κατανοεί ουσιαστικά. Αυτό θα συμβεί αν η πρώτη αποκτήσει βαθμούς αυτονομίας που δεν μπορούν πλέον να την περιορίσουν σε ανθρωπομορφικούς ή ανθρωποκεντρικούς όρους. Τότε το πρόβλημα από απλώς εταιρικό, θα μετατοπιστεί σε επίπεδο οικονομίας, κοινωνίας και ανθρωπότητας και τότε τα ρυθμιστικά πλαίσια ίσως δεν αρκούν από μόνα τους.
Ακόμη και πριν όμως φτάσουμε σε αυτό το μελλοντικό όριο, η τάση είναι ήδη ορατή. Όταν ένας οργανισμός μιλά για AI department, AI transformation κλπ, στη συντριπτική πλειοψηφία των περιπτώσεων δεν αναφέρεται σε ένα foundation model αντίστοιχο των GPT, Claude ή Gemini που έχει αναπτυχθεί in-house. Τα LLMs είναι proprietary assets των εταιρειών που τα ανέπτυξαν. Οι οργανισμοί είναι συνήθως καταναλωτές της ΤΝ, αξιοποιούν υφιστάμενα LLMs και χτίζουν γύρω τους εφαρμογές και συστήματα όπως αυτά που προαναφέρθηκαν, governance frameworks, evaluation procedures, model-risk controls και security layers.
Έτσι ο οργανισμός ελέγχει κυρίως το επιχειρησιακό περίβλημα της εφαρμογής χωρίς ολοκληρωμένη ανάγνωση των συνθηκών παραγωγής αποτελεσμάτων. Δεν έχει τη δυνατότητα να ανασυνθέσει πλήρως, με ανθρώπινα ερμηνεύσιμο και αιτιώδη τρόπο την εκάστοτε απόκριση του μοντέλου. Και οι δυσκολίες κατανόησης και επικοινωνίας δεν είναι θέμα έλλειψης τεχνικών γνώσεων, αλλά είναι θέμα πόρων, δομικό και διατύπωσης.
Χωρίς διαφανείς και ερμηνεύσιμες σχέσεις που να συνάδουν με αιτιώδη συλλογισμό, η διαχείριση κινδύνων θα χάσει ένα κρίσιμο μέρος της λειτουργίας της. Μπορεί να διαθέτει ακριβέστερες προβλέψεις, αλλά θα δυσκολεύεται να τις μετατρέψει σε χρήσιμη ανθρώπινη πληροφορία. Διαφάνεια, τεκμηρίωση, logs, audit trails και validation frameworks παρέχουν σχετικό έλεγχο και λογοδοσία. Ωστόσο, δεν ταυτίζονται με πλήρη αιτιώδη κατανόηση.
Ακόμη και πεδία έρευνας που αποσκοπούν ακριβώς στην ερμηνεία των αποτελεσμάτων της ΤΝ, φαίνεται να αντιμετωπίζουν προκλήσεις που είναι αμφίβολο αν οργανισμοί που λειτουργούν με κριτήριο την απόδοση θα φανούν πρόθυμοι να αντιμετωπίσουν αναλαμβάνοντας το σχετικό κόστος. Ένα μέρος της προόδου και παραγωγικότητας μπορεί να αντισταθμιστεί από επιπλέον κόστη συμμόρφωσης, επιπτώσεων λόγω σφαλμάτων, ή εσφαλμένων αποφάσεων. Επιπλέον αυτού, η αλυσίδα ευθύνης γίνεται πολυεπίπεδη καθώς μέρη της είναι ο πάροχος του μοντέλου (εξωτερικός), ο οργανισμός, οι περιφερειακές εφαρμογές και διαδικασίες, χρήστες, σημεία ελέγχου και διοίκηση. Όσο περισσότερα είναι τα επίπεδα, τόσο περισσότεροι πόροι απαιτούνται για τον έλεγχο και την απόδοση ευθυνών.
Για να αντιληφθούμε καλύτερα τον μεταβατικό αυτό ρόλο της διαχείρισης κίνδυνων αναφορικά με την ΤΝ, ίσως είναι σκόπιμο να δούμε το φαινόμενο από μια γενικότερη οπτική, ως ζήτημα ανθρώπινης αυτονομίας και όχι μόνο εταιρικού ελέγχου. Η ΤΝ φαίνεται κατά μια έννοια να κινείται παράλληλα με την ανθρώπινη γνώση και λογική χωρίς να εφάπτεται. Όπως η ανθρώπινη σκέψη κινείται παράλληλα με την υλική πραγματικότητα επιχειρώντας να την αναπαραστήσει, να την ερμηνεύσει και να την οργανώσει σε έννοιες, έτσι και τα LLMs κινούνται παράλληλα με τη γλώσσα, τη γνώση και τα δεδομένα, επιχειρώντας να τα αναπαραγάγουν μέσα από μοτίβα και πιθανότητες. Μόνο που τώρα έχουμε δύο παραλληλίες, μία μεταξύ πραγματικότητας και ανθρώπινης λογικής και μία μεταξύ της λογικής και των μεγάλων γλωσσικών μοντέλων με τις δικές τους εσωτερικές αναπαραστάσεις. Η ανθρώπινη γλώσσα ορίζει τον υλικό κόσμο κατά προσέγγιση. Όμως τα LLMs δεν ορίζουν κατά προσέγγιση τον υλικό κόσμο. Ορίζουν κατά προσέγγιση την ανθρώπινη γλώσσα.
Αν ήδη δυσκολευόμαστε να ερμηνεύσουμε πλήρως τη φύση του υλικού κόσμου μέσω της ανθρώπινης λογικής, γιατί να θεωρήσουμε ότι δεν θα αντιμετωπίσουμε ακόμη μεγαλύτερα προβλήματα όταν επιχειρούμε να προσεγγίσουμε την πραγματικότητα μέσω των LLMs; Κάποιοι έλεγαν ότι οι άνθρωποι δεν είναι μόνο αριθμοί. Αυτό υπέθετε την ύπαρξη μιας ανθρώπινης πραγματικότητας όπου οι αριθμοί και οι αναπαραστάσεις του υλικού κόσμου δεν επαρκούν για την ικανοποίηση των αναγκών όπως οι άνθρωποι τις αντιλαμβάνονται. Η ΤΝ φαίνεται να αξιοποιεί αυτή τη διαπίστωση για βραχυπρόθεσμα οφέλη. Οι άνθρωποι δεν ζητούν πάντοτε αποδείξεις και πλήρη αιτιώδη τεκμηρίωση. Συχνά αρκεί τα αποτελέσματα να έχουν ανθρώπινη μορφή, γλωσσική συνοχή και πρακτική χρησιμότητα.
Έτσι η ΤΝ κατέστη χρήσιμη όντας εκπαιδευμένη σε ανθρώπινο λόγο χωρίς τον περιορισμό να ανταποκρίνεται σε καταστάσεις της πραγματικότητας. Το σημείο αυτό έχει σημασία για τη διαχείριση κινδύνων, γιατί η αποδοχή ενός αποτελέσματος δεν βασίζεται μόνο στην τεχνική του ακρίβεια, αλλά και στον τρόπο με τον οποίο παρουσιάζεται. Ένα αποτέλεσμα μπορεί να γίνει αποδεκτό επειδή είναι γλωσσικά οικείο, πειστικό και πρακτικά χρήσιμο, ακόμη και αν η διαδρομή παραγωγής του δεν είναι πλήρως ερμηνεύσιμη. Η ανθρωπομορφική επιφάνεια της ΤΝ είναι επομένως μέρος του κινδύνου.
Σε αυτό το πλαίσιο αναδεικνύεται και ένα ακόμη ζήτημα. Σε επίπεδο επιχείρησης, η επιλογή των στόχων δεν είναι ανεξάρτητη από το περιβάλλον, τις συνθήκες και τις δυνατότητες επίτευξής τους. Αντίστοιχα, σε επίπεδο ατόμου, ο ορισμός των αναγκών δεν είναι ανεξάρτητος από το οικονομικό, κοινωνικό και τεχνολογικό πλαίσιο μέσα στο οποίο αυτές διαμορφώνονται. Οι συνθήκες και οι δυνατότητες δεν επηρεάζουν μόνο την πιθανότητα επίτευξης ενός δεδομένου στόχου, αλλά και το ποιοι στόχοι ορίζονται εξαρχής ως εφικτοί, επιθυμητοί ή άξιοι επιδίωξης. Επομένως, η ΤΝ, μεταβάλλοντας τις δυνατότητες δράσης και διατηρώντας χαμηλά τον πήχη της διαφάνειας, θα υπαγορεύει μια διπλή παραχώρηση εμπιστοσύνης, όχι μόνο στο πώς γίνονται τα πράγματα, αλλά και στο ποια πράγματα γίνονται.
Για τη διαχείριση κινδύνων, αυτό σημαίνει ότι ο κίνδυνος της ΤΝ δεν περιορίζεται στα σφάλματα, τις παραβιάσεις και τις τεχνικές αστοχίες και ο ρόλος της διευρύνεται. Καλείται να εξετάσει όχι μόνο αν η μηχανική παραγωγή αποτελέσματος είναι αποτελεσματική, αλλά και αν παραμένει συμβατή με την ανθρώπινη και επιχειρησιακή ανάγκη για νόημα, εξήγηση και υπεύθυνη απόφαση. Αν ο άνθρωπος επιλέξει αποκλειστικά τον δρόμο της αποτελεσματικότητας, θα κερδίσει ταχύτητα, ακρίβεια, προβλεπτική ισχύ και επιχειρησιακή απόδοση. Θα πρέπει όμως να αποδεχθεί ότι μέρος της κατανόησης και της αιτιολόγησης μεταφέρεται σε μηχανισμούς που δεν είναι πλήρως προσβάσιμοι στη δική του νόηση.
Συμπερασματικά, η ΤΝ δεν δημιουργεί μόνο πρόβλημα ερμηνευσιμότητας, αλλά ζήτημα διακυβέρνησης, διαχείρισης κινδύνων και τελικά ανθρώπινης αυτονομίας. Όσο περισσότερο αντικαθιστούμε την κατανόηση με τη βεβαιότητα επί των αποτελεσμάτων, τόσο αποκλίνουμε από τη στενή έννοια του “informed decision”, τον πλήρη έλεγχο και την ευθύνη. Η εξέλιξη αυτή μεταβάλλει τον τρόπο με τον οποίο μετατρέπουμε την πληροφορία σε γνώση, τη γνώση σε απόφαση και την απόφαση σε ευθύνη. Το ερώτημα δεν είναι αν οι μηχανές θα γίνουν πιο αποτελεσματικές, αλλά αν ο άνθρωπος, επιλέγοντας αυτή την αποτελεσματικότητα, θα μπορέσει να διατηρήσει την ικανότητα να κατανοεί, να εποπτεύει και τελικά να προσδιορίζει ο ίδιος το μέλλον του.
*Οικονομολόγος, PhD, PRM
