Οι εταιρείες ανακαλύπτουν ότι η δημιουργία πρακτόρων ΑΙ είναι εύκολη σε σύγκριση με την κατασκευή των συστημάτων που καθιστούν αυτούς τους πράκτορες αξιόπιστους σε περιβάλλον παραγωγής.
Οι ομάδες εταιρικής ΑΙ αφιέρωσαν τα τελευταία δύο χρόνια σε έναν αγώνα για την κατασκευή πρακτόρων. Τώρα αντιμετωπίζουν ένα διαφορετικό πρόβλημα: ελάχιστοι από αυτούς τους πράκτορες μπορούν πραγματικά να είναι αξιόπιστοι σε μεγάλη κλίμακα.
Το χάσμα αρχίζει να εμφανίζεται σε δημόσιους αριθμούς. Σύμφωνα με αναφορές, η Prosus κατασκεύασε εσωτερικά 50.000 πράκτορες, αλλά μόνο περίπου 5.000 λειτουργούν καθημερινά. Αυτή η αναλογία 10 προς 1 έχει γίνει ένα αποκαλυπτικό μέτρο για την τρέχουσα κατάσταση της εταιρικής παραγωγής ΑΙ. Το ζήτημα δεν είναι αν οι εταιρείες μπορούν να δημιουργήσουν πράκτορες. Είναι αν μπορούν να προσδιορίσουν αξιόπιστα ποιοι πράκτορες είναι ασφαλείς για ανάπτυξη, ποια αποτελέσματα είναι αξιόπιστα και τι συμβαίνει όταν τα συστήματα αποτυγχάνουν.
Αυτή η διάκριση έχει σημασία επειδή η υποσχόμενη αποδοτικότητα των αυτόνομων συστημάτων προϋποθέτει ότι τα συστήματα λαμβάνουν σωστές αποφάσεις εξαρχής.
Το Χάσμα από την Πειραματισμό στην Παραγωγή
Για πολλές ομάδες μηχανικών, το πρώιμο κύμα ανάπτυξης πρακτόρων ΑΙ κινήθηκε γρήγορα. Εσωτερικά copilots, αυτοματοποιητές ροής εργασιών και συστήματα πολλαπλών πρακτόρων εμφανίστηκαν σε όλα τα τμήματα. Οι επιδείξεις λειτούργησαν. Τα πιλοτικά προγράμματα φαίνονταν υποσχόμενα.
Τα περιβάλλοντα παραγωγής αφηγήθηκαν μια διαφορετική ιστορία.
Ο Antonio Bustamante, Διευθύνων Σύμβουλος της bem, έχει αφιερώσει χρόνια στην εργασία πάνω σε υποδομές ΑΙ για ρυθμιζόμενους κλάδους, συμπεριλαμβανομένων των ασφαλίσεων, των χρηματοοικονομικών και της υγειονομικής περίθαλψης. Από την οπτική του, το μεγαλύτερο εμπόδιο του κλάδου είναι η λογοδοσία.
Αναφέρεται σε ένα ευρέως συζητημένο περιστατικό που αφορά την Upstream, στο οποίο ένας πράκτορας ΑΙ εντάχθηκε σε ένα κανάλι Slack και η ανθρώπινη ομάδα φέρεται να σώπασε για 24 ώρες επειδή κανείς δεν ήξερε πώς να αλληλεπιδράσει μαζί του. Ο Bustamante υποστηρίζει ότι η σιωπή αποκάλυψε κάτι βαθύτερο: οι εταιρείες δεν έχουν σχεδιάσει επιχειρησιακά μοντέλα για εργασία δίπλα σε πράκτορες.
Το ίδιο μοτίβο εμφανίζεται μέσα σε μεγάλης κλίμακας εταιρικές αναπτύξεις. Οι ομάδες μπορούν γρήγορα να δημιουργήσουν χιλιάδες πράκτορες, αλλά η χρήση μειώνεται όταν αυτά τα συστήματα συναντούν ακατάστατα δεδομένα παραγωγής, ασαφή ιδιοκτησία ή αβέβαια αποτελέσματα.
Γι' αυτό πολλές εταιρείες βρίσκονται τώρα με εκτεταμένες προσπάθειες ανάπτυξης πρακτόρων ΑΙ αλλά σχετικά μικρή πραγματική εταιρική παραγωγή ΑΙ.
Γιατί τα Συστήματα Πολλαπλών Πρακτόρων Συνεχίζουν να Καθυστερούν
Μέρος του προβλήματος προέρχεται από τον τρόπο που λειτουργούν στην πραγματικότητα τα εταιρικά περιβάλλοντα.
Σε ελεγχόμενες επιδείξεις, τα δεδομένα είναι καθαρά και οι ροές εργασιών είναι προβλέψιμες. Οι πραγματικές οργανώσεις σπάνια λειτουργούν με αυτόν τον τρόπο. Τα περισσότερα εταιρικά συστήματα περιέχουν κατακερματισμένα αρχεία, ασύμβατες μορφές, ελλείπον πλαίσιο και χρόνια συσσωρευμένων επιχειρησιακών παρακάμψεων.
Ο Bustamante συγκρίνει την κατάσταση με τη γραμμή συναρμολόγησης. Το μοντέλο κατασκευής του Henry Ford πέτυχε επειδή οι εισροές τυποποιήθηκαν πριν κλιμακωθεί η παραγωγή. Τα συστήματα πολλαπλών πρακτόρων αντιμετωπίζουν την αντίθετη συνθήκη. Αναμένεται να λειτουργούν σε μη τυποποιημένα εταιρικά δεδομένα, κάτι που είναι χαρακτηριστικό των περισσότερων εταιρικών περιβαλλόντων.
Ορισμένες εταιρείες έχουν ήδη δημόσια αναγνωρίσει το επιχειρησιακό βάρος. Σε αρκετές αναπτύξεις, οι οργανισμοί βρέθηκαν να αναθέτουν σε ανθρώπους αναθεωρητές για συνεχή επαλήθευση των αποτελεσμάτων των πρακτόρων. Σε ένα παράδειγμα που κυκλοφορεί στον κλάδο, ένα σύστημα πολλαπλών πρακτόρων φέρεται να απαιτούσε 20 άτομα για να επικυρώνουν τα αποτελέσματα παρασκηνιακά.
Αυτό αλλάζει εντελώς τα οικονομικά. Τα υποσχόμενα κέρδη από την ανάπτυξη αυτόνομων πρακτόρων εξαφανίζονται αν οι άνθρωποι εξακολουθούν να χρειάζεται να επαληθεύουν κάθε απόφαση χειροκίνητα.
Βαθμολόγηση Εμπιστοσύνης και το Ελλείπον Επίπεδο Λογοδοσίας
Ο Bustamante υποστηρίζει ότι η βαθμολόγηση εμπιστοσύνης έχει γίνει ένα από τα πιο παραμελημένα συστατικά στη διακυβέρνηση ΑΙ και στην παραγωγή υποδομής ΑΙ. Χωρίς συστήματα που μπορούν να μετρήσουν την αβεβαιότητα, οι χειριστές δεν έχουν αξιόπιστο τρόπο να προσδιορίσουν ποιοι πράκτορες είναι έτοιμοι για παραγωγή και ποιοι απαιτούν παρέμβαση.
Στην πράξη, η βαθμολόγηση εμπιστοσύνης σημαίνει περισσότερο από την απόδοση ενός ποσοστού σε μια απάντηση. Απαιτεί συστήματα που μπορούν να εξηγήσουν την αβεβαιότητα, να ανιχνεύσουν τις αποφάσεις πίσω στα δεδομένα πηγής και να δημιουργήσουν σημεία ελέγχου human-in-the-loop πριν τα σφάλματα πολλαπλασιαστούν σε ροές εργασιών.
Αυτό το επίπεδο λογοδοσίας ΑΙ γίνεται ιδιαίτερα σημαντικό σε κλάδους όπου τα λάθη έχουν οικονομικές ή νομικές συνέπειες. Μια αποτυχημένη αναθεώρηση ασφαλιστικής αξίωσης, σφάλμα εξαγωγής υγειονομικών δεδομένων ή λάθος χρηματοοικονομικής επεξεργασίας μπορεί να αποτελέσει γεγονός ευθύνης.
Ο Bustamante περιγράφει την ευρύτερη θέση της bem ως «Η πλατφόρμα ενορχήστρωσης πρακτόρων για πράγματα που δεν μπορούν να αποτύχουν». Η φράση αντικατοπτρίζει μια αυξανόμενη συνειδητοποίηση σε ολόκληρο τον κλάδο: η αξιοπιστία πρακτόρων ΑΙ εξαρτάται λιγότερο από το πόσους πράκτορες αναπτύσσετε και περισσότερο από το αν μπορείτε να ανιχνεύσετε, να ελέγξετε και να διορθώσετε αποφάσεις όταν κάτι πάει στραβά.
Πώς Μοιάζει η Έτοιμη για Παραγωγή Υποδομή
Η επόμενη φάση της εταιρικής ΑΙ μπορεί να έχει λιγότερο να κάνει με την κατασκευή περισσότερων πρακτόρων και περισσότερο με την κατασκευή συστημάτων γύρω από αυτούς.
Οι εταιρείες που εστιάζουν στη μακροπρόθεσμη χρήση πρακτόρων ΑΙ αναζητούν ολοένα και περισσότερο υποδομές που παραμένουν ευέλικτες κατά την εκτέλεση, είναι άκαμπτες στα αποτελέσματα και είναι ανιχνεύσιμες υπό συνθήκες αποτυχίας. Αυτό περιλαμβάνει βαθμολόγηση εμπιστοσύνης, ίχνη ελέγχου, σημεία παρέμβασης, τυποποίηση δεδομένων και συστήματα διακυβέρνησης σχεδιασμένα για παραγωγή, όχι για επιδείξεις.
Οι εταιρείες που κλείνουν το χάσμα μεταξύ πειραματισμού με συστήματα πολλαπλών πρακτόρων και πραγματικής ανάπτυξης μπορεί να μην είναι αυτές με τους περισσότερους πράκτορες. Μπορεί να είναι αυτές που τελικά κατασκευάζουν την υποδομή λογοδοσίας που οι επιχειρήσεις παρέλειψαν την πρώτη φορά.
