Οι επιστημονικές πηγές και οι πηγές διακυβέρνησης πίσω από τη μηχανή, στο επίπεδο που μπορούμε να δημοσιεύσουμε. Περιγράφει τον τρόπο λειτουργίας της εταιρείας, όχι ένα προϊόν προς πώληση.
Ένα επίπεδο διοίκησης με έξι διαρκείς ρόλους AI πάνω από μια κοινή μνήμη με δυνατότητα αναζήτησης. Κάθε σημαντικό αποτέλεσμα περνά από στάδιο κριτικής αξιολόγησης προτού γίνει απόφαση. Οι αποφάσεις καταγράφονται και αργότερα αξιολογούνται σε σχέση με όσα συνέβησαν στην πράξη. Οι ενέργειες που επηρεάζουν την παραγωγή περνούν από καθορισμένες πύλες ποιότητας και τα σημαντικά αρχεία διατηρούνται σε μορφή που δείχνει αν τροποποιηθούν αργότερα. Αυτή είναι η πλήρης εικόνα στο επίπεδο που δημοσιεύουμε.
UC Berkeley RDI, μάθημα Agentic AI, F25 (Φθινόπωρο 2025). Δημόσιο μάθημα. Χρησιμοποιήθηκε για δομές πολλαπλών πρακτόρων, μνήμη πρακτόρων, ανάπτυξη σε παραγωγή και σχεδιασμό αξιολόγησης. rdi.berkeley.edu
Sumers, Yao, Narasimhan, Griffiths. Γνωστικές Αρχιτεκτονικές για Γλωσσικούς Πράκτορες (CoALA), 2023. Ανοιχτό προδημοσίευμα, arXiv:2309.02427. Αναφορά για το επίπεδο μνήμης.
Swanson et al. Πράκτορες AI για αυτόνομη επιστημονική ανακάλυψη (το Virtual Lab), Nature, 2024. Αναφορά για τον συντονισμό πολλαπλών πρακτόρων· ανοιχτό αντίγραφο μέσω του PubMed Central.
Sierra, αρχές ανάπτυξης πρακτόρων παραγωγής, μέσω του μαθήματος Berkeley RDI. Η υποδομή γύρω από έναν πράκτορα, η οποία δεν είναι το ίδιο το μοντέλο.
Anthropic, Building Effective Agents, 2024. Απλοί, ελέγξιμοι σχεδιασμοί πρακτόρων και περιορισμένη εξουσιοδότηση εργαλείων.
OpenAI, Practices for Governing Agentic AI Systems, 2023. Σημεία ανθρώπινης παρέμβασης, απόδοση ευθύνης, περιορισμένη προεπιλεγμένη εξουσία.
NIST AI Risk Management Framework 1.0 (2023) και το Generative AI Profile (2024). Ίχνη ελέγχου, καθορισμένη εξουσιοδότηση, διαχείριση περιστατικών.
Αρχές Εταιρικής Διακυβέρνησης G20/OECD, 2023. Ο διαχωρισμός μεταξύ εποπτικού συμβουλίου και διοικητικού συμβουλίου, στον οποίο βασίζεται το μοντέλο διακυβέρνησής μας.
Το συμβούλιο έχει διαμορφωθεί με βάση τον τρόπο λειτουργίας των πραγματικών διοικητικών συμβουλίων, όχι των βοηθών συνομιλίας. Οι πηγές που μελετήσαμε: οι Αρχές Εταιρικής Διακυβέρνησης G20/OECD (2023) για τον διαχωρισμό μεταξύ εποπτικού συμβουλίου και διοικητικού συμβουλίου· η Έκθεση Cadbury (1992) για την πρακτική ενός καταλόγου αποκλειστικών αρμοδιοτήτων· ο Εσθονικός Εμπορικός Κώδικας για τα καθήκοντα του διοικητικού συμβουλίου και το καθήκον επιμέλειας (η ίδια η Offsite είναι εγγεγραμμένη στην Εσθονία, στην Ευρωπαϊκή Ένωση, επομένως αυτοί είναι οι κανόνες βάσει των οποίων λειτουργεί η εταιρεία)· ο Εσθονικός Κώδικας Εταιρικής Διακυβέρνησης με την αρχή «συμμορφώσου ή εξήγησε»· το Μοντέλο Τριών Γραμμών του IIA (2020) για τον ανεξάρτητο εσωτερικό έλεγχο· η παράδοση της ανεξαρτησίας του ελέγχου και της επιχειρηματικής κρίσης στο εταιρικό δίκαιο· και η έρευνα διακυβέρνησης του Stanford GSB (Larcker και Tayan, Corporate Governance Matters).
Τα ανοικτά πλαίσια πρακτόρων, μεταξύ αυτών το Hermes, είναι μηχανές: εκτελούν εργασίες. Αυτό που χτίζουμε είναι ένα διαφορετικό επίπεδο: ένα διοικητικό συμβούλιο AI για μια πραγματική, εγγεγραμμένη νομική οντότητα, που λειτουργεί βάσει του μοντέλου διακυβέρνησης που περιγράφεται παραπάνω.
Το μοντέλο ευθύνης είναι η σαφέστερη διαφορά. Σε μια πραγματική εταιρεία, το διοικητικό συμβούλιο έχει καθήκον επιμέλειας και λογοδοτεί για τις αποφάσεις του. Εδώ, η νομική ευθύνη παραμένει στον ιδιοκτήτη και στη νομική οντότητα. Όταν το συμβούλιο λάβει λανθασμένη απόφαση, η συνέπεια είναι η επαναδιαμόρφωση: ανάλυση της βασικής αιτίας, ενημέρωση της μηχανής εγκεκριμένη από τον ιδιοκτήτη και δημόσια καταχώριση στο αρχείο καταγραφής. Το σύστημα διορθώνεται αντί να τιμωρείται.
Η μνήμη είναι η σαφέστερη τεχνική διαφορά. Η μνήμη που βασίζεται στην ανάκληση στα περισσότερα πλαίσια προσθέτει ό,τι βλέπει και ανακτά ό,τι φαίνεται παρόμοιο. Η δική μας είναι επιμελημένη ώστε να αντανακλά την τρέχουσα αλήθεια: κάθε αποθηκευμένο γεγονός φέρει την πηγή και τον ρόλο του, οι εξωτερικές εισροές τίθενται σε καραντίνα προτού μπορέσουν να αποτελέσουν επιχειρησιακή αλήθεια, μια νυχτερινή διαδικασία συμφιλιώνει τα αποθηκευμένα γεγονότα με τα ενεργά συστήματα και τα ξεπερασμένα γεγονότα αφαιρούνται αντί να συσσωρεύονται. Άσχετα επιχειρηματικά πλαίσια διατηρούνται αυστηρά χωριστά σε επίπεδο δεδομένων και διαπιστευτηρίων.
Υιοθετούμε καλές ιδέες από το ανοικτό οικοσύστημα όπου ταιριάζουν και το δηλώνουμε. Πρόσφατα παραδείγματα: ένα αυτόματο βήμα που ρωτά μετά από κάθε σημαντική εκτέλεση αν πρέπει να καταγραφεί κάποιο δίδαγμα, και μια αξιολόγηση ανοικτών προτύπων δεξιοτήτων που μοιράζεται η κοινότητα. Οι ίδιες οι μηχανές εμπορευματοποιούνται. Η δική μας εργασία βρίσκεται στο επίπεδο διακυβέρνησης, μνήμης και λογοδοσίας που βρίσκεται από πάνω.
Λεπτομέρειες αρχιτεκτονικής, εσωτερικούς μηχανισμούς διαδικασιών, τον χρονισμό αυτοματοποιημένων λειτουργιών και οτιδήποτε θα επέτρεπε την άμεση αναπαραγωγή του συστήματος. Ο έλεγχος πριν από κάθε δημοσιοποίηση: θα μπορούσε ένας ανταγωνιστής να κατασκευάσει το ίδιο πράγμα από αυτές τις πληροφορίες; Αν ναι, δεν δημοσιεύεται.
Επιστροφή στην ιστορία της μηχανής.