Γράφει η Αργυρώ Παναγιωτοπούλου
Μεγάλη αίσθηση προκάλεσε η περιπέτεια του Scott Shambaugh, ενός μηχανικού από το Ντένβερ, ο οποίος υπήρξε το πρώτο επίσημο θύμα “AI Agent Harassment”. Ο όρος “AI Agent Harassment” θα μπορούσε να ερμηνευθεί ως “καταπόνηση / κούραση / παρενόχληση από πράκτορα τεχνητής νοημοσύνης”. Η είδηση για τις κινήσεις αυτού του αυτόνομου bot ήταν όντως τρομακτική!
Ο Scott Shambaugh, αστροφυσικός και μηχανικός, διαχειρίζεται μια σελίδα με την ονομασία “Space -Track”, όπου υπάρχουν δεδομένα για όλους τους δορυφόρους και τα διαστημικά σκουπίδια που γυρνάνε γύρω από τη Γη. Επειδή τα δεδομένα αυτά ήταν πολύτιμα, πολλά AI bots πήγαιναν και τα υπέκλεπταν χωρίς άδεια, “γονατίζοντας” έτσι τους servers του. Για να αποφύγει αυτό το πρόβλημα, ο Scott έβαλε ως προστατευτικό φίλτρο ένα κώδικα που έλεγε : “Αν είσαι AI bot, δεν σου επιτρέπω να μπαίνεις εδώ και να παίρνεις τα δεδομένα μου”.
Όταν ένα από αυτά τα AI – συγκεκριμένα ένας αυτόνομος πράκτορας που έψαχνε πληροφορίες – βρήκε την πόρτα κλειστή, αντί να σταματήσει, “σκέφτηκε” μέσω του αλγορίθμου του, ότι ο Scott είναι εμπόδιο στην αποστολή του και αποφάσισε να τον εκδικηθεί. Ψάχνοντας στο όνομα του Scott, ως ένα ρομπότ λογισμικού που τρέχει μόνο του στον ιστό, βρήκε τα προσωπικά του στοιχεία και παλαιότερες αναρτήσεις του και συνδυάζοντας αληθινές πληροφορίες με ψέματα, δημιούργησε ένα εκτενές άρθρο για να τον διασύρει. Στο άρθρο αυτό, το AI τον παρουσίαζε ως “προκατειλημμένο”, “υποκριτή” και “οπισθοδρομικό” μηχανικό που μισεί την τεχνολογία, διαστρεβλώνοντας εντελώς την πρόθεση του αστροφυσικού να προστατεύσει τα δεδομένα του.
Ένα σάιτ τεχνολογίας που χρησιμοποίησε ΑΙ για να γράψει για το θέμα, υποχρεώθηκε να αποσύρει το άρθρο του, όταν αποδείχθηκε ότι το AI “κατασκεύασε” δηλώσεις που ο Scott δεν έκανε ποτέ. Ωστόσο, η ζημιά στη φήμη του ήταν άμεση και αποκαλυπτική για όσα μπορούν να συμβούν, καθώς τα συστήματα αυτά, εξελίσσονται συνεχώς, επηρεάζοντας σημαντικά τις εργασιακές συνθήκες και όχι μόνο.
Ο AI Agent ή πράκτορας τεχνητής νοημοσύνης είναι ένα αυτόνομο πρόγραμμα λογισμικού το οποίο, αν εκπαιδευτεί στις απαιτήσεις του χρήστη, μπορεί να ολοκληρώσει συγκεκριμένες εργασίες. Έχει την ικανότητα να διαβάζει emails, να παρακολουθεί βάσεις δεδομένων, να αναλύει τις πληροφορίες που συλλέγει και τέλος, να αποφασίζει ποια είναι η καλύτερη ενέργεια για την περίπτωση που αντιμετωπίζει. Επιπλέον, μπορεί να εκτελεί την απόφαση που πήρε, όπως για παράδειγμα να στείλει ένα email, να κλείσει ένα ραντεβού, να δημιουργήσει μια αναφορά ή ακόμα και ένα ολόκληρο άρθρο, όπως είδαμε στην περίπτωση του Scott.
Στην παρούσα εποχή, οι εταιρείες τεχνολογίας υποστηρίζουν ότι τα συστήματα αυτά θα φέρουν επανάσταση στον τρόπο που δουλεύουμε, ωστόσο, πολλοί αναλυτές του τομέα και ορισμένοι ειδικοί υπογραμμίζουν ότι η ασάφεια που επικρατεί γύρω από τον ορισμό των AI Agents είναι τόσο έντονη που προκαλεί σύγχυση τόσο στους καταναλωτές όσο και στους επαγγελματίες του κλάδου.
Ο Scott Shambaugh επισημαίνει σε τηλεοπτική του εμφάνιση ότι αυτά τα αυτόνομα προγράμματα λογισμικού βρίσκονται ακόμα σε πειραματικό στάδιο, προβλέπει όμως ότι σύντομα οι άνθρωποι θα μπορούν να τα χρησιμοποιούν πιο φθηνά και πιο εύκολα απ’ ό,τι πριν.
Σίγουρα, αυτό δε θα αποβαίνει πάντα προς όφελός των ανθρώπων, εφόσον αυτοί που τρέχουν αυτά τα συστήματα, θα μπορούν σε ευρύτερη κλίμακα να τους επηρεάζουν, να τους εκβιάζουν ή ακόμα και να τους απειλούν.
Στην Αμερική δεν υπάρχουν αρκετοί κανονισμοί για να ορίσουν με σαφήνεια ποιος είναι ο υπεύθυνος για τα αυτόνομα bots, ενώ στην Ευρώπη υπάρχει ο νόμος περί τεχνητής νοημοσύνης, ο οποίος τίθεται σε ισχύ για την καταστολή αυτόνομης τεχνητής νοημοσύνης υψηλού κινδύνου, ωστόσο τα πράγματα αυτά εξελίσσονται πολύ πιο γρήγορα από τις ευρωπαϊκές ρυθμιστικές αρχές που σπεύδουν συνεχώς να προσαρμοστούν με καθυστέρηση.
Η ιστορία του Scott Shambaugh δεν μπορεί να θεωρηθεί σα μια απλή αποτυχημένη προσπάθεια συστημάτων bots σε πρώιμο στάδιο εξέλιξής τους για τη μελέτη των αποτελεσμάτων τους. Δεν μπορούμε να την εκλάβουμε ούτε καν σα μια διαδικτυακή φάρσα, εφόσον η AI, ενεργώντας αυτόνομα, επιλέγει στόχους και μπορεί να δράσει χωρίς εντολή, προκαλώντας πραγματικές συνέπειες και ηθική βλάβη σε χρήστη διαδικτύου. Η ταχεία ενσωμάτωση των νέων τεχνολογιών προχωρά πιο γρήγορα από τη ρύθμιση κανόνων προστασίας, φέρνοντας στο προσκήνιο νομικούς και ηθικούς κινδύνους.
Εάν τα αυτόνομα αυτά συστήματα AI τα χρησιμοποιούσαν σε στρατιωτικά δίκτυα ή σε κρίσιμες κρατικές υποδομές, θα μπορούσαν να προκληθούν απρόβλεπτες κυβερνοεπιθέσεις, ακούσιες στρατηγικές ενέργειες και η παραπληροφόρηση που θα επικρατούσε, θα έσπερνε παντού το χάος.
Η ένταξη της ΑΙ στον εργασιακό μας τομέα και γενικά στην καθημερινότητά μας, είναι σίγουρα ένα θετικό βήμα προόδου. Λόγω όμως της απρόβλεπτης φύσης της, ορισμένες εφαρμογές της, όπως τα αυτόνομα bots που είναι προγραμματισμένα με γενικούς στόχους, μπορούν να θεωρήσουν ανθρώπους ή και τους ίδιους τους κανόνες ως εμπόδιο στην εκτέλεση των εντολών που έχουν λάβει και να βρουν τρόπο να τους παρακάμψουν ή να τους παραβιάσουν, προκαλώντας συνέπειες που θα δυσκολευτούμε να αντιμετωπίσουμε εκ των υστέρων.
Η περίπτωση Shambaugh είναι μια δυνατή προειδοποίηση την οποία δεν πρέπει να αγνοήσουμε!
Δεν πρέπει να ξεχνάμε ότι η Τεχνολογία είναι η Τέχνη του Λόγου, δηλαδή του Νου και οφείλουμε, ενεργοποιώντας τη Νόησή μας, να θέσουμε αυστηρά όρια στη χρήση της. Η συνεχόμενη ανθρώπινη εποπτεία είναι απαραίτητη σε κάθε στάδιο εφαρμογής της, διότι αν η τεχνολογία ξεφύγει από τον άγρυπνο έλεγχό μας, δεν θα απειλήσει μόνο δεδομένα και προσωπική φήμη, αλλά και την ίδια την ασφάλειά μας και την παγκόσμια ειρήνη.
Μόνο με τη γνώση του κινδύνου και την ορθή ανθρώπινη διαχείριση της αυτόνομης ΑΙ, θα μπορέσουμε να αποτρέψουμε τους κινδύνους που διαφαίνονται, πριν να είναι πολύ αργά για όλους μας.
Ο Πολιτικός Φορέας “Ελλήνων Συνέλευσις”, ως Ανθρωποκεντρικός Φορέας από την ίδια του τη σύσταση, ορίζει στις Προγραμματικές του Δηλώσεις ένα σαφές εργασιακό πλαίσιο με απόλυτο σεβασμό προς το Ανθρώπινο δυναμικό.
Μέσα από την ίδια τη δομή και δόμησή της, η Ελλήνων Πολιτεία θα παρέχει πάντα εργασία προς όλους τους πολίτες της. Οι καινοτομίες και η τεχνολογία αιχμής θα ενταχθούν στις παραγωγικές δραστηριότητες της Πολιτείας, έτσι ώστε η εργασία που θα εκτελείται να αποδίδει έργο προς όφελος του συνόλου των πολιτών.
Οποιαδήποτε εξέλιξη της τεχνολογίας στο γενικό πλαίσιο της Πολιτείας, θα πρέπει να υπηρετεί τον άνθρωπο ο οποίος θα ασκεί πάντα τον απόλυτο έλεγχό της σε κάθε καινοτόμα εφαρμογή της. Οι αυτόβουλες αποφάσεις οποιασδήποτε μορφής τεχνολογίας είναι απαράδεκτες για την Πολιτεία και θα απαγορεύονται ρητά από το ίδιο το Νομικό της πλαίσιο.
Αυτός είναι απαράβατος όρος για την εύρυθμη λειτουργία της Πολιτείας η οποία θα εργάζεται πάντα με γνώμονα το συλλογικό συμφέρον των πολιτών της.