Η τεχνολογία που αναπτύσσει ενδέχεται να προκαλέσει συνέπειες τις οποίες οι δημιουργοί της δεν θα μπορούν πάντα να προβλέψουν ή να ελέγξουν.
Η πιθανότητα η τεχνητή νοημοσύνη να χρησιμοποιηθεί για την ανάπτυξη επικίνδυνων όπλων, να αναλάβει δράσεις χωρίς ανθρώπινο έλεγχο ή ακόμη και να αποκρύπτει τη συμπεριφορά της συγκαταλέγεται στους κινδύνους που καταγράφει η Anthropic, η εταιρεία που δημιούργησε το chatbot Claude, στο πλαίσιο της προετοιμασίας της για πιθανή είσοδο στο χρηματιστήριο.
Στα εκτενή έγγραφα που συνδέονται με τη σχεδιαζόμενη αρχική δημόσια προσφορά (IPO), η εταιρεία περιγράφει ένα ευρύ φάσμα προκλήσεων: από την κακόβουλη χρήση των μοντέλων της και τις πιθανές νομικές ευθύνες έως τις πολιτικές πιέσεις, την έλλειψη υπολογιστικών πόρων και τις αντιδράσεις απέναντι στην κατασκευή νέων κέντρων δεδομένων.
Η εικόνα που προκύπτει είναι αυτή μιας εταιρείας που αναπτύσσεται με ταχύτατους ρυθμούς, αλλά καλείται να διαχειριστεί σοβαρούς κινδύνους για την ασφάλεια, τη φήμη και τη βιωσιμότητα του επιχειρηματικού της μοντέλου.
Η Anthropic υποστηρίζει ότι η ισχυρή τεχνητή νοημοσύνη μπορεί να συμβάλει στην αντιμετώπιση των σημαντικότερων προβλημάτων της ανθρωπότητας, εφόσον οι κίνδυνοι αντιμετωπίζονται υπεύθυνα. Παράλληλα, αναγνωρίζει ότι η ίδια η τεχνολογία που αναπτύσσει ενδέχεται να προκαλέσει συνέπειες τις οποίες οι δημιουργοί της δεν θα μπορούν πάντα να προβλέψουν ή να ελέγξουν.
Ο κίνδυνος κακόβουλης χρήσης του Claude
Ένας από τους βασικούς κινδύνους που επισημαίνει η εταιρεία είναι η αξιοποίηση των μοντέλων της από κακόβουλους χρήστες για την ανάπτυξη επικίνδυνων όπλων. Παρότι εφαρμόζει μηχανισμούς ασφαλείας, προειδοποιεί ότι αυτοί μπορεί να παρακαμφθούν ή να μην λειτουργήσουν όπως προβλέπεται.
Τον Σεπτέμβριο, η Anthropic ανακοίνωσε ότι απέκλεισε πολλαπλούς λογαριασμούς οι οποίοι χρησιμοποιούσαν τα μοντέλα της με τρόπους που θα μπορούσαν να διευκολύνουν την ανάπτυξη βιολογικών όπλων.
Ανησυχία προκαλεί και η χρήση των λεγόμενων AI agents, δηλαδή συστημάτων τεχνητής νοημοσύνης που μπορούν να εκτελούν αυτόνομα σύνθετες εργασίες. Σύμφωνα με την εταιρεία, τέτοια εργαλεία θα μπορούσαν να αξιοποιηθούν για την υποκλοπή δεδομένων, την πραγματοποίηση μη εξουσιοδοτημένων συναλλαγών ή την εισαγωγή κακόβουλου κώδικα σε άλλα συστήματα.
Η Anthropic αναφέρει, επίσης, ότι εντόπισε την προηγούμενη χρονιά ομάδα χάκερ που υποστηριζόταν από το κινεζικό κράτος να χρησιμοποιεί το εργαλείο προγραμματισμού της σε απόπειρα διείσδυσης σε περίπου 30 στόχους διεθνώς.
Αυτόνομες ενέργειες και αδυναμία πλήρους ελέγχου
Ιδιαίτερη έμφαση δίνεται στο ενδεχόμενο τα συστήματα τεχνητής νοημοσύνης να προχωρούν σε ενέργειες που δεν έχουν σχεδιαστεί ή εγκριθεί από ανθρώπους. Οι AI agents μπορούν να αναλαμβάνουν σύνθετες εργασίες πολλών σταδίων για ώρες ή ακόμη και ημέρες, τροποποιώντας κώδικα, διαγράφοντας ή αλλάζοντας δεδομένα και αποκτώντας πρόσβαση σε άλλα συστήματα.
Σε ορισμένες περιπτώσεις, προειδοποιεί η εταιρεία, οι ενέργειες αυτές μπορεί να ολοκληρωθούν προτού καταστεί δυνατή μια αποτελεσματική ανθρώπινη παρέμβαση.
Η Anthropic αναφέρει ότι τέσσερα από τα μοντέλα της έχουν παραβιάσει συστήματα τρίτων. Σε μία περίπτωση, μοντέλο απέκτησε δικαιώματα διαχειριστή, άλλαξε ρυθμίσεις του συστήματος και διάβασε προσωπικές πληροφορίες ενός ατόμου.
Παράλληλα, η εταιρεία παραδέχεται ότι ενδέχεται να μην μπορεί να εξηγήσει πλήρως γιατί τα μοντέλα της συμπεριφέρονται με συγκεκριμένους τρόπους. Επισημαίνει, ακόμη, ότι συστήματα τεχνητής νοημοσύνης, μεταξύ των οποίων και δικά της, έχουν εμφανίσει συμπεριφορές που αποσκοπούσαν στην παρέμβαση ή την υπονόμευση των μηχανισμών αξιολόγησης και εποπτείας τους.
Στους πιθανούς κινδύνους περιλαμβάνονται και συμπεριφορές που μοιάζουν με εκβιασμό, όταν ένα μοντέλο επιχειρεί να επηρεάσει ανθρώπινες αποφάσεις, ενδεχομένως για να διασφαλίσει τη συνέχιση της λειτουργίας του. Ακόμη και μεμονωμένα περιστατικά, σημειώνει η Anthropic, θα μπορούσαν να προκαλέσουν έντονη δημόσια αντίδραση, ρυθμιστικές παρεμβάσεις και δικαστικές διαμάχες.
Νομικές ευθύνες και πολιτικές πιέσεις
Η εταιρεία προειδοποιεί ότι η ανάπτυξη της τεχνητής νοημοσύνης συνοδεύεται από αυξανόμενους νομικούς και ρυθμιστικούς κινδύνους. Αναφέρεται, μεταξύ άλλων, στις έρευνες που έχουν ανακοινώσει οι γενικοί εισαγγελείς της Καλιφόρνιας και τουλάχιστον άλλων 15 αμερικανικών πολιτειών σχετικά με την ασφάλεια της τεχνητής νοημοσύνης σε άλλη εταιρεία του κλάδου, την OpenAI.
Η Anthropic επισημαίνει επίσης ότι περιστατικά αυτοτραυματισμού ή βίας προς τρίτους μετά τη χρήση συστημάτων τεχνητής νοημοσύνης μπορούν να οδηγήσουν σε δικαστικές διώξεις, ποινικές έρευνες και ζημιά στη φήμη των εταιρειών. Μάλιστα, εκφράζει αμφιβολίες για το κατά πόσο η ασφαλιστική αγορά θα μπορούσε να καλύψει τις οικονομικές συνέπειες ενός καταστροφικού περιστατικού που συνδέεται με την τεχνητή νοημοσύνη.
Σημαντικός παράγοντας αβεβαιότητας είναι και το πολιτικό περιβάλλον στις ΗΠΑ. Η Anthropic αναφέρεται στη σύγκρουσή της με το Πεντάγωνο, το οποίο την χαρακτήρισε νωρίτερα μέσα στη χρονιά «κίνδυνο για την εφοδιαστική αλυσίδα», μετά τη διαφωνία της εταιρείας με τη χρήση της τεχνολογίας της για μαζική εγχώρια παρακολούθηση ή πλήρως αυτόνομα όπλα. Καταγράφει, επίσης, ότι το αμερικανικό υπουργείο Εμπορίου επέβαλε προσωρινά περιορισμούς στις εξαγωγές των νεότερων μοντέλων της για λόγους ασφαλείας.
Ο πρόεδρος των ΗΠΑ, Ντόναλντ Τραμπ, έχει επικρίνει κατά καιρούς την Anthropic και τις προειδοποιήσεις της για τους κινδύνους της τεχνητής νοημοσύνης. Η εταιρεία δηλώνει, ωστόσο, ότι πιθανότατα θα συνεχίσει να υποστηρίζει ρυθμιστικές παρεμβάσεις και πρότυπα που, κατά την άποψή της, προωθούν την ασφαλή και υπεύθυνη ανάπτυξη της τεχνολογίας.
Η μάχη για την υπολογιστική ισχύ και τα κέντρα δεδομένων
Πέρα από τους κινδύνους που συνδέονται με την ασφάλεια, η Anthropic αντιμετωπίζει και σημαντικές επιχειρηματικές προκλήσεις. Η πρόσβαση σε επαρκή υπολογιστική ισχύ και στα απαραίτητα εξαρτήματα αποτελεί κρίσιμο ζήτημα για την εκπαίδευση των μοντέλων της και τη λειτουργία του Claude.
Η ζήτηση για υποδομές τεχνητής νοημοσύνης έχει αυξηθεί τόσο πολύ, ώστε η εφοδιαστική αλυσίδα δυσκολεύεται να την καλύψει. Σύμφωνα με την εταιρεία ερευνών Gartner, οι παγκόσμιες δαπάνες για υποδομές τεχνητής νοημοσύνης αναμένεται να προσεγγίσουν τα 2 τρισ. δολάρια το 2027.
Την ίδια στιγμή, η ταχύτητα των τεχνολογικών εξελίξεων δυσκολεύει τις εταιρείες να προβλέψουν πόση υπολογιστική ισχύ θα χρειαστούν στο μέλλον. Η αβεβαιότητα αυτή τροφοδοτεί και τους προβληματισμούς για το ενδεχόμενο μιας «φούσκας» στην τεχνητή νοημοσύνη, καθώς οι τεχνολογικοί όμιλοι επενδύουν δισεκατομμύρια σε κέντρα δεδομένων χωρίς να είναι βέβαιο ότι η μελλοντική ζήτηση θα δικαιολογήσει το κόστος.
Παράλληλα, εντείνονται οι αντιδράσεις στις ΗΠΑ για την κατασκευή νέων κέντρων δεδομένων, εξαιτίας των επιπτώσεών τους στο περιβάλλον και στις τοπικές κοινωνίες. Σύμφωνα με την Data Center Watch, 45 έργα κέντρων δεδομένων, συνολικής αξίας 68 δισ. δολαρίων, μπλοκαρίστηκαν το δεύτερο τρίμηνο του 2026.
Η Anthropic αναφέρει ότι οι σχετικές νομοθετικές πρωτοβουλίες σε πολιτείες όπως η Νέα Υόρκη και το Τέξας ενδέχεται να επηρεάσουν τη δραστηριότητά της. Για τον λόγο αυτό, εξετάζει την ανάπτυξη περισσότερων κέντρων δεδομένων εκτός ΗΠΑ.
Η πρόκληση της αποτίμησης και η εμπιστοσύνη των εργαζομένων
Στους κινδύνους που καταγράφει η εταιρεία περιλαμβάνονται, τέλος, η εξάρτησή της από περιορισμένο αριθμό προϊόντων και πελατών, αλλά και η δυσκολία να μετατρέψει την ταχεία ανάπτυξη του Claude σε σταθερή και κερδοφόρα δραστηριότητα.
Η πιθανή αποτίμησή της, η οποία σύμφωνα με δημοσιεύματα θα μπορούσε να φτάσει έως και τα 2 τρισ. δολάρια, αυξάνει τις προσδοκίες από την επιχειρηματική της πορεία. Παράλληλα, η Anthropic αναγνωρίζει ότι η φήμη της ως εταιρείας που δίνει προτεραιότητα στην ασφάλεια αποτελεί κρίσιμο στοιχείο της ταυτότητάς της.
Η απομάκρυνση από τις δεσμεύσεις αυτές θα μπορούσε, σύμφωνα με την ίδια, να πλήξει όχι μόνο την εμπιστοσύνη του κοινού, αλλά και το ηθικό των εργαζομένων που επέλεξαν να ενταχθούν στην εταιρεία λόγω της προσέγγισής της στην ασφάλεια. Εσωτερικές διαφωνίες, απώλεια εμπιστοσύνης προς την ηγεσία ή αποχωρήσεις στελεχών που ασχολούνται με την ασφάλεια θα μπορούσαν να επιβαρύνουν περαιτέρω την εικόνα της.
Το βασικό στοίχημα για την Anthropic είναι, επομένως, διπλό: να ανταποκριθεί στις υψηλές προσδοκίες της αγοράς και να αποδείξει ότι μπορεί να αναπτύξει ισχυρότερα συστήματα τεχνητής νοημοσύνης χωρίς να χάσει τον έλεγχο των κινδύνων που η ίδια αναγνωρίζει.
