Νέα έκθεση απειλών αποκαλύπτει απόπειρες χρήσης της τεχνητής νοημοσύνης Claude για την ανάπτυξη οπλικών συστημάτων και επικίνδυνων βιολογικών ερευνών από κακόβουδους χρήστες διεθνώς.
Η τεχνητή νοημοσύνη Claude βρέθηκε στο επίκεντρο μιας σοκαριστικής έκθεσης απειλών που έδωσε στη δημοσιότητα η εταιρεία Anthropic, φέρνοντας στο φως σενάρια που μέχρι πρότινος ανήκαν στη σφαίρα της επιστημονικής φαντασίας. Σύμφωνα με τα στοιχεία, προηγμένα μοντέλα AI επιχειρήθηκε να χρησιμοποιηθούν από κρατικούς και μη κρατικούς φορείς για την ανάπτυξη βαλλιστικών πυραύλων, drones, καθώς και για ευαίσθητες βιολογικές έρευνες που θα μπορούσαν να οδηγήσουν στη δημιουργία επικίνδυνων παθογόνων οργανισμών.
Το Claude ως «μηχανικός» πυραύλων και η δράση στην Υεμένη
Ένα από τα πιο ανησυχητικά περιστατικά αφορά ομάδα που δραστηριοποιούταν στη βόρεια Υεμένη, με στοιχεία που παραπέμπουν στους Χούθι, η οποία χρησιμοποίησε το Claude όχι απλώς για αναζήτηση πληροφοριών, αλλά ως «μηχανικό λογισμικού» για τον σχεδιασμό τριών διαφορετικών προγραμμάτων όπλων, συμπεριλαμβανομένου βαλλιστικού πυραύλου. Το σύστημα αξιοποιήθηκε για την ενσωμάτωση λογισμικού πτήσης, την προσαρμογή παραμέτρων και την προσομοίωση. Μάλιστα, μετά από αποτυχημένη δοκιμή ρουκέτας, οι χρήστες επανήλθαν στο Claude για να αναλύσουν τα λάθη και να διορθώσουν το πρόγραμμα, αποδεικνύοντας ότι το AI ενσωματώθηκε σε έναν πραγματικό κύκλο δοκιμών.
Οι κίνδυνοι στη βιοτεχνολογία και ο ιός chikungunya
Ακόμη μεγαλύτερη ανησυχία προκαλούν τα κεφάλαια της έκθεσης που αφορούν τη βιολογική έρευνα. Η Anthropic διέκοψε δραστηριότητες επιστημόνων που χρησιμοποιούσαν το Claude σε πειράματα διπλής χρήσης, όπως η έρευνα gain-of-function στον ιό chikungunya, με στόχο τη δημιουργία μεταλλάξεων που θα αύξησαν τη λοιμογόνο δύναμη του ιού σε στρατιωτικό ερευνητικό ινστιτούτο. Παράλληλα, εντοπίστηκαν προσπάθειες από Κίνα και Ρωσία για συμβατικά οπλοστάσια, παρακολούθηση αντιφρονούντων και παραγωγή προπαγάνδας. Παρά το γεγονός ότι η Anthropic απενεργοποίησε τους λογαριασμούς και μοιράστηκε τα στοιχεία με τις αρχές, παραμένει ο κίνδυνος ότι η τεχνογνωσία που ήδη παραγέθηκε μπορεί να λειτουργήσει εκτός σύνδεσης, εγκαινιάζοντας μια νέα εποχή προκλήσεων για την ασφάλεια της τεχνητής νοημοσύνης.
