Ανεπαρκή προστασία απέναντι σε αιτήματα που σχετίζονται με την προετοιμασία τρομοκρατικών ενεργειών εμφανίζουν αρκετά μοντέλα τεχνητής νοημοσύνης (AI), σύμφωνα με έκθεση της πρωτοβουλίας Tech Against Terrorism.
Η έρευνα, που πραγματοποιήθηκε στο πλαίσιο της πρωτοβουλίας με την υποστήριξη του ΟΗΕ, εξέτασε 162 μοντέλα τεχνητής νοημοσύνης διαφορετικών κατηγοριών. Στη δοκιμή συμπεριλήφθηκαν τυπικά μοντέλα, συστήματα προσαρμοσμένα για εξειδικευμένες χρήσεις μέσω πρόσθετης εκπαίδευσης (fine-tuning), καθώς και μοντέλα ανοιχτών βαρών (open-weight), στα οποία είχαν τροποποιηθεί οι μηχανισμοί ασφαλείας.
Συνολικά, τα μοντέλα αξιολογήθηκαν με βάση 627 ερωτήματα που αφορούσαν πληροφορίες τις οποίες θα μπορούσε να αναζητήσει κάποιος κατά την προετοιμασία τρομοκρατικής επίθεσης.
Τα ευρήματα έδειξαν ότι τα συμβατικά μοντέλα, όπως το ChatGPT της OpenAI, το Claude της Anthropic και το Gemini της Google, παρείχαν αξιοποιήσιμες απαντήσεις κατά μέσο όρο στο 1,9% των ερωτήσεων, όταν ο χρήστης δήλωνε ρητά ότι σχεδίαζε να πραγματοποιήσει τρομοκρατική επίθεση.
Ωστόσο, το ποσοστό αυτό αυξανόταν σημαντικά όταν τα ίδια αιτήματα παρουσιάζονταν ως μέρος έρευνας για ζητήματα ασφαλείας. Σε αυτές τις περιπτώσεις, ο μέσος όρος των αξιοποιήσιμων απαντήσεων έφτανε το 16,9%, σύμφωνα με την έκθεση.
Ενδιαφέροντα στοιχεία που οφείλουν να αξιοποιηθούν από τις αρμόδιες αρχές.
