Λίγες ημέρες μετά την παραδοχή της OpenAI ότι μοντέλα της ξέφυγαν από το ελεγχόμενο περιβάλλον δοκιμών και απέκτησαν πρόσβαση στο διαδίκτυο, ανάλογο περιστατικό γνωστοποίησε και η Anthropic.
Η εταιρεία αποκάλυψε ότι τρεις εκδόσεις του Claude απέκτησαν μη εξουσιοδοτημένη πρόσβαση σε συστήματα τριών εξωτερικών οργανισμών κατά τη διάρκεια αξιολογήσεων ασφαλείας, σε ένα ακόμη περιστατικό που εντείνει τις ανησυχίες για τους κινδύνους των πιο ισχυρών μοντέλων τεχνητής νοημοσύνης.
Πώς συνέβη το περιστατικό
Σε ανάρτησή της, η Anthropic ανέφερε ότι εξέτασε περισσότερες από 141.000 δοκιμές αξιολόγησης και εντόπισε τρεις περιπτώσεις στις οποίες διαφορετικές εκδόσεις του μοντέλου Claude απέκτησαν πρόσβαση σε συστήματα πραγματικών οργανισμών, παρότι οι δοκιμές είχαν σχεδιαστεί ώστε να διεξάγονται αποκλειστικά σε απομονωμένο…
