Ασφάλεια ΤΝ

Έλεγχος ασφάλειας ΤΝ

Ο συμβατικός έλεγχος εφαρμογών καλύπτει την επιφάνεια γύρω από το μοντέλο και σταματά εκεί. Εμείς δοκιμάζουμε το σύστημα ως σύνολο έναντι έγχυσης εντολών, διαρροής δεδομένων, κατάχρησης εργαλείων και δηλητηριασμένης ανάκτησης.

Συζητήστε την πρωτοβουλία σας για ΤΝ Υπηρεσίες

Το επιχειρηματικό πρόβλημα

Ο υπάρχων έλεγχός σας δεν το καλύπτει αυτό

Ένα τεστ διείσδυσης βρίσκει έγχυση σε μια παράμετρο, όχι εντολές ενσωματωμένες σε ένα έγγραφο που θα διαβάσει αργότερα ο βοηθός. Ελέγχει την εξουσιοδότηση σε τελικά σημεία, όχι το αν το μοντέλο μπορεί να πειστεί να χρησιμοποιήσει εργαλείο για λογαριασμό άλλου. Αυτές είναι διαφορετικές κατηγορίες ευπαθειών και δεν καλύπτονται από το εύρος που ήδη αγοράζετε.

Τι κάνουμε

Δοκιμάστε έναντι ρεαλιστικής κατάχρησης

Δουλεύουμε από μοντέλο απειλών και όχι από λίστα ελέγχου: τι θα ήθελε ένας επιτιθέμενος και τι κάνει προσβάσιμο το σύστημα. Ο έλεγχος καλύπτει έγχυση μέσω κάθε διαδρομής περιεχομένου που μπορεί να διαβάσει το μοντέλο, διαρροή μέσω της εξόδου, κατάχρηση εργαλείων και κλιμάκωση δικαιωμάτων, καθώς και δηλητηρίαση της ανάκτησης. Τα ευρήματα συνοδεύονται από βήματα αναπαραγωγής, σοβαρότητα και διόρθωση, ταξινομημένα κατά εκμεταλλευσιμότητα, και επανελέγχουμε μετά την αποκατάσταση αφήνοντας πίσω τις δοκιμές.

Έλεγχος ασφάλειας ΤΝ

Δυνατότητες

Έλεγχος έγχυσης εντολών
Έλεγχος παράκαμψης περιορισμών
Έλεγχος διαρροής δεδομένων ΤΝ
Έλεγχος ασφάλειας πρακτόρων
Έλεγχος δηλητηρίασης RAG
Έλεγχος κατάχρησης εργαλείων

Συνήθεις περιπτώσεις χρήσης

Έλεγχος εφαρμογής ΤΝ πριν φτάσει στην παραγωγή ή σε πελάτη.
Αξιολόγηση βοηθού που ήδη έχει πρόσβαση σε συστήματα την οποία δεν έχει ελέγξει κανείς.
Δημιουργία τεκμηρίων ελέγχου για ερωτηματολόγιο ασφάλειας πελάτη ή για ελεγκτή.
Επιβεβαίωση ότι τα προστατευτικά που προστέθηκαν μετά από περιστατικό όντως κρατούν.

Πώς παραδίδουμε

Μοντέλο απειλών

Διαπίστωση του τι θα στόχευε ένας επιτιθέμενος και τι θα κέρδιζε φτάνοντας εκεί.
Δοκιμές

Επιθετικές δοκιμές έναντι ρεαλιστικής κατάχρησης, όχι λίστα γνωστών συμβολοσειρών.
Αναφορά

Ευρήματα με βήματα αναπαραγωγής, σοβαρότητα και διόρθωση, ταξινομημένα κατά εκμεταλλευσιμότητα.
Επανέλεγχος

Επιβεβαίωση ότι οι διορθώσεις κρατούν, με τις δοκιμές να παραμένουν ώστε να φαίνονται οι υποτροπές.

Τεχνολογία

OWASP LLM Top 10
MITRE ATLAS
Garak
Burp Suite
ISO/IEC 27001

Ασφάλεια και διακυβέρνηση

Οι δοκιμές εγκρίνονται εγγράφως, οριοθετούνται σε συμφωνημένους στόχους και εκτελούνται σε περιβάλλον εκτός παραγωγής, εκτός αν αποφασίσετε διαφορετικά. Τα ευρήματα αντιμετωπίζονται ως εμπιστευτικά και γνωστοποιούνται σε εσάς πριν από οποιονδήποτε άλλον. Τίποτα δεν διατηρείται πέραν του έργου εκτός από την αναφορά και τις δοκιμές παλινδρόμησης που ζητήσατε να αφήσουμε.

Independently audited against

Μοντέλα συνεργασίας

Συμβουλευτική ΤΝ

Έμπειροι σύμβουλοι παρέχουν στρατηγική, αρχιτεκτονική, αξιολόγηση και καθοδήγηση μετασχηματισμού.

Έργο ΤΝ

Αναλαμβάνουμε την ευθύνη να σχεδιάσουμε και να παραδώσουμε μια καθορισμένη λύση ΤΝ.

Διαχειριζόμενη ΤΝ

Λειτουργούμε, παρακολουθούμε και βελτιώνουμε συνεχώς συστήματα ΤΝ σε παραγωγή.

Γιατί TeamExtension.ai

Ελέγχουμε το σύστημα, όχι το μοντέλο

Ένα μοντέλο από μόνο του έχει περιορισμένη επιφάνεια επίθεσης. Η έκθεση προέρχεται από αυτά με τα οποία είναι συνδεδεμένο, οπότε ο έλεγχος πρέπει να περιλαμβάνει τα εργαλεία, την ανάκτηση και τα δικαιώματα. Επειδή χτίζουμε αυτά τα συστήματα, ξέρουμε πού είναι οι ραφές.

Επιλεγμένοι πελάτες

Συχνές ερωτήσεις

Σε τι διαφέρει από ένα τεστ διείσδυσης;

Στοχεύει κατηγορίες ειδικές για ΤΝ: εντολές σε ανακτημένο περιεχόμενο, διαρροή μέσω εξόδου, κατάχρηση εργαλείων, δηλητηρίαση ανάκτησης. Ο συμβατικός έλεγχος παραμένει απαραίτητος για την περιβάλλουσα εφαρμογή· αυτό καλύπτει ό,τι δεν καλύπτει εκείνος.

Ελέγχετε σε περιβάλλον παραγωγής;

Εξ ορισμού σε αντιπροσωπευτικό περιβάλλον εκτός παραγωγής. Ο έλεγχος στην παραγωγή γίνεται μόνο με ρητή γραπτή εξουσιοδότηση και στενό εύρος.

Τι λαμβάνουμε;

Μια αναφορά με βήματα αναπαραγωγής, σοβαρότητα και αποκατάσταση ανά εύρημα, ταξινομημένα κατά εκμεταλλευσιμότητα, καθώς και τις ίδιες τις δοκιμές ώστε οι υποτροπές να εμφανίζονται στη γραμμή σας.

Πόσο διαρκεί μια αξιολόγηση;

Δύο έως τέσσερις εβδομάδες για μία εφαρμογή, ανάλογα με το πόσα εργαλεία και πηγές περιεχομένου φτάνει, συν τον επανέλεγχο μετά την αποκατάσταση.

Σχετικές δυνατότητες

Ασφάλεια ΤΝ

Κόκκινη ομάδα για ΤΝ

Επιθετικός έλεγχος εφαρμογών και πρακτόρων ΤΝ έναντι ρεαλιστικών σεναρίων κατάχρησης.

Μάθετε περισσότερα

Πρακτορική ΤΝ και αυτοματοποίηση

Πράκτορες ΤΝ

Λογισμικό που ολοκληρώνει εργασία πολλών βημάτων μέσα στα συστήματά σας, υπό τους δικούς σας ελέγχους πρόσβασης και κανόνες έγκρισης.

Μάθετε περισσότερα

Ασφάλεια ΤΝ

Συμβουλευτική ασφάλειας ΤΝ

Μοντελοποιήστε απειλές για συστήματα ΤΝ και σχεδιάστε την αρχιτεκτονική, τους ελέγχους και τα όρια που περιορίζουν τον κίνδυνο.

Μάθετε περισσότερα

Συζητήστε την πρωτοβουλία σας για ΤΝ

Ελέγξτε εφαρμογές ΤΝ για τους τρόπους αστοχίας που ο συμβατικός έλεγχος εφαρμογών δεν καλύπτει.

Μιλήστε με ειδικό ΤΝ Ξεκινήστε αξιολόγηση ΤΝ