Το Generative AI DLP αναφέρεται στην κατηγορία κινδύνου ασφαλείας που προκύπτει όταν οι υπάλληλοι της επιχείρησης, οι εκπρόσωποι AI ή οι αυτοματοποιημένες ροές εργασίας αλληλεπιδρούν με εργαλεία AI, εφαρμογές SaaS και υπηρεσίες web μέσω του προγράμματος περιήγησης. Οι περισσότερες από αυτές τις αλληλεπιδράσεις είναι αόρατες στα παραδοσιακά στοιχεία ελέγχου ασφαλείας που λειτουργούν στο επίπεδο δικτύου και τελικού σημείου. Η συνεδρία του προγράμματος περιήγησης είναι το σημείο όπου εκτελείται ο κίνδυνος και όπου πρέπει να πραγματοποιείται η επιβολή.
Όλα τα άλλα βρίσκονται στο προηγούμενο στάδιο του προβλήματος.
Τι είναι το Generative AI DlP και γιατί είναι σημαντικό για την ασφάλεια των επιχειρήσεων;
Το Generative AI DLP βρίσκεται στο σημείο τομής μεταξύ της υιοθέτησης της Τεχνητής Νοημοσύνης και της ασφάλειας των επιχειρήσεων. Καθώς οι οργανισμοί αναπτύσσουν ChatGPT, Microsoft Copilot, Claude και εκατοντάδες εργαλεία SaaS ενσωματωμένα στην Τεχνητή Νοημοσύνη, αναδύεται μια νέα κατηγορία κινδύνου στο σημείο όπου οι εργαζόμενοι αλληλεπιδρούν με αυτά τα εργαλεία.
Τα παραδοσιακά πλαίσια ασφαλείας σχεδιάστηκαν για έναν διαφορετικό κόσμο. Τα στοιχεία ελέγχου δικτύου βλέπουν τη σύνδεση. Οι πράκτορες τελικού σημείου βλέπουν τη διαδικασία. Κανένας από τους δύο δεν βλέπει τι συμβαίνει μέσα στην περίοδο λειτουργίας του προγράμματος περιήγησης όταν ένας προγραμματιστής επικολλά ένα εσωτερικό κλειδί API στο GitHub Copilot ή ένας εκπρόσωπος πωλήσεων ανεβάζει μια λίστα υποψήφιων πελατών στο ChatGPT για να σχεδιάσει μια προσέγγιση. Αυτό το τυφλό σημείο είναι το βασικό πρόβλημα. Και δεν πρόκειται για μια περίπτωση περιορισμένης εξειδίκευσης - είναι εκεί που στην πραγματικότητα βρίσκεται ο μεγαλύτερος κίνδυνος της τεχνητής νοημοσύνης των επιχειρήσεων.
Το 45% των εργαζομένων σε επιχειρήσεις χρησιμοποιούν ενεργά εργαλεία Τεχνητής Νοημοσύνης, σύμφωνα με έρευνα της LayerX. Οι ομάδες ασφαλείας που δεν έχουν αντιμετωπίσει αυτό το επίπεδο διαχειρίζονται τον κίνδυνο της Τεχνητής Νοημοσύνης με εργαλεία που δεν μπορούν να δουν τις αλληλεπιδράσεις που προσπαθούν να ελέγξουν.
Πώς επηρεάζει το Generative AI DLP τους οργανισμούς που χρησιμοποιούν εργαλεία AI όπως το ChatGPT και το Microsoft Copilot;
Τα ChatGPT, Microsoft Copilot και Gemini αποτελούν πλέον τυπικά εργαλεία για τους εργαζόμενους γνώσης σε νομικά, χρηματοοικονομικά, μηχανικά και λειτουργικά θέματα. Κάθε αλληλεπίδραση δημιουργεί πιθανή έκθεση.
Το 77% των εργαζομένων επικολλούν δεδομένα σε μηνύματα GenAI. Τα δεδομένα που ρέουν μέσω αυτών των αλληλεπιδράσεων περιλαμβάνουν πηγαίο κώδικα, αρχεία πελατών, οικονομικές προβλέψεις και προσωπικά δεδομένα (PII). Μετακινούνται ως κανονική κίνηση HTTPS σε εγκεκριμένους τομείς. Το Network DLP βλέπει μια εγκεκριμένη σύνδεση. Το Endpoint DLP βλέπει το πρόγραμμα περιήγησης ως μία μόνο διεργασία. Κανένα από τα δύο δεν βλέπει τα δεδομένα σε κίνηση εντός της περιόδου σύνδεσης.
Αυτό είναι το κενό.
Η επίπτωση της συμμόρφωσης είναι άμεση. Μια ομάδα ασφαλείας που δεν μπορεί να δει τι υποβάλλουν οι εργαζόμενοι στο Copilot δεν μπορεί να αποδείξει τον έλεγχο αυτού του καναλιού δεδομένων σε έναν ελεγκτή. Η πολιτική χωρίς τεχνική επιβολή δεν αποτελεί έλεγχο. Είναι μια ευθύνη που περιμένει να τεκμηριωθεί σε μια αναφορά παραβίασης.
Ποιες είναι οι πιο συνηθισμένες απειλές DLP που αντιμετωπίζουν οι ομάδες ασφαλείας Generation AI σήμερα;
Τρία μοτίβα απειλών εμφανίζονται επανειλημμένα σε όλα τα εταιρικά περιβάλλοντα.
Διήθηση δεδομένων μέσω προτροπών AI. Οι εργαζόμενοι επικολλούν ευαίσθητα δεδομένα σε εργαλεία τεχνητής νοημοσύνης χωρίς πρόθεση να τα υποκλέψουν. Το αποτέλεσμα είναι το ίδιο: τα ιδιόκτητα δεδομένα εγκαταλείπουν τον οργανισμό μέσω ενός καναλιού που η στοίβα ασφαλείας δεν μπορεί να παρακολουθήσει. Το 89% των συνδέσεων μέσω τεχνητής νοημοσύνης παρακάμπτουν την εποπτεία της επιχείρησης.
Άμεση ένεση. Οι αντίπαλοι ενσωματώνουν κακόβουλες οδηγίες σε έγγραφα, ιστοσελίδες ή email που διαβάζουν εργαλεία τεχνητής νοημοσύνης. Το μοντέλο ακολουθεί τις οδηγίες που έχουν εισαχθεί και όχι την πρόθεση του χρήστη. Σε εταιρικά περιβάλλοντα που χρησιμοποιούν εργαλεία έρευνας ή email με τη βοήθεια τεχνητής νοημοσύνης, αυτό δεν απαιτεί ειδική πρόσβαση.
Shadow AI και μη εξουσιοδοτημένοι λογαριασμοί. Το 50% της δραστηριότητας επικόλλησης στο GenAI περιλαμβάνει εταιρικά δεδομένα. Οι πολιτικές διακυβέρνησης που έχουν συνταχθεί για εταιρικούς λογαριασμούς δεν παρέχουν καμία κάλυψη όταν οι εργαζόμενοι χρησιμοποιούν προσωπικούς λογαριασμούς ChatGPT, προσωπικούς λογαριασμούς Grammarly ή προσωπικούς λογαριασμούς Copilot σε εταιρικές συσκευές.
Πού εκτελούνται οι κίνδυνοι DLP της Γενετικής Τεχνητής Νοημοσύνης (Generative AI) στο εταιρικό περιβάλλον;
Η απάντηση στην οποία αντιστέκονται οι περισσότερες ομάδες ασφαλείας είναι η απλούστερη: μέσα στην περίοδο λειτουργίας του προγράμματος περιήγησης.
Τα εργαλεία δικτύου βρίσκονται εκτός της περιόδου σύνδεσης. Βλέπουν μεταδεδομένα κυκλοφορίας, όχι περιεχόμενο. Τα εργαλεία τελικού σημείου αντιμετωπίζουν το πρόγραμμα περιήγησης ως μία μόνο διεργασία. Βλέπουν τη δραστηριότητα του συστήματος αρχείων, όχι τι πληκτρολογεί ένας χρήστης σε ένα πεδίο κειμένου. Τα εργαλεία ταυτότητας επιβεβαιώνουν τον έλεγχο ταυτότητας. Δεν βλέπουν τι συμβαίνει στην περίοδο σύνδεσης που έχει υποβληθεί σε έλεγχο ταυτότητας.
Κάθε σημαντικό σενάριο κινδύνου γενετικής τεχνητής νοημοσύνης (AI) για DLP εκτυλίσσεται σε αυτό το κενό. Ο εκπρόσωπος πωλήσεων που αντέγραψε μια εξαγωγή CRM στο ChatGPT για να γράψει ένα email παρακολούθησης; Αυτό συνέβη στο πρόγραμμα περιήγησης. Ο μηχανικός που επικόλλησε τα διαπιστευτήρια παραγωγής στο Copilot για να εντοπίσει σφάλματα σε ένα σενάριο; Το πρόγραμμα περιήγησης. Ο οικονομικός αναλυτής που ανέβασε τις προβλέψεις του τρίτου τριμήνου για να τις συνοψίσει πριν από μια συνεδρίαση του διοικητικού συμβουλίου; Επίσης, το πρόγραμμα περιήγησης.
Η συνεδρία του προγράμματος περιήγησης δεν είναι απλώς μία επιφάνεια επίθεσης μεταξύ πολλών άλλων. Για τους περισσότερους εργαζόμενους γνώσης, είναι το κύριο περιβάλλον εργασίας. Για τον επιχειρηματικό κίνδυνο που σχετίζεται με την τεχνητή νοημοσύνη, είναι ο κύριος. Η ασφάλεια των επεκτάσεων του προγράμματος περιήγησης επιδεινώνει περαιτέρω την κατάσταση: οι επεκτάσεις φέρουν τους δικούς τους κινδύνους δικαιωμάτων και έκθεσης σε δεδομένα που βρίσκονται εξ ολοκλήρου στο επίπεδο του προγράμματος περιήγησης.
Πώς οι ομάδες ασφαλείας δημιουργούν ένα πρόγραμμα Generative AI DLP που λειτουργεί πραγματικά;
Ένα πραγματικό πρόγραμμα DLP γενετικής τεχνητής νοημοσύνης ξεκινά με την ορατότητα. Οι ομάδες ασφαλείας δεν μπορούν να ελέγξουν αυτό που δεν μπορούν να δουν. Αυτό σημαίνει παρακολούθηση σε επίπεδο συνεδρίας των αλληλεπιδράσεων των εργαλείων τεχνητής νοημοσύνης, όχι απλώς καταγραφή σε επίπεδο δικτύου των συνδέσεων με τομείς τεχνητής νοημοσύνης.
Από την ορατότητα, το επόμενο βήμα είναι η ταξινόμηση. Δεν έχουν όλα τα δεδομένα που υποβάλλονται σε εργαλεία τεχνητής νοημοσύνης τον ίδιο κίνδυνο. Ο πηγαίος κώδικας διαφέρει από μια δημόσια ανάρτηση ιστολογίου. Τα προσωπικά δεδομένα των πελατών διαφέρουν από ένα γενικό ερευνητικό ερώτημα. Η ταξινόμηση επιτρέπει στις ομάδες ασφαλείας να εφαρμόζουν σταδιακή επιβολή αντί για δυαδικές αποφάσεις αποδοχής/αποκλεισμού που οι χρήστες παρακάμπτουν.
Οι επιλογές επιβολής θα πρέπει να αντικατοπτρίζουν τον τρόπο με τον οποίο ο οργανισμός χρησιμοποιεί στην πραγματικότητα την Τεχνητή Νοημοσύνη. Μόνο παρακολούθηση για αλληλεπιδράσεις χαμηλού κινδύνου. Προειδοποιήσεις χρήστη με αιτιολόγηση για υποβολές μεσαίου κινδύνου. Αυτόματη επεξεργασία ή αποκλεισμός για μοτίβα δεδομένων υψηλού κινδύνου. Στόχος είναι η απρόσκοπτη επιβολή για το 95% των αλληλεπιδράσεων που είναι καλοήθεις και η ακριβής παρέμβαση για το 5% που δεν είναι.
Έλεγχοι χρήσης τεχνητής νοημοσύνης παρέχουν το επίπεδο πολιτικής που καθιστά την εφαρμογή συνεπή σε όλα τα εργαλεία, τους χρήστες και τις συσκευές, συμπεριλαμβανομένων των μη διαχειριζόμενων συσκευών όπου οι παραδοσιακοί πράκτορες δεν μπορούν να φτάσουν.
Πώς αντιμετωπίζει η επιβολή σε επίπεδο προγράμματος περιήγησης τις προκλήσεις του Generation AI DLP;
Οι περισσότερες απειλές DLP που σχετίζονται με την γενετική τεχνητή νοημοσύνη εκτελούνται εντός της περιόδου λειτουργίας του προγράμματος περιήγησης. Η αντιμετώπισή τους απαιτεί επιβολή σε αυτό το επίπεδο, όχι πάνω ή κάτω από αυτό.
Το LayerX λειτουργεί ως επέκταση προγράμματος περιήγησης για επιχειρήσεις, παρέχοντας ορατότητα και έλεγχο σε πραγματικό χρόνο στις αλληλεπιδράσεις των εργαλείων τεχνητής νοημοσύνης σε επίπεδο συνεδρίας. Παρακολουθεί τι επικολλούν οι εργαζόμενοι στο ChatGPT, το Copilot και το Gemini. Όταν το περιεχόμενο ταιριάζει με ευαίσθητους ταξινομητές δεδομένων ή πρότυπα συμπεριφοράς, το LayerX μπορεί να προειδοποιήσει τον χρήστη, να διαγράψει το ευαίσθητο στοιχείο ή να αποτρέψει εντελώς την υποβολή, χωρίς να εμποδίσει την πρόσβαση στο εργαλείο τεχνητής νοημοσύνης.
Για την shadow AI, το LayerX παρέχει συνεχή ανακάλυψη κάθε εφαρμογής AI που χρησιμοποιείται σε ολόκληρο τον οργανισμό, συμπεριλαμβανομένων εργαλείων που δεν έχουν εγκριθεί ποτέ από το IT και προσωπικών λογαριασμών που χρησιμοποιούνται για την πρόσβαση σε εγκεκριμένα εργαλεία. Οι ομάδες ασφαλείας μπορούν να δουν ακριβώς ποια εργαλεία εκτελούνται, ποιος τα χρησιμοποιεί και ποια δεδομένα ρέουν σε κάθε συνεδρία.
Για την τεχνητή νοημοσύνη των πρακτόρων, το LayerX είναι η μόνη πλατφόρμα ασφαλείας με ορατότητα και επιβολή σε σχέση με τα προγράμματα περιήγησης τεχνητής νοημοσύνης των πρακτόρων, συμπεριλαμβανομένων των ChatGPT Atlas, Perplexity Comet και Dia.
Τι σημαίνει το Generation AI DLP για τη διακυβέρνηση και τη συμμόρφωση με την Τεχνητή Νοημοσύνη;
Η νομοθεσία προχωρά. Αργά, αλλά προχωρά. Ο νόμος της ΕΕ για την τεχνητή νοημοσύνη, το NIST AI RMF και το ISO 42001 ασχολούνται με τη διαχείριση κινδύνων τεχνητής νοημοσύνης σε επίπεδο πολιτικής. ΜΗΤΡΟΥ ΑΤΛΑΣ παρέχει την τεχνική ταξινόμηση που αντιστοιχίζει συγκεκριμένες τεχνικές επίθεσης τεχνητής νοημοσύνης σε συγκεκριμένους ελέγχους.
Τα διοικητικά συμβούλια αρχίζουν να θέτουν συγκεκριμένα ερωτήματα. Μπορείτε να δείξετε ποια δεδομένα ρέουν μέσω των εργαλείων τεχνητής νοημοσύνης σας, ποια στοιχεία ελέγχου διέπουν αυτήν τη ροή και τι συμβαίνει όταν παραβιάζεται μια πολιτική; Οι ομάδες χωρίς ορατότητα σε επίπεδο συνεδρίας στις αλληλεπιδράσεις της τεχνητής νοημοσύνης δεν μπορούν να απαντήσουν σε αυτά τα ερωτήματα με αποδεικτικά στοιχεία.
Η κατεύθυνση είναι συνεπής σε όλα τα πλαίσια. Η διακυβέρνηση της Τεχνητής Νοημοσύνης μετακινείται από την πολιτική στην τεχνική επιβολή. Οι ομάδες ασφαλείας που δημιουργούν Ασφάλεια Γενετικής Τεχνητής Νοημοσύνης Τα προγράμματα που βασίζονται τώρα στην ορατότητα σε επίπεδο συνεδρίας, θα τοποθετηθούν μπροστά από τις απαιτήσεις που βρίσκονται ακόμη σε στάδιο οριστικοποίησης.
Για περισσότερες πληροφορίες σχετικά με το πώς το LayerX αντιμετωπίζει αυτό, βλ. Πρόληψη κατάχρησης τεχνητής νοημοσύνηςΓια περισσότερες πληροφορίες σχετικά με το πώς το LayerX αντιμετωπίζει αυτό, βλ. ασφάλεια επέκτασης προγράμματος περιήγησης.
Συχνές ερωτήσεις
Ισχύει το Generative AI DLP σε εργαλεία AI που βασίζονται σε προγράμματα περιήγησης;
Για τις ομάδες ασφάλειας επιχειρήσεων, αυτό το ερώτημα καταλήγει στην ορατότητα σε επίπεδο περιόδου σύνδεσης. Τα παραδοσιακά στοιχεία ελέγχου δικτύου και τελικών σημείων δεν μπορούν να δουν τις αλληλεπιδράσεις μέσα σε εργαλεία τεχνητής νοημοσύνης που βασίζονται σε προγράμματα περιήγησης. Η επιβολή σε επίπεδο προγράμματος περιήγησης, όπως η επέκταση Enterprise Browser της LayerX, αντιμετωπίζει αυτό το κενό παρακολουθώντας και επιβάλλοντας πολιτικές στο ακριβές σημείο όπου λαμβάνει χώρα η αλληλεπίδραση.
Ποια εργαλεία βοηθούν με το Generative AI DLP σε εταιρικά περιβάλλοντα;
Για τις ομάδες ασφάλειας επιχειρήσεων, αυτό το ερώτημα καταλήγει στην ορατότητα σε επίπεδο περιόδου σύνδεσης. Τα παραδοσιακά στοιχεία ελέγχου δικτύου και τελικών σημείων δεν μπορούν να δουν τις αλληλεπιδράσεις μέσα σε εργαλεία τεχνητής νοημοσύνης που βασίζονται σε προγράμματα περιήγησης. Η επιβολή σε επίπεδο προγράμματος περιήγησης, όπως η επέκταση Enterprise Browser της LayerX, αντιμετωπίζει αυτό το κενό παρακολουθώντας και επιβάλλοντας πολιτικές στο ακριβές σημείο όπου λαμβάνει χώρα η αλληλεπίδραση.
Πώς σχετίζεται το Generation AI DLP με Τεχνητή Νοημοσύνη DLP?
Για τις ομάδες ασφάλειας επιχειρήσεων, αυτό το ερώτημα καταλήγει στην ορατότητα σε επίπεδο περιόδου σύνδεσης. Τα παραδοσιακά στοιχεία ελέγχου δικτύου και τελικών σημείων δεν μπορούν να δουν τις αλληλεπιδράσεις μέσα σε εργαλεία τεχνητής νοημοσύνης που βασίζονται σε προγράμματα περιήγησης. Η επιβολή σε επίπεδο προγράμματος περιήγησης, όπως η επέκταση Enterprise Browser της LayerX, αντιμετωπίζει αυτό το κενό παρακολουθώντας και επιβάλλοντας πολιτικές στο ακριβές σημείο όπου λαμβάνει χώρα η αλληλεπίδραση.
