Ανακάλυψη Shadow Saas Αναφέρεται στην κατηγορία κινδύνου ασφαλείας που προκύπτει όταν οι υπάλληλοι της επιχείρησης, οι πράκτορες Τεχνητής Νοημοσύνης ή οι αυτοματοποιημένες ροές εργασίας αλληλεπιδρούν με εργαλεία Τεχνητής Νοημοσύνης, εφαρμογές SaaS και υπηρεσίες ιστού μέσω του προγράμματος περιήγησης. Οι περισσότερες από αυτές τις αλληλεπιδράσεις είναι αόρατες στα παραδοσιακά στοιχεία ελέγχου ασφαλείας που λειτουργούν στο επίπεδο δικτύου και τελικού σημείου. Η συνεδρία του προγράμματος περιήγησης είναι το σημείο όπου εκτελείται ο κίνδυνος και όπου πρέπει να πραγματοποιείται η επιβολή.
Τι είναι η ανακάλυψη shadow saaS και γιατί είναι σημαντική για την ασφάλεια των επιχειρήσεων;
Το Shadow SaaS Discovery βρίσκεται στο σημείο τομής μεταξύ της υιοθέτησης της Τεχνητής Νοημοσύνης και της ασφάλειας των επιχειρήσεων. Καθώς οι οργανισμοί αναπτύσσουν το ChatGPT, το Microsoft Copilot, το Claude, το Grammarly και εκατοντάδες εργαλεία SaaS ενσωματωμένα στην Τεχνητή Νοημοσύνη, αναδύεται μια νέα κατηγορία κινδύνου στο σημείο όπου οι εργαζόμενοι αλληλεπιδρούν με αυτά τα εργαλεία.
Τα παραδοσιακά πλαίσια ασφαλείας σχεδιάστηκαν για έναν διαφορετικό κόσμο. Τα στοιχεία ελέγχου δικτύου βλέπουν τη σύνδεση. Οι πράκτορες τελικού σημείου βλέπουν τη διαδικασία. Κανένας από τους δύο δεν βλέπει τι συμβαίνει μέσα στην περίοδο λειτουργίας του προγράμματος περιήγησης όταν ένας υπάλληλος επικολλά τον πηγαίο κώδικα στο GitHub Copilot ή υποβάλλει μια λίστα πελατών στο ChatGPT. Αυτό το τυφλό σημείο είναι το βασικό πρόβλημα.
Το 45% των εργαζομένων σε επιχειρήσεις χρησιμοποιούν ενεργά εργαλεία Τεχνητής Νοημοσύνης. Οι ομάδες ασφαλείας που δεν έχουν αντιμετωπίσει αυτό το επίπεδο διαχειρίζονται τον κίνδυνο της Τεχνητής Νοημοσύνης με εργαλεία που δεν μπορούν να δουν την αλληλεπίδραση που προσπαθούν να ελέγξουν.
Πώς επηρεάζει η ανακάλυψη shadow saaS οργανισμούς που χρησιμοποιούν εργαλεία τεχνητής νοημοσύνης όπως το ChatGPT και το Microsoft Copilot;
Τα ChatGPT, Microsoft Copilot και Gemini αποτελούν πλέον τυπικά εργαλεία για τους εργαζόμενους γνώσης σε νομικά, χρηματοοικονομικά, μηχανικά και λειτουργικά θέματα. Κάθε αλληλεπίδραση δημιουργεί πιθανή έκθεση.
Το 77% των εργαζομένων επικολλούν δεδομένα σε μηνύματα GenAI. Τα δεδομένα που ρέουν μέσω αυτών των αλληλεπιδράσεων περιλαμβάνουν πηγαίο κώδικα, αρχεία πελατών, οικονομικές προβλέψεις και προσωπικά δεδομένα (PII). Μετακινούνται ως κανονική κίνηση HTTPS σε εγκεκριμένους τομείς. Το Network DLP βλέπει μια εγκεκριμένη σύνδεση. Το Endpoint DLP βλέπει το πρόγραμμα περιήγησης ως μία μόνο διεργασία. Κανένα από τα δύο δεν βλέπει τα δεδομένα σε κίνηση εντός της περιόδου σύνδεσης.
Η επίπτωση της συμμόρφωσης είναι άμεση. Μια ομάδα ασφαλείας που δεν μπορεί να δει τι υποβάλλουν οι εργαζόμενοι στο Copilot δεν μπορεί να αποδείξει τον έλεγχο αυτού του καναλιού δεδομένων σε έναν ελεγκτή. Η πολιτική χωρίς τεχνική επιβολή δεν αποτελεί έλεγχο.
Ποιες είναι οι πιο συνηθισμένες απειλές ανακάλυψης shadow saas που αντιμετωπίζουν οι ομάδες ασφαλείας σήμερα;
Οι απειλές που αντιμετωπίζουν συχνότερα οι επαγγελματίες εμπίπτουν σε τρεις κατηγορίες.
Διήθηση δεδομένων μέσω προτροπών AI. Οι εργαζόμενοι επικολλούν ευαίσθητα δεδομένα σε εργαλεία τεχνητής νοημοσύνης χωρίς πρόθεση να τα υποκλέψουν. Το αποτέλεσμα είναι το ίδιο: ιδιόκτητα δεδομένα εγκαταλείπουν τον οργανισμό μέσω ενός καναλιού που η στοίβα ασφαλείας δεν μπορεί να παρακολουθήσει. Το 89% των συνδέσεων με τεχνητή νοημοσύνη παρακάμπτουν την εποπτεία της επιχείρησης
Άμεση ένεση. Οι αντίπαλοι ενσωματώνουν κακόβουλες οδηγίες σε έγγραφα, ιστοσελίδες ή email που διαβάζουν εργαλεία τεχνητής νοημοσύνης. Το μοντέλο ακολουθεί τις οδηγίες που έχουν εισαχθεί και όχι την πρόθεση του χρήστη. Σε εταιρικά περιβάλλοντα που χρησιμοποιούν εργαλεία έρευνας ή email με τη βοήθεια τεχνητής νοημοσύνης, αυτό δεν απαιτεί ειδική πρόσβαση.
Shadow AI και μη εξουσιοδοτημένοι λογαριασμοί. Η πλειονότητα της πρόσβασης σε εργαλεία τεχνητής νοημοσύνης σε εταιρικά περιβάλλοντα γίνεται μέσω προσωπικών λογαριασμών που δεν έχουν ποτέ παρασχεθεί από το τμήμα IT. Οι πολιτικές διακυβέρνησης που έχουν συνταχθεί για εταιρικούς λογαριασμούς δεν παρέχουν καμία κάλυψη όταν οι εργαζόμενοι χρησιμοποιούν προσωπικούς λογαριασμούς ChatGPT, Grammarly ή Copilot σε εταιρικές συσκευές.
Πού εκτελούνται οι κίνδυνοι ανακάλυψης shadow saas στο εταιρικό περιβάλλον;
Η απάντηση στην οποία αντιστέκονται οι περισσότερες ομάδες ασφαλείας είναι η απλούστερη: μέσα στην περίοδο λειτουργίας του προγράμματος περιήγησης.
Τα εργαλεία δικτύου βρίσκονται εκτός της περιόδου σύνδεσης. Βλέπουν μεταδεδομένα κυκλοφορίας, όχι περιεχόμενο. Τα εργαλεία τελικού σημείου αντιμετωπίζουν το πρόγραμμα περιήγησης ως μία μόνο διεργασία. Βλέπουν τη δραστηριότητα του συστήματος αρχείων, όχι τι πληκτρολογεί ένας χρήστης σε ένα πεδίο κειμένου. Τα εργαλεία ταυτότητας επιβεβαιώνουν τον έλεγχο ταυτότητας. Δεν βλέπουν τι συμβαίνει στην περίοδο σύνδεσης που έχει υποβληθεί σε έλεγχο ταυτότητας.
Κάθε σημαντικό σενάριο κινδύνου ανακάλυψης σκιώδους SaaS εκτυλίσσεται σε αυτό το κενό. Ο υπάλληλος που επικολλά δεδομένα πελατών στο ChatGPT βρίσκεται στο πρόγραμμα περιήγησης. Ο προγραμματιστής που υποβάλλει κλειδιά API σε έναν βοηθό κωδικοποίησης βρίσκεται στο πρόγραμμα περιήγησης. Ο οικονομικός αναλυτής που ανεβάζει ένα μοντέλο προϋπολογισμού σε ένα εργαλείο τεχνητής νοημοσύνης βρίσκεται στο πρόγραμμα περιήγησης. Ο πράκτορας τεχνητής νοημοσύνης που διαβάζει ένα έγγραφο που περιέχει ενσωματωμένες οδηγίες βρίσκεται στο πρόγραμμα περιήγησης.
Η συνεδρία του προγράμματος περιήγησης δεν είναι απλώς μία επιφάνεια επίθεσης μεταξύ πολλών άλλων. Για τον επιχειρηματικό κίνδυνο που σχετίζεται με την τεχνητή νοημοσύνη, είναι η κύρια.
Πώς οι ομάδες ασφαλείας δημιουργούν ένα πρόγραμμα ανακάλυψης shadow saas που να λειτουργεί πραγματικά;
Ένα αξιόπιστο πρόγραμμα ανακάλυψης shadow saaS ξεκινά με την ορατότητα. Οι ομάδες ασφαλείας δεν μπορούν να ελέγξουν αυτό που δεν μπορούν να δουν. Αυτό σημαίνει παρακολούθηση σε επίπεδο συνεδρίας των αλληλεπιδράσεων των εργαλείων τεχνητής νοημοσύνης, όχι απλώς καταγραφή σε επίπεδο δικτύου των συνδέσεων με τομείς τεχνητής νοημοσύνης.
Από την ορατότητα, το επόμενο βήμα είναι η ταξινόμηση. Δεν έχουν όλα τα δεδομένα που υποβάλλονται σε εργαλεία τεχνητής νοημοσύνης τον ίδιο κίνδυνο. Ο πηγαίος κώδικας διαφέρει από μια δημόσια ανάρτηση ιστολογίου. Τα προσωπικά δεδομένα των πελατών διαφέρουν από ένα γενικό ερευνητικό ερώτημα. Η ταξινόμηση επιτρέπει στις ομάδες ασφαλείας να εφαρμόζουν σταδιακή επιβολή αντί για δυαδικές αποφάσεις αποδοχής/αποκλεισμού που οι χρήστες παρακάμπτουν.
Οι επιλογές επιβολής θα πρέπει να αντικατοπτρίζουν τον τρόπο με τον οποίο ο οργανισμός χρησιμοποιεί στην πραγματικότητα την Τεχνητή Νοημοσύνη. Μόνο παρακολούθηση για αλληλεπιδράσεις χαμηλού κινδύνου. Προειδοποιήσεις χρήστη με αιτιολόγηση για υποβολές μεσαίου κινδύνου. Αυτόματη επεξεργασία ή αποκλεισμός για μοτίβα δεδομένων υψηλού κινδύνου. Στόχος είναι η απρόσκοπτη επιβολή για το 95% των αλληλεπιδράσεων που είναι καλοήθεις και η ακριβής παρέμβαση για το 5% που δεν είναι.
Οι κύκλοι αξιολόγησης ολοκληρώνουν το πρόγραμμα. Τα πρότυπα χρήσης εργαλείων τεχνητής νοημοσύνης εξελίσσονται γρήγορα. Μια πολιτική που έχει συνταχθεί για τα εργαλεία που χρησιμοποιούνται σήμερα θα χάσει το εργαλείο που εμφανίστηκε χθες το απόγευμα.
Πώς αντιμετωπίζει η επιβολή σε επίπεδο προγράμματος περιήγησης τις προκλήσεις ανακάλυψης shadow saas;
Οι περισσότερες απειλές εντοπισμού shadow saas εκτελούνται εντός της περιόδου λειτουργίας του προγράμματος περιήγησης. Η αντιμετώπισή τους απαιτεί επιβολή σε αυτό το επίπεδο, όχι πάνω ή κάτω από αυτό.
Το LayerX λειτουργεί ως Enterprise Browser Επέκταση, που παρέχει ορατότητα και έλεγχο σε πραγματικό χρόνο στις αλληλεπιδράσεις των εργαλείων τεχνητής νοημοσύνης σε επίπεδο συνεδρίας. Παρακολουθεί τι επικολλούν οι εργαζόμενοι στο ChatGPT, το Copilot, το Claude και το Gemini. Όταν το περιεχόμενο ταιριάζει με ευαίσθητους ταξινομητές δεδομένων ή πρότυπα συμπεριφοράς, το LayerX μπορεί να προειδοποιήσει τον χρήστη, να διαγράψει το ευαίσθητο στοιχείο ή να αποτρέψει εντελώς την υποβολή, χωρίς να εμποδίσει την πρόσβαση στο εργαλείο τεχνητής νοημοσύνης.
Για την shadow AI, το LayerX παρέχει συνεχή ανακάλυψη κάθε εφαρμογής AI που χρησιμοποιείται σε ολόκληρο τον οργανισμό, συμπεριλαμβανομένων εργαλείων που δεν έχουν εγκριθεί ποτέ από το IT και προσωπικών λογαριασμών που χρησιμοποιούνται για την πρόσβαση σε εγκεκριμένα εργαλεία. Οι ομάδες ασφαλείας μπορούν να δουν ακριβώς ποια εργαλεία εκτελούνται, ποιος τα χρησιμοποιεί και ποια δεδομένα ρέουν σε κάθε συνεδρία.
Για την τεχνητή νοημοσύνη των πρακτόρων, το LayerX είναι η μόνη πλατφόρμα ασφαλείας με ορατότητα και επιβολή σε σχέση με τα προγράμματα περιήγησης τεχνητής νοημοσύνης των πρακτόρων, συμπεριλαμβανομένων των ChatGPT Atlas, Perplexity Comet και Dia. Καθώς οι πράκτορες τεχνητής νοημοσύνης αναλαμβάνουν αυτόνομες ενέργειες μέσα στο πρόγραμμα περιήγησης, το LayerX παρέχει την επιφάνεια επιβολής που καθιστά αυτές τις ενέργειες παρατηρήσιμες και ελεγχόμενες.
Τι σημαίνει η ανακάλυψη σκιωδών SaaS για τη διακυβέρνηση και τη συμμόρφωση με την Τεχνητή Νοημοσύνη;
Τα κανονιστικά πλαίσια καλύπτουν όλο και περισσότερο τον κίνδυνο που σχετίζεται με την τεχνητή νοημοσύνη στις επιχειρήσεις. Ο νόμος περί τεχνητής νοημοσύνης της ΕΕ, το πρότυπο NIST AI RMF και το ISO 42001 ασχολούνται με τη διαχείριση κινδύνων τεχνητής νοημοσύνης σε επίπεδο πολιτικής. Το MITRE ATLAS παρέχει την τεχνική ταξινόμηση που αντιστοιχίζει συγκεκριμένες τεχνικές επίθεσης τεχνητής νοημοσύνης σε συγκεκριμένους ελέγχους. Μαζί, δημιουργούν μια επιφάνεια συμμόρφωσης την οποία οι ομάδες ασφαλείας πρέπει ολοένα και περισσότερο να επιδεικνύουν κάλυψη.
Για τις ενημερωτικές επιτροπές των CISO, η πρακτική απαίτηση είναι απλή: μπορείτε να δείξετε ποια δεδομένα ρέουν μέσω των εργαλείων τεχνητής νοημοσύνης σας, ποια στοιχεία ελέγχου διέπουν αυτήν τη ροή και τι συμβαίνει όταν παραβιάζεται μια πολιτική; Οι οργανισμοί χωρίς ορατότητα σε επίπεδο συνεδρίας στις αλληλεπιδράσεις της τεχνητής νοημοσύνης δεν μπορούν να απαντήσουν σε αυτά τα ερωτήματα με αποδεικτικά στοιχεία.
Η κατεύθυνση είναι συνεπής σε όλα τα πλαίσια. Διακυβέρνηση AI μεταβαίνει από την πολιτική στην τεχνική επιβολή. Ομάδες ασφαλείας που δημιουργούν Έλεγχοι χρήσης τεχνητής νοημοσύνης τώρα, βασισμένο στην ορατότητα σε επίπεδο περιόδου σύνδεσης, θα τοποθετηθεί μπροστά από τις απαιτήσεις που βρίσκονται ακόμη σε στάδιο οριστικοποίησης.
Συχνές ερωτήσεις
Ισχύει η ανακάλυψη shadow saas σε εργαλεία τεχνητής νοημοσύνης που βασίζονται σε προγράμματα περιήγησης;
Για τις ομάδες ασφάλειας επιχειρήσεων, το ερώτημα αν η ανακάλυψη shadow saaS εφαρμόζεται σε εργαλεία τεχνητής νοημοσύνης που βασίζονται σε προγράμματα περιήγησης περιλαμβάνει την κατανόηση των αλληλεπιδράσεων σε επίπεδο περιόδου σύνδεσης που συμβαίνουν στο πρόγραμμα περιήγησης όταν οι εργαζόμενοι χρησιμοποιούν εργαλεία τεχνητής νοημοσύνης. Τα παραδοσιακά στοιχεία ελέγχου δικτύου και τελικών σημείων δεν μπορούν να δουν αυτές τις αλληλεπιδράσεις. Η επιβολή σε επίπεδο προγράμματος περιήγησης, όπως αυτή που παρέχεται από την επέκταση Enterprise Browser της LayerX, αντιμετωπίζει αυτό το κενό παρακολουθώντας και επιβάλλοντας πολιτικές στο σημείο αλληλεπίδρασης.
Ποια εργαλεία βοηθούν στην ανακάλυψη shadow saas σε εταιρικά περιβάλλοντα;
Για τις ομάδες ασφάλειας επιχειρήσεων, τα εργαλεία που βοηθούν στην ανακάλυψη shadow saaS σε εταιρικά περιβάλλοντα περιλαμβάνουν την κατανόηση των αλληλεπιδράσεων σε επίπεδο περιόδου σύνδεσης που συμβαίνουν στο πρόγραμμα περιήγησης όταν οι εργαζόμενοι χρησιμοποιούν εργαλεία τεχνητής νοημοσύνης. Τα παραδοσιακά στοιχεία ελέγχου δικτύου και τελικών σημείων δεν μπορούν να δουν αυτές τις αλληλεπιδράσεις. Η επιβολή σε επίπεδο προγράμματος περιήγησης, όπως αυτή που παρέχεται από την επέκταση Enterprise Browser της LayerX, αντιμετωπίζει αυτό το κενό παρακολουθώντας και επιβάλλοντας πολιτικές στο σημείο αλληλεπίδρασης.
Πώς σχετίζεται η ανακάλυψη shadow saas με την πρόληψη απώλειας δεδομένων;
Για τις ομάδες ασφάλειας επιχειρήσεων, ο τρόπος με τον οποίο η ανακάλυψη shadow saaS σχετίζεται με την πρόληψη απώλειας δεδομένων περιλαμβάνει την κατανόηση των αλληλεπιδράσεων σε επίπεδο περιόδου σύνδεσης που συμβαίνουν στο πρόγραμμα περιήγησης όταν οι εργαζόμενοι χρησιμοποιούν εργαλεία τεχνητής νοημοσύνης. Τα παραδοσιακά στοιχεία ελέγχου δικτύου και τελικών σημείων δεν μπορούν να δουν αυτές τις αλληλεπιδράσεις. Η επιβολή σε επίπεδο προγράμματος περιήγησης, όπως αυτή που παρέχεται από την επέκταση Enterprise Browser της LayerX, αντιμετωπίζει αυτό το κενό παρακολουθώντας και επιβάλλοντας πολιτικές στο σημείο αλληλεπίδρασης.
