Le potentiel de l’IA est infini ! Cela signifie que nous ne savons pas toujours ce que chacun peut en faire, ce qui crée un risque accru au sein de votre entreprise.
Chaque mois voit de nouvelles utilisations de l’Intelligence Artificielle (IA) apparaitre. Demandez à n'importe qui de poser une question à une IA, et il pensera immédiatement à utiliser ChatGPT. Ce qui n’était pas le cas il y a encore quelques mois. Il s'agit de l'outil le plus accessible et le plus facile à utiliser à ce jour. Développé par OpenAI, ChatGPT permet à quiconque de lui poser des questions par l'intermédiaire d'un navigateur web et génère des réponses rapides et efficaces. C'est une excellente chose pour l'utilisateur, mais pour une entreprise, cette facilité d'utilisation masque de graves problèmes de sécurité...
OpenAI ne peut pas vraiment contrôler les données soumises à ChatGPT : OpenAI suit les requêtes faites par les utilisateurs afin de pouvoir améliorer ChatGPT, et de contrer tout abus. Il s'agit d'un comportement tout à fait raisonnable de la part d'OpenAI, mais il n'y a aucune raison de croire qu'elle prend soin des données qui lui sont soumises. En outre, OpenAI ne peut pas vraiment contrôler les données envoyées à ChatGPT, ce qui fait qu'elle finit par stocker beaucoup d'informations qui peuvent être sensibles.
ChatGPT répond à des questions sans citer ses sources : l’agent conversationnel élabore des déclarations basées sur ses résultats et, malheureusement, vous devez les prendre telles quelles. Ces informations pourraient être protégées par des droits d'auteur, et vous ne le saurez pas tant que vous n'aurez pas reçu une lettre d'avocats vous faisant part d'une violation. La génération de code est un autre sujet de préoccupation en termes de droits d’auteur, même s'il n'y a pas eu d'exemples concrets jusqu'à présent - mais cela semble inévitable.
ChatGPT peut avoir des « hallucinations » : les erreurs de l’agent conversationnel sont multiples, ce qui signifie que ChatGPT peut vous « raconter des mensonges purs et simples ». ChatGPT n'est pas transparent sur la manière dont il génère ses réponses : ses utilisateurs doivent donc être en mesure d'analyser ses réponses de manière critique afin de déterminer si elles sont vraies ou non.
Pour vous protéger, adoptez Vectra AI
Vectra NDR est conçu pour surveiller l'ensemble du trafic réseau au sein de votre organisation, avec des capteurs soigneusement placés qui surveillent le trafic entrant et sortant de votre réseau, mais aussi l'intérieur même de votre réseau.
Cette profondeur d'analyse alimente le puissant cadre de détection piloté par l'IA et permet également d'obtenir de puissantes informations sur la conformité, regroupées dans un tableau de bord disponible gratuitement pour tous les clients de la plateforme Vectra.
Ce tableau de bord montrera les hôtes de votre environnement qui interagissent activement avec OpenAI - en suivant les requêtes DNS vers les serveurs OpenAI faites par n'importe quel hôte. Cela permettra aux responsables de la conformité d’identifier rapidement non seulement les personnes qui ont des comptes OpenAI mais aussi de surveiller activement la manière dont ce système est utilisé. Ce tableau de bord est d'autant plus puissant qu'il s'appuie sur la technologie brevetée d'attribution d'ID d'hôte de Vectra, qui permet de rigoureusement suivre ces utilisateurs. Même si les adresses IP des machines changent, ou si un ordinateur portable rejoint un nouveau réseau, Vectra suivra cette machine comme s'il s'agissait de la même, de sorte que le tableau de bord montre exactement à quelle fréquence un appareil accède à ChatGPT.
Ce n'est qu'un exemple de la manière dont la plateforme Vectra offre une visibilité approfondie de l'activité au sein de votre organisation, montrant comment elle peut contribuer à la conformité de votre entreprise en suivant les problèmes de conformité actifs. Vectra vous permettra d’obtenir des informations précieuses non seulement sur ce qui est mal configuré dans votre organisation, mais aussi sur les risques de sécurité qui rôdent !