… L’un des risques les plus importants lié à l’utilisation d’un outil IAG – Intelligence Artificielle – réside dans l’authenticité de l’information produite par une photo, par une vidéo, par un écrit, postés sur Internet et notamment sur les réseaux sociaux les plus fréquentés tel que Facebook et Instagram…
Voici un document à consulter, relatif aux dangers de l’intelligence artificielle générative, du CESI, Centre d’expertise en sécurité de l’information, de l’Université du Québec :
dangers-intelligence-artificielle-v1-long-20241004.pdf
… Notamment ce paragraphe :
Pour se protéger contre les hypertrucages, il est essentiel de vérifier systématiquement l'identité des demandeurs en cas de requête urgente, notamment par un autre canal comme un appel direct. Il faut également rester vigilant face aux comportements inhabituels, provenant même de sources de confiance. Enfin, limiter la diffusion d'informations personnelles en ligne réduit les risques que ces données soient exploitées pour des tentatives de manipulation.
… Une « requête urgente » en effet, peut être celle qui est adressée sous la forme d’un couriel par une ou plusieurs personnes en association, dans le but de nuire à la réputation de quelqu’un en particulier, et surtout, de tenter, par chantage, de soutirer une somme d’argent relativement importante.
Ainsi dans un premier temps est proférée une menace qui incite à réagir le plus rapidement possible. Et si la menace n’est pas prise en compte, alors sont diffusées de fausses informations sous la forme d’images produites, récupérées, accompagnées d’écrits… Bien sûr, de telles images et de tels écrits en réalité, n’ont jamais été postés…
C’est si grave, une telle malveillance, que cela peut entraîner jusqu’à une enquête de police, jusqu’à des poursuites judiciaires et à une condamnation pénale… Dans la mesure où ont été produites des « preuves » sous forme d’images et d’écrits, et accompagnées, ces « documents », de témoignages « fabriqués »…
Les techniques d’hameçonnage, déjà très efficaces, se voient aujourd'hui renforcées par la simplicité d'utilisation des outils d'IAG. Des enregistrements audios, des photos ou encore des imitations vocales d'un proche, d'une personne influente au sein d'une entreprise ou d'un ami peuvent être utilisés pour créer des situations urgentes et convaincantes, telles que des demandes de transferts bancaires ou la divulgation d'informations sensibles. La confiance suscitée par ces hypertrucages amplifie considérablement le taux de succès de ces tentatives d'hameçonnage.
Il y a ce dilemme qui est celui du choix entre s’exprimer et produire du texte, de l’image, sous un pseudonyme et sous un avatar, et donc sans aucune indication, aucune représentation de son vrai visage et sans jamais communiquer la moindre information personnelle, de sa vie privée, de sa famille, de ses enfants… Ce qui, en quelque sorte « sécurise » ce qui est produit (et son auteur) – ou du moins « tend à sécuriser »…
Et « se produire » en s’identifiant avec son vrai visage, son vrai nom ; ce qui bien sûr peut sembler préférable si l’on veut être reconnu par ses connaissances là où l’on vit et l’on exerce son activité (travail, emploi, implication dans une association, etc. )… Mais avec le risque d’exposition à des malveillances…
C’est là, oui, une dilemme…
Reste que – à mon sens – si l’on n’a point sur le « mur sur lequel tout le monde écrit ou trace » une « ribambelle d’amis – de plus de par exemple 50 personnes ; et si l’on n’est pas un personnage influent – avec un certain rayonnement – et si, pour peu que l’on ait quand même « un certain rayonnement » mais que l’on veille à ne pas « directement divulguer » et à produire du récit avec des personnages fictifs, si en quelque sorte on « habille » ou « enfouit dans des généralités » ; en somme si l’on rend difficile une tentative de malveillance parce que rien ne nous fait accuser formellement… Alors le risque est moindre, même s’il demeure potentiel…
L’intelligence artificielle dis-je… En dépit de son immense puissance et pouvoir, peut-être « coiffée sur le poteau » ou « battue à la course »… N’oublions jamais que le cerveau humain, au naturel, fonctionne comme un ordinateur dont le disque dur a une capacité de stockage de données de cent milliards de tétra-octets… Et que l’intelligence artificielle finalement ne sera jamais que le produit de l’intelligence humaine via les ingénieurs et les chercheurs de la Silicon Valley et de Shangaï City au service des Elon Musk and Cie !